ระดับเนื้อหา: Overview / Implementation considerations
หลักการและการเลือกใช้
โครงข่ายประสาทเทียมประกอบด้วยน้ำหนัก bias และฟังก์ชันกระตุ้นที่สร้างความสัมพันธ์ไม่เชิงเส้น Loss นิยามสิ่งที่ต้องการลด ส่วน optimizer ใช้ gradient เปลี่ยนน้ำหนัก โครงข่ายไม่ใช่แบบจำลองสมองหรือหลักฐานเชิงเหตุผลโดยอัตโนมัติ
อธิบายง่าย ๆ แต่ละชั้นนำข้อมูลมาผสมแล้วเปลี่ยนรูป ก่อนส่งต่อให้ชั้นถัดไป น้ำหนักกำหนดว่าข้อมูลแต่ละส่วนมีอิทธิพลมากน้อยเพียงใด ส่วน bias เป็นค่าขยับผลรวม แม้เรียกว่าประสาทเทียม กระบวนการนี้เป็นการคำนวณตามพารามิเตอร์ที่เรียนมา ไม่ได้เข้าใจว่าความผิดของการอ่านเกจส่งผลต่อผู้ใช้เหมือนที่มนุษย์เข้าใจ
ฟังก์ชันกระตุ้นช่วยให้โครงข่ายแทนความสัมพันธ์ที่ไม่ใช่เส้นตรง ส่วน gradient บอกทิศทางเปลี่ยนน้ำหนักเพื่อลด loss ในบริเวณปัจจุบัน วิศวกรต้องกำหนดรูปร่างข้อมูลนำเข้าและความหมายของหัวส่งออก เช่น ค่าต่อเนื่องหรือคะแนนกลุ่ม พร้อมเลือกการปรับสเกลและข้อจำกัดให้ตรงกัน เพราะสถาปัตยกรรมเดียวกันไม่ทำให้ทุกหน่วยหรือทุกงานเข้ากันได้
เลื่อนแผนภาพซ้าย–ขวาเพื่อดูรายละเอียดครบทุกส่วน
ตัวอย่างในบริบทอุตสาหกรรม
ตัวอย่างเชิงออกแบบ: MLP รับคุณลักษณะความคมชัดและความสว่างเพื่อให้คะแนนภาพอ่านได้ แทนการป้อนภาพทั้งภาพ เหมาะกับการทดลองที่อธิบายตัวแปรนำเข้าได้
MLP คือโครงข่ายที่เชื่อมข้อมูลผ่านชั้นแบบหนาแน่น ในสถานการณ์สมมติ ภาพที่คมมากแต่สว่างจนเข็มหายควรได้ผลต่างจากภาพคมและเห็นเข็มครบ จึงอาจต้องมีคุณลักษณะแสงสะท้อนหรือความครบของบริเวณอ่านด้วย การเลือกตัวแปรต้องอธิบายเหตุผลของงาน ไม่เพิ่มทุกค่าที่หาได้แล้วหวังว่าโครงข่ายจะจัดการความหมายให้เอง
ตรวจตัวอย่างนำเข้าทีละรายการว่าความคมชัด ความสว่าง และค่าที่ขาดหายอยู่คอลัมน์ถูกต้อง ใช้สถิติการปรับสเกลชุดฝึกกับข้อมูลใหม่โดยไม่คำนวณใหม่ทุกครั้ง แล้วตรวจคะแนนก่อนและหลังเกณฑ์ตัดสิน หากเปลี่ยนลำดับคุณลักษณะ ผลอาจยังเป็นตัวเลขปกติแต่ไม่มีความหมาย จึงต้องมีตัวอย่างอ้างอิงสำหรับตรวจการเชื่อมต่อ ไม่เพียงตรวจว่าโปรแกรมไม่ล้ม
ขั้นตอนศึกษาและทดลอง
- 1 ปรับสเกลคุณลักษณะด้วยสถิติจาก train
- 2 เลือก loss ให้ตรง regression หรือ classification และตรวจ learning curve
- 3 ใช้ early stopping กับ validation แล้วประเมิน test ครั้งสุดท้าย
วิธีประเมินและนิยามผล
เปรียบเทียบ MLP กับ linear model บนข้อมูลแยกชุดเดียวกัน ตรวจ calibration ของคะแนน หากจะใช้คะแนนเป็นความเชื่อมั่นต้องทดสอบเพิ่มเติม
Calibration ในบริบทคะแนนคือการตรวจว่าระดับคะแนนสัมพันธ์กับความถี่ที่ผลถูกต้องหรือไม่ ต่างจากการสอบเทียบกล้องหรือเครื่องมือวัด คะแนนสูงไม่ได้เป็นความน่าจะเป็นที่เชื่อถือได้โดยชื่อเพียงอย่างเดียว ควรจัดกลุ่มคะแนนแล้วดูผลจริงและจำนวนตัวอย่าง รวมถึงกลุ่มที่มีข้อมูลน้อยซึ่งยังสรุปความน่าเชื่อถือไม่ได้ชัด
วิศวกรดู loss ของชุดฝึกและชุดตรวจพร้อมความผิดแยกประเภท ถ้าเพิ่มชั้นแล้วผลไม่เปลี่ยน อาจเป็นเพราะคุณลักษณะไม่แสดงรายละเอียดที่จำเป็น ไม่ใช่เพราะฝึกสั้นไปเสมอ ทดลองเปลี่ยนครั้งละประเด็นและเก็บค่าพารามิเตอร์ไว้ด้วย การตรวจผลหลังส่งออกต้องใช้ลำดับตัวแปรและการปรับสเกลเดียวกับช่วงฝึกเพื่อไม่ปะปนผลของโมเดลกับข้อผิดพลาดของโปรแกรม
ข้อจำกัดและกรณีผิดพลาด
เครือข่ายใหญ่เกินข้อมูลอาจจำตัวอย่าง gradient อาจหายหรือระเบิด และ output นอกช่วงข้อมูลฝึกอาจไม่มีความหมายทางกายภาพ
Gradient ที่หายหมายถึงสัญญาณปรับน้ำหนักเล็กจนบางชั้นแทบไม่เปลี่ยน ส่วนที่ระเบิดหมายถึงค่าขยายมากจนการฝึกไม่เสถียร หากพบค่าที่ไม่ใช่ตัวเลขหรือ loss กระโดด ต้องตรวจช่วงข้อมูล อัตราการเรียนรู้ และการคำนวณก่อนเพิ่มข้อมูล การฝึกสำเร็จโดยไม่มีข้อผิดพลาดทางโปรแกรมยังไม่ยืนยันว่าผลตอบคำถามของงานถูกต้อง
จำนวนพารามิเตอร์มากเพิ่มความยืดหยุ่นแต่เพิ่มโอกาสจำตัวอย่างและภาระการดูแล หากคะแนนถูกใช้เพื่ออนุมัติภาพ ควรกำหนดช่วงก้ำกึ่งที่ตรวจซ้ำได้และตรวจค่าผิดช่วงหลังโมเดลด้วย การบังคับผลให้อยู่ในช่วงเป็นเพียงมาตรการตรวจ ไม่ทำให้การทำนายที่อยู่นอกข้อมูลฝึกกลายเป็นถูกต้อง และต้องไม่ปกปิดกรณีดังกล่าวจากรายงานผล
รายการตรวจสอบก่อนนำไปใช้
- หน่วยของ input/output ชัดหรือไม่
- มีข้อจำกัดช่วงค่าที่ตรวจหลังโมเดลหรือไม่
- แยกผลของการเพิ่มชั้นจากการเปลี่ยนข้อมูลหรือไม่