ในปัจจุบัน หลายองค์กรหันมาพัฒนาและประยุกต์ใช้งานระบบปัญญาประดิษฐ์ (AI) โดยเฉพาะระบบที่ใช้โครงข่ายประสาทเทียม (Neural Network) เพื่อช่วยเพิ่มขีดความสามารถและยกระดับการพยากรณ์หรือตัดสินใจในกระบวนการทำงานที่ซับซ้อน อย่างไรก็ตาม สิ่งที่ผู้บริหารเทคโนโลยีและผู้ปฏิบัติงานด้านไอทีและระบบความปลอดภัยต้องตระหนักร่วมกันคือ ระบบปัญญาประดิษฐ์เหล่านี้ไม่ได้มีความฉลาดที่สมบูรณ์แบบไร้ข้อจำกัด เช่นเดียวกับมนุษย์เราที่มีขีดจำกัดในการเรียนรู้ โครงข่ายประสาทเทียมเองก็มีจุดอ่อนเชิงวิศวกรรมทางโครงสร้างที่สำคัญยิ่งเรื่องหนึ่ง ซึ่งมาตรฐานสากล ISO/IEC 22989:2022 ได้หยิบยกมาอธิบายไว้เป็นกรณีเฉพาะ นั่นคือ ปรากฏการณ์ “Catastrophic Forgetting” หรือการลืมความรู้เดิมแบบฉับพลัน ซึ่งเป็นหนึ่งในข้อจำกัดพื้นฐานที่ขัดขวางการอัปเกรดระบบอัจฉริยะในสายการปฏิบัติงานจริง

ปรากฏการณ์ “Catastrophic Forgetting” คืออะไรในทางวิศวกรรม AI?

เพื่อให้เข้าใจข้อจำกัดนี้อย่างถูกต้อง ต้องย้อนกลับมาทำความเข้าใจธรรมชาติการเรียนรู้ของเครื่อง (Machine Learning) เสียก่อน ในทางวิศวกรรม อัลกอริทึมการเรียนรู้ของเครื่องจำนวนมากจะทำงานได้อย่างมีประสิทธิภาพสูงสุดก็ต่อเมื่อได้รับการนำเสนอข้อมูลทั้งหมดพร้อม ๆ กันในคราวเดียว (Presented all at once) ในระหว่างการพัฒนาหรือทดสอบระบบ

เมื่อระบบ AI หรือโมเดลได้รับการป้อนข้อมูลเพื่อทำงานใดงานหนึ่งเป็นเป้าหมาย พารามิเตอร์ภายในโมเดล (Model Parameters) ซึ่งรวมถึงค่าน้ำหนักการเชื่อมโยง (Weights) ระหว่างแต่ละชั้นเลเยอร์ของ Neural Network จะถูกปรับปรุงและคำนวณผ่านเทคนิคทางคณิตศาสตร์และสถิติต่าง ๆ เพื่อให้ได้โมเดลที่มีพฤติกรรมสะท้อนตามชุดข้อมูลนั้น ๆ

แต่เมื่อองค์กรเริ่มมีความจำเป็นต้องป้อนข้อมูลชุดใหม่ (New training data) เข้ามาเพิ่มเติมเพื่อเทรนระบบเพื่อวัตถุประสงค์ใหม่ พารามิเตอร์ภายในโมเดลก็จะมีการปรับปรุงค่าอีกครั้งเพื่อสะท้อนความรู้จากชุดข้อมูลใหม่ ทว่าผลข้างเคียงขั้นรุนแรงที่เกิดขึ้นคือ พารามิเตอร์ที่ปรับตัวตามชุดข้อมูลใหม่เหล่านั้นจะไป “เขียนทับ” (Overwrite) ความรู้ที่โมเดลเคยเรียนรู้และสะสมมาก่อนหน้า

สำหรับระบบโครงข่ายประสาทเทียม (Neural Networks) ปรากฏการณ์การเรียนรู้สิ่งใหม่ไปลบล้างความรู้เดิมเรียกว่า “Catastrophic Forgetting” ซึ่งถือเป็นข้อจำกัดระดับฐานราก (Fundamental limitations) ของสถาปัตยกรรมประเภทนี้

ทำไม Retraining เพื่อแก้ไข Data Drift และ Concept Drift จึงมักนำไปสู่ภัยเงียบนี้?

ในเชิงระบบปฏิบัติการจริง (Production Phase) โมเดล AI จะเกิดความแม่นยำตกต่ำลงเมื่อเวลาผ่านไป ซึ่งเกิดจากปัจจัยความเปลี่ยนแปลงของสภาพแวดล้อมที่มาตรฐานระบุว่าหลีกเลี่ยงไม่ได้ องค์กรจึงต้องทำกระบวนการ “เทรนโมเดลใหม่” (Retraining) เพื่อปรับปรุงข้อมูลให้ทันสมัย ซึ่งความจำเป็นในการเทรนใหม่มักมาจาก 2 สภาวะหลัก ได้แก่:

• Data Drift (สภาวะข้อมูลเบี่ยงเบน): ความแม่นยำในการพยากรณ์ลดลงเนื่องจากลักษณะทางสถิติของข้อมูลหน้างาน (Production data) เปลี่ยนแปลงไป เช่น ความละเอียดของภาพถ่ายเปลี่ยน หรือประเภทข้อมูลเกิดความถี่ต่างไปจากเดิม
• Concept Drift (สภาวะแนวคิดเบี่ยงเบน): ขอบเขตการตัดสินใจ (Decision boundary) เปลี่ยนแปลงไปตามปัจจัยแวดล้อมทางสังคมหรือกฎหมาย (เช่น กฎหมายใหม่ประกาศใช้ทำให้เกณฑ์ความถูกต้องเปลี่ยนแปลงไป) แม้ว่าข้อมูลที่ระบบได้รับจะเหมือนเดิมก็ตาม

เมื่อองค์กรเร่งเทรนโมเดลใหม่ (Retraining) ด้วยข้อมูลจริงที่สะท้อน Data Drift หรือ Concept Drift เพื่อปรับปรุงให้โมเดลประมวลผลอินพุตปัจจุบันได้แม่นยำ พฤติกรรมการเขียนทับความรู้เก่าจาก Catastrophic Forgetting ก็จะเกิดขึ้นตามมาทันที ทำให้โมเดลลืมเงื่อนไข ความปลอดภัย และกรณีการทำงานดั้งเดิมที่เทรนไว้เดิมได้ ซึ่งเป็นประเด็นเสี่ยงต่อการทำงานของระบบความปลอดภัยในองค์กร

ความท้าทายสูงสุดในการประยุกต์ใช้ “Continuous Learning”

เพื่อก้าวข้ามขีดจำกัดของการติดตั้งระบบที่มีรูปแบบคงที่ (Static) หลายองค์กรจึงเลือกประยุกต์ใช้วิธี “ระบบเรียนรู้แบบต่อเนื่อง” (Continuous Learning, Continual Learning หรือ Lifelong Learning) ซึ่งเป็นการฝึกฝนโมเดลอย่างค่อยเป็นค่อยไปแบบเพิ่มพูน (Incremental training) ระหว่างปฏิบัติงานจริงในสายการผลิตแบบไร้การขัดจังหวะการทำงาน

มาตรฐานระบุว่า เนื่องจากความเสี่ยงของ Catastrophic Forgetting การเรียนรู้แบบต่อเนื่องจึงต้องรวมถึงความสามารถในการเรียนรู้สิ่งใหม่จากการสังเกตข้อมูลปัจจุบัน ไปพร้อม ๆ กับการยังคงรักษาความรู้เก่าที่มีคุณค่าเอาไว้ (retaining previous knowledge)

ในกระบวนการทำงานจริง ระบบที่ใช้ Continuous Learning จึงสร้างความท้าทายอย่างมากในขั้นตอนการตรวจทานความถูกต้อง (Verification) ของระบบใน Production เนื่องจากข้อมูลเข้าของระบบเป็นข้อมูลดิบและมีความไดนามิกสูง การปล่อยให้โมเดลปรับตัวตลอดเวลาด้วยอินพุตจากสภาพแวดล้อมจริงจึงมีความเสี่ยงที่ Catastrophic Forgetting จะไปแอบเขียนทับกลไกป้องกันความเสี่ยงที่สำคัญที่นักพัฒนาเคยออกแบบและฝึกสอนไว้ จึงจำเป็นต้องมีการทวนสอบระบบระหว่างปฏิบัติงานจริง

ประเด็นสำคัญเพื่อการปฏิบัติตามมาตรฐาน

• Catastrophic Forgetting เป็นปัญหาโครงสร้าง: คือปรากฏการณ์ที่ Neural Network ปรับค่าพารามิเตอร์ตามข้อมูลเทรนใหม่ แล้วเข้าไปเขียนทับทำลายความรู้ดั้งเดิมที่โมเดลเคยจำได้
• เป็นความเสี่ยงระยะดำเนินงาน: มักเกิดขึ้นในระยะ Operation เมื่อองค์กรพยายามอัปเดตโมเดล (Retraining) เพื่อต่อสู้กับปัญหา Data Drift และ Concept Drift
• Continuous Learning ต้องคุมความสมดุล: การเลือกใช้สถาปัตยกรรมเรียนรู้แบบต่อเนื่อง ต้องวางระบบการทวนสอบและควบคุมให้โมเดลสะสมความรู้ใหม่ควบคู่กับการรักษาความรู้อดีตได้เสมอ
• ต้องการการตรวจสอบต่อเนื่อง: การตรวจสอบความถูกต้องอย่างต่อเนื่อง (Continuous Validation) เป็นกระบวนการที่ขาดไม่ได้ในการควบคุมความเสถียรและความน่าเชื่อถือ (Trustworthiness) ของ AI ในระบบสายการผลิตจริง

บทสรุป

การตระหนักรู้และระมัดระวังข้อจำกัด “Catastrophic Forgetting” ถือเป็นด่านทดสอบสำคัญของ IT Governance และการบริหารจัดการความเสี่ยงด้านปัญญาประดิษฐ์ขององค์กรยุคใหม่ ผู้บริหารและฝ่าย Cybersecurity ต้องจำให้ขึ้นใจว่า AI ทำงานบนพื้นฐานสถิติและการหาค่าพารามิเตอร์ที่เปลี่ยนรูปได้ตลอดเวลา ไม่มีสิ่งใดที่จะรับประกันว่าระบบ AI ที่เทรนมาดีแล้วเมื่อเจอกับข้อมูลใหม่จะไม่สูญเสียความสามารถดั้งเดิมไป การออกแบบแผน Retraining อย่างระมัดระวัง การตรวจทวนและคุมความปลอดภัยด้วยวิธีการกำกับดูแลของมนุษย์ (Human Oversight) ในระหว่างขั้นตอนฝึกสอนโมเดลและการอัปเดตตามมาตรฐานสากล ISO/IEC 22989 จึงเป็นกลยุทธ์สำคัญที่จะปกป้องระบบอัจฉริยะขององค์กรให้มีความปลอดภัย น่าเชื่อถือ และเสถียรภาพสม่ำเสมอในระยะยาวราะห์ความเสี่ยง ลดปัญหาประสิทธิภาพของโมเดลที่ถดถอยลงตามเวลา (Model Drift) และขับเคลื่อนนวัตกรรม AI ขององค์กรไปข้างหน้าได้อย่างปลอดภัย มั่นคง และเติบโตอย่างยั่งยืน