ในยุคที่องค์กรต่าง ๆ ทั่วโลกหันมาใช้งานปัญญาประดิษฐ์ (AI) เพื่อเพิ่มขีดความสามารถในการแข่งขันและช่วยสนับสนุนการทำงาน แต่สิ่งที่เป็นความท้าทายสำคัญร่วมกันสำหรับผู้บริหาร ผู้ปฏิบัติงาน IT และผู้ดูแลความปลอดภัยไซเบอร์ (Cybersecurity) คือการทำความเข้าใจความแตกต่างขั้นพื้นฐานระหว่างระบบซอฟต์แวร์แบบดั้งเดิมกับระบบ AI หลายองค์กรยังคงคาดหวังว่าการบริหารจัดการ ควบคุม และการทวนสอบ AI จะดำเนินไปในลักษณะและใช้แนวทางแบบเดียวกับซอฟต์แวร์ไอทีทั่วไป แต่ในความเป็นจริงแล้ว ระบบทั้งสองมีโครงสร้างหลักและพฤติกรรมทางวิศวกรรมที่แตกต่างกันอย่างสิ้นเชิงตามกรอบที่มาตรฐานสากล ISO/IEC 22989:2022 ได้ระบุไว้ บทความนี้จะเจาะลึกความแตกต่างที่สำคัญในมิติต่าง ๆ เพื่อให้องค์กรสามารถนำไปประยุกต์ใช้งานได้อย่างมีประสิทธิภาพและปลอดภัย

ตรรกะการทำงาน: เขียนคำสั่งแบบเฉพาะเจาะจง (Hardcoded) VS การเรียนรู้ขับเคลื่อนด้วยข้อมูล (Data-driven)

ความแตกต่างในแง่วิธีการสร้างตรรกะและแนวคิดทางคอมพิวเตอร์เป็นจุดแบ่งแยกที่สำคัญที่สุดระหว่างสองระบบ:

• ระบบซอฟต์แวร์ทั่วไป (Traditional Software Systems / Conventional Programming): พัฒนาขึ้นโดยอาศัยผู้เชี่ยวชาญหรือนักพัฒนาซอฟต์แวร์ในการกำหนดตรรกะเพื่อแก้ปัญหาอย่างชัดแจ้ง โดยระบุขั้นตอนการประมวลผลและการคำนวณที่แม่นยำ (Exact computational steps) ลงไปในซอฟต์แวร์ด้วยภาษาคอมพิวเตอร์ ระบบประเภทนี้จึงถูกออกแบบให้ทำงานอย่างแม่นยำตามข้อกำหนดและรายละเอียดเชิงคุณสมบัติ (Requirements and specifications) ที่วางไว้ก่อนหน้า
• ระบบ AI ที่อิงการเรียนรู้ของเครื่อง (Machine Learning-based AI Systems): ตรรกะการทำงานทั้งหมดไม่ได้ถูกระบุหรือเขียนโปรแกรมกำหนดไว้ล่วงหน้าแบบครอบคลุม (not determined a priori) แต่จะขึ้นอยู่กับข้อมูลที่ใช้ในการฝึกฝนระบบ (Training data) เป็นสำคัญ โมเดล Machine Learning (ML Model) จะใช้เทคนิคการคำนวณเพื่อปรับพารามิเตอร์ภายในโมเดล (Model Parameters) เพื่อให้พฤติกรรมของมันสะท้อนผลลัพธ์ตามข้อมูลดิบหรือประสบการณ์ที่ได้รับเรียนรู้ ระบบ AI จึงใช้วิธีการฝึกฝนและวิธีปรับปรุงค่าความเหมาะสม (Data-driven training and optimization methods) เพื่อจัดการกับชุดข้อมูลอินพุตที่มีความหลากหลายสูง

ความสามารถในการคาดเดาผลลัพธ์ (Predictability) และความยากในการทวนสอบ (Verification)

ในเชิงการควบคุมคุณภาพและความมั่นคงปลอดภัย ความน่าเชื่อถือของทั้งสองระบบมีมิติที่แตกต่างกันอย่างมาก:

• ระบบซอฟต์แวร์ทั่วไป: มีพฤติกรรมและหน้าที่การทำงานที่คาดเดาผลลัพธ์ได้อย่างแม่นยำและแน่นอน (Usually predictable) อีกทั้งยังมีความสามารถในการทวนสอบ (Usually verifiable) ทำให้ผู้ทดสอบสามารถค้นหาข้อบกพร่อง (Bugs) หรือทำการทดสอบระบบย่อยได้อย่างเบ็ดเสร็จชัดเจน
• ระบบ AI: มีความสามารถในการคาดเดาผลลัพธ์ได้น้อยกว่า (Less predictable) โมเดล Machine Learning โดยธรรมชาติแล้วมีโอกาสให้ผลลัพธ์ที่ผิดพลาดได้ (Error prone) โดยผลผลิตที่ระบบ AI สร้างขึ้น (เช่น การพยากรณ์ หรือ Prediction) จะขึ้นอยู่กับความเชื่อมั่นเชิงสถิติและความน่าจะเป็นที่จะถูกต้อง (Probability of being correct) ไม่ใช่คำตอบที่มีความจริงสมบูรณ์แบบ 100% ส่งผลให้กระบวนการประเมินประสิทธิภาพและการทวนสอบ (Verification) ทำได้ยากและท้าทายมากยิ่งขึ้น ซึ่งจำเป็นต้องพึ่งพาวิธีการทางสถิติ (Statistical approaches) เข้ามาช่วยทดสอบ

ความแตกต่างในวงจรชีวิตและการจัดการเวอร์ชัน (Lifecycle & Release Management)

แนวทางการดูแลรักษาระบบและกระบวนการออกอัปเดต (Release management) ของระบบทั้งสอง มีลักษณะเฉพาะตัวที่ต้องบริหารจัดการแยกจากกัน:

• ระบบซอฟต์แวร์ทั่วไป: กระบวนการออกโปรแกรมเวอร์ชันใหม่มักจัดการเฉพาะเวอร์ชันคำสั่งโค้ดและการเปรียบเทียบจุดต่างของโค้ด (Code versioning and code diffs) พฤติกรรมของซอฟต์แวร์จะถูกประเมินและทดสอบอย่างสมบูรณ์แบบตั้งแต่ขั้นตอนพัฒนาก่อนขึ้นระบบ และจะไม่มีการเปลี่ยนแปลงพฤติกรรมใด ๆ ระหว่างการปฏิบัติงานจริงใน Production
• ระบบ AI: มีวงจรการพัฒนาที่มีลักษณะของการวนซ้ำสูงมาก (Highly iterative in nature) และจำเป็นต้องปรับปรุงระบบหลายรอบกว่าจะได้ระดับประสิทธิภาพที่ยอมรับได้ เมื่อมีการอัปเดตหรือออกเวอร์ชันใหม่ กระบวนการ Release Management ของ AI ไม่ได้จำกัดอยู่เพียงแค่โค้ดเท่านั้น แต่ต้องบันทึกจุดต่างของโมเดล (Model diffs) รวมถึงชุดข้อมูลที่ใช้ฝึกฝน (Training data diffs) ควบคู่ไปด้วย ยิ่งไปกว่านั้น สำหรับระบบ AI ที่เปิดใช้งานการเรียนรู้แบบต่อเนื่อง (Continuous Learning) ซึ่งจะปรับปรุงโมเดลตลอดเวลาระหว่างปฏิบัติงานจริง องค์กรจำเป็นต้องมีขั้นตอนการตรวจสอบความถูกต้องอย่างต่อเนื่อง (Continuous Validation) เพื่อทวนสอบว่าโมเดลที่เรียนรู้เพิ่มขึ้นยังคงทำงานอย่างปลอดภัยและถูกต้อง

4 คุณลักษณะสำคัญที่มีในระบบ AI (Interesting Features of AI)

ตามมาตรฐาน ISO/IEC 22989 ระบบ AI มีคุณลักษณะสำคัญร่วมกัน 4 ประการ ซึ่งเป็นสิ่งที่ซอฟต์แวร์ทั่วไปไม่มี ดังนี้:

1. Interactive (การโต้ตอบ): ระบบสามารถรับอินพุตผ่านอุปกรณ์ตรวจจับสัญญาณ (Sensors) หรือการมีปฏิสัมพันธ์กับมนุษย์ เพื่อส่งผลลัพธ์ไปกระตุ้นอุปกรณ์ทำงานทางกายภาพ (Actuators) หรือให้ข้อมูลตอบกลับต่อมนุษย์และเครื่องจักรอื่น ๆ ได้อย่างยืดหยุ่น
2. Contextual (การเข้าใจบริบท): ดึงข้อมูลที่สำคัญจากหลายแหล่งวิเคราะห์พร้อมกัน ทั้งข้อมูลดิจิทัลที่มีโครงสร้าง ไม่มีโครงสร้าง ตลอดจนข้อมูลทางประสาทสัมผัส (Sensory inputs) เพื่อประมวลผล
3. Oversight (การควบคุมกำกับ): ถูกออกแบบขึ้นมาเพื่อให้มนุษย์สามารถกำหนดระดับการเข้าไปควบคุมและกำกับดูแล (Human oversight and control) ได้หลากหลายดีกรีตามความเหมาะสมและประเภทของการประยุกต์ใช้งาน
4. Adaptive (การปรับตัว): ได้รับการออกแบบทางวิศวกรรมให้ทำงานร่วมกับข้อมูลดิบที่มีความไดนามิกและไหลเข้ามารวมแบบเรียลไทม์ พร้อมความสามารถในการฝึกฝนโมเดลซ้ำ (Retrain) เพื่อปรับปรุงความสามารถให้ทันเหตุการณ์

Key Takeaways

• ตรรกะเชิงระบบ: ซอฟต์แวร์ทั่วไปกำหนดตรรกะแกนหลักที่แน่นอนตายตัว ขณะที่ AI ใช้ตรรกะแบบความน่าจะเป็นเชิงสถิติที่เรียนรู้ผ่านแบบจำลองข้อมูล
• การประเมินคุณภาพ: ซอฟต์แวร์ทั่วไปตรวจสอบความถูกต้องของระบบย่อยแบบลอจิกได้ แต่ระบบ AI ต้องการการประเมินเชิงสถิติและเตรียมชุดข้อมูลทดสอบ (Test data) ที่แยกออกจากการฝึกฝนเพื่อประเมินความถูกต้อง
• การควบคุมเวอร์ชัน: การจัดการปล่อยระบบ AI ต้องเก็บประวัติและตรวจสอบจุดต่างของทั้ง โค้ด (Code), ตัวโมเดล (Model), และชุดข้อมูลฝึกฝน (Training data) เพื่อป้องกันปัญหาและการถดถอยของระบบ
• ธรรมชาติวงจรชีวิต: ซอฟต์แวร์ทั่วไปทำงานคงที่หลังขึ้นระบบใช้งานจริง (Production) ในขณะที่ AI มีวงจรชีวิตของการพัฒนาที่มีการวนซ้ำอย่างสม่ำเสมอ และต้องการการตรวจทวนอย่างต่อเนื่องเมื่อมีการรับข้อมูลใหม่

บทสรุป

ความเข้าใจอย่างลึกซึ้งถึงความแตกต่างเชิงเทคโนโลยีระหว่างระบบซอฟต์แวร์แบบดั้งเดิมกับระบบ AI ถือเป็นรากฐานสำคัญในมิติด้านธรรมาภิบาลด้านไอที (IT Governance), การบริหารจัดการความเสี่ยง (Risk Management) และความปลอดภัยไซเบอร์ (Cybersecurity) ขององค์กรยุคใหม่ ผู้มีส่วนได้ส่วนเสียจำเป็นต้องตระหนักว่าปัญญาประดิษฐ์ไม่ใช่เครื่องมือที่จะติดตั้งแล้วให้ผลลัพธ์คงที่ตลอดไป แต่เป็นระบบอัจฉริยะที่มีการปรับเปลี่ยนตามลักษณะข้อมูลที่ได้รับ การประยุกต์ใช้กรอบแนวคิดและคำศัพท์ของมาตรฐานสากล ISO/IEC 22989 จึงเป็นหัวใจสำคัญที่ช่วยคุ้มครองความปลอดภัยไซเบอร์และรักษาความน่าเชื่อถือ (Trustworthiness) ขององค์กรได้อย่างยั่งยืน