ในบทสนทนาประจำวันเกี่ยวกับปัญญาประดิษฐ์ (AI) เรามักคุ้นเคยกับการใช้คำศัพท์ที่เกี่ยวข้องกับการรับรู้ของมนุษย์ เช่น AI กำลัง “เรียนรู้” (Learning) AI กำลัง “เข้าใจ” (Understanding) หรือ AI สามารถ “ตัดสินใจ” (Decisions) ได้ การเปรียบเทียบเช่นนี้เป็นบ่อเกิดสำคัญของปรากฏการณ์ “Anthropomorphism” หรือการมองว่าสิ่งไม่มีชีวิตอย่างเทคโนโลยีมีจิตสำนึก ความรู้สึก และความตระหนักรู้อย่างมนุษย์
อย่างไรก็ตาม มาตรฐานสากล ISO/IEC 22989:2022 ซึ่งเป็นมาตรฐานรากฐานด้านแนวคิดและคำศัพท์ปัญญาประดิษฐ์ ได้เน้นย้ำถึงความจำเป็นในการทำความเข้าใจคำจำกัดความทางวิศวกรรมที่ถูกต้อง และการยอมรับข้อจำกัดที่แท้จริงของระบบ AI เพื่อหลีกเลี่ยงความเข้าใจผิดดังกล่าว สำหรับผู้บริหาร ผู้ปฏิบัติงานด้าน IT และผู้ดูแลความปลอดภัยไซเบอร์ (Cybersecurity) การแยกแยะความแตกต่างระหว่าง “การจำลองการทำงานขั้นต้น” กับ “ความตระหนักรู้จริง” ถือเป็นปัจจัยวิกฤตในการวิเคราะห์ความเสี่ยงและกำหนดระดับการกำกับดูแลระบบ AI ได้อย่างปลอดภัยและมั่นคง
แนวคิด “Avoid Anthropomorphism” ตามมาตรฐาน ISO/IEC 22989 คืออะไร?
ภายใต้หมวดแนวคิดหลักของปัญญาประดิษฐ์ มาตรฐาน ISO/IEC 22989 ได้มีการชี้แจงเกี่ยวกับการเลือกใช้ถ้อยคำไว้อย่างชัดแจ้ง แม้ว่ามาตรฐานสากลฉบับนี้จะใช้คำศัพท์อย่าง “ความฉลาด” (Intelligence), “ความเข้าใจ” (Understanding), “ความรู้” (Knowledge), “การเรียนรู้” (Learning), “การตัดสินใจ” (Decisions) หรือ “ทักษะ” (Skills) ตลอดทั้งเล่มเอกสาร แต่มาตรฐานระบุชัดเจนว่าไม่ได้มีเจตนาหรือจุดมุ่งหมายที่จะมอบความเป็นมนุษย์ (anthropomorphize) ให้แก่ระบบ AI แต่อย่างใด
ในความเป็นจริงทางวิศวกรรม การเลือกใช้คำเหล่านั้นเป็นเพียงการอธิบายความจริงเชิงระบบที่ว่า ระบบ AI บางระบบได้รับการพัฒนาขึ้นเพื่อให้สามารถจำลองคุณลักษณะเหล่านั้นในขั้นต้นได้เท่านั้น (Rudimentarily simulate such characteristics) การจำลองพฤติกรรมนี้ทำงานอยู่บนโครงสร้างทางคณิตศาสตร์และคอมพิวเตอร์ และไม่เกี่ยวข้องกับกระบวนการทางชีววิทยาหรือทางปัญญาที่แท้จริงเลยแม้แต่น้อย
เจาะลึก 3 นิยามสำคัญทางเทคนิคที่มักถูกเข้าใจคลาดเคลื่อนว่าเป็นความสามารถของมนุษย์
เพื่อความถูกต้องในการสื่อสารและการปฏิบัติตามมาตรฐาน (Standards & Compliance) มาตรฐานสากลได้ระบุนิยามของคำศัพท์ด้าน AI และแยกมันออกจากบริบทความตระหนักรู้ของมนุษย์ไว้อย่างเป็นสากล ดังนี้:
1. “ความรู้” (Knowledge) ในมุมมอง AI ไม่ใช่ “การรับรู้อย่างเข้าใจ”
- นิยามทางปัญญาของมนุษย์: ความรู้เชื่อมโยงกับประสบการณ์ ความรู้สึกนึกคิด และความเข้าใจทางชีววิทยา
- นิยามปัญญาประดิษฐ์ของสากล: มาตรฐานกำหนดให้ “ความรู้” ในโดเมน AI เป็นเพียง คำศัพท์เฉพาะทางเทคนิคเท่านั้น (Purely technical term) ที่อ้างอิงถึง “เนื้อหา” (Contents) ของข้อมูลที่ถูกจัดระเบียบและจัดโครงสร้างขึ้นเพื่อให้ระบบนำไปประยุกต์ใช้งานตามวัตถุประสงค์ที่กำหนดไว้ ไม่ได้อ้างอิงถึง “ความสามารถ” (Capabilities) ในการคิดวิเคราะห์ ความรู้ของ AI เกิดขึ้นจากกระบวนการทางเทคนิคที่ไม่เกี่ยวกับการคิด (Non-cognitive processes) ตามลำดับขั้น ข้อมูล–สารสนเทศ–ความรู้ (Data–Information–Knowledge hierarchy) และมาตรฐานยังย้ำชัดเจนว่า ความรู้ในปัญญาประดิษฐ์ไม่ได้บ่งชี้ถึงความสามารถในการคิดวิเคราะห์ทางสมอง และไม่ได้หมายความรวมถึงการทำความเข้าใจแต่อย่างใด (not imply the cognitive act of understanding)
2. โครงข่ายประสาทเทียม (Neural Networks) ไม่ใช่สมองมนุษย์จำลอง
- ความเข้าใจผิดทั่วไป: ระบบ Neural Network ทำงานเลียนแบบสติปัญญาและความรู้สึกของสมองคนอย่างแท้จริง
- ข้อเท็จจริงตามมาตรฐาน: แม้ว่าโครงสร้างสถาปัตยกรรมของโครงข่ายประสาทเทียมจะได้รับแรงบันดาลใจเริ่มแรกมาจากการประสานนิวรอนในสมองของมนุษย์และสัตว์ แต่ฉันทามติในวงการปัจจุบันระบุว่า งานวิจัยและระบบโครงข่ายประสาทเทียมส่วนใหญ่ไม่ได้พึ่งพาหรือดำเนินรอยตามแรงบันดาลใจทางชีวภาพนั้นอีกต่อไปแล้ว ตัวระบบทำหน้าที่เปรียบเสมือนเครือข่ายจำลองของหน่วยคำนวณพื้นฐาน (Neurons) ที่เชื่อมต่อกันด้วยน้ำหนักที่สามารถปรับได้ (Adjustable weights) เพื่อแปลงชุดข้อมูลอินพุตให้เกิดผลลัพธ์เป็นตัวเลขสถิติและความน่าจะเป็น
3. “ความเป็นอิสระ” (Autonomy) ของ AI คือคำเรียกที่คลาดเคลื่อน
- ความเข้าใจผิดทั่วไป: ระบบ AI เป็น “ระบบอิสระ” (Autonomous System) ที่ตัดสินใจและรับผิดชอบต่อการตัดสินใจของตนเองได้
- คำชี้แจงตามมาตรฐาน: ในเชิงนิตินัยและนิติศาสตร์ (Jurisprudence) ความเป็นอิสระ (Autonomy) มีรากฐานนิยามที่หมายถึงขีดความสามารถในการปกครองตนเอง (Capacity for self-governance) ด้วยเหตุนี้ มาตรฐาน ISO/IEC 22989 จึงระบุว่า คำว่า “Autonomous” ถือเป็นคำเรียกที่ผิด (Misnomer) เมื่อนำมาอธิบายระบบ AI ที่ทำงานอัตโนมัติ เนื่องจากไม่ว่าปัญญาประดิษฐ์จะมีความซับซ้อนหรือฉลาดเพียงใดก็ตาม พวกมันก็ไม่ได้ปกครองตนเอง แต่ระบบทำงานอยู่ภายใต้อัลกอริทึม (Algorithms) และต้องตอบสนองต่อคำสั่งของผู้ควบคุมระบบ (Operators) เสมอมาตรฐานจึงหลีกเลี่ยงการใช้คำนี้ในการนิยามระบบที่ทำงานอัตโนมัติ
ทำไม AI จึงไม่มีวัน “เข้าใจ”? บทบาทที่ขาดไม่ได้ของมนุษย์
สิ่งที่ผู้บริหารและผู้ปฏิบัติงาน IT/Cybersecurity ต้องยึดถือเป็นกรอบปฏิบัติคือ ระบบ AI ไม่มีความเข้าใจ (AI systems do not understand) การชดเชยข้อจำกัดนี้เพื่อให้ระบบทำงานได้อย่างมีประสิทธิภาพและปลอดภัย จึงต้องการการควบคุมดูแลจากมนุษย์อย่างหลีกเลี่ยงไม่ได้ใน 3 มิติสำคัญ:
- การตัดสินใจเลือกเชิงสถาปัตยกรรมและการออกแบบ (Human Design Choices & Engineering): ระบบ AI ต้องการการออกแบบ เลือกใช้วิธีการ วางเป้าหมาย และการทำวิศวกรรมข้อมูล เช่น การกรองข้อมูลคุณภาพ ตลอดจนการจัดการความเสี่ยงจากมนุษย์ตั้งแต่ระยะแรกเริ่มของวงจรชีวิต
- ความน่าจะเป็นที่อาจผิดพลาดได้เสมอ (Error Prone): ผลผลิตที่ได้จาก AI (เช่น การพยากรณ์ หรือ Prediction) นั้นทำงานบนพื้นฐานของความน่าจะเป็นเชิงสถิติ (Probability of being correct) ซึ่งไม่ใช่คำตอบที่เป็นจริงสมบูรณ์แบบ 100% และพร้อมที่จะสร้างผลลัพธ์ที่ผิดพลาดได้เสมอ มนุษย์จึงต้องเป็นผู้วางแผนประเมินและทวนสอบความน่าเชื่อถือนี้ด้วยความตระหนักรู้อย่างเหมาะสม
- การกำกับดูแลของมนุษย์ (Human Oversight): มนุษย์มีบทบาทสำคัญในการกำกับดูแลและควบคุมในระดับที่หลากหลาย (Varying levels of human oversight and control) โดยมาตรฐานระบุชัดเจนว่าอย่างน้อยที่สุด การกำกับดูแลของมนุษย์จะต้องปรากฏและทำงานควบคู่กับการพัฒนาเสมอในระยะการฝึกสอนโมเดล (Training) และระยะการประเมินความถูกต้อง (Validation) นอกจากนี้ การมีบุคคลรับผิดชอบควบคุมดูแลที่ระบุตัวได้ (Accountable supervision) ระหว่างนำไปปฏิบัติงานจริงจะช่วยรับประกันความน่าเชื่อถือและจำกัดอคติที่ผิดพลาดไม่พึงประสงค์ได้ดีที่สุด
Key Takeaways
- AI ทำงานผ่านระบบจำลอง: ถ้อยคำสื่อสาร เช่น AI เรียนรู้ หรือ AI ตัดสินใจ เป็นเพียงคำทางเทคนิคในการประมวลผลและการจำลองพฤติกรรมในขั้นต้นเท่านั้น AI ไม่มีสติปัญญาหรือความรู้สึกคิดวิเคราะห์อย่างมนุษย์เลย
- Neural Network ขับเคลื่อนด้วยเลขสถิติ: สถาปัตยกรรม AI ส่วนใหญ่ไม่ได้ออกแบบตามกลไกทางชีวภาพของสมองมนุษย์ แต่อาศัยกระบวนการทางสถิติและคณิตศาสตร์อย่างเป็นระบบ
- AI ไม่เคยปกครองตัวเองได้: แม้ใน AI ชั้นสูง ขอบเขตการประมวลผลยังถูกจำกัดภายใต้อัลกอริทึมและคำสั่งของผู้ควบคุมมนุษย์ (not self-governing)
- ระบบต้องการมนุษย์คอยควบคุมเสมอ: AI ไม่มีวันเข้าใจสิ่งที่มันส่งผลลัพธ์ออกมา มนุษย์จึงต้องร่วมดูแล วางแผนวิศวกรรม ทวนสอบคุณภาพข้อมูล และจัดระบบ Oversight เพื่อป้องกันปัญหาความปลอดภัยทางไซเบอร์และการหยุดชะงักของระบบ
บทสรุป
การทำความเข้าใจข้อเท็จจริงทางเทคนิคและหลีกเลี่ยงการมอง AI มีความนึกคิดเทียบเคียงมนุษย์ (Avoid Anthropomorphism) ถือเป็นปฐมบทสำคัญในการสร้างความมั่นคงปลอดภัยและความน่าเชื่อถือให้แก่องค์กร เมื่อองค์กรเข้าใจว่าระบบปัญญาประดิษฐ์เป็นซอฟต์แวร์วิศวกรรมที่ขับเคลื่อนบนความน่าจะเป็นและไม่มีความเข้าใจแท้จริง องค์กรจะสามารถประเมินความเสี่ยง กำหนดรูปแบบการทำงานร่วมกันระหว่างมนุษย์กับ AI ตลอดจนกำหนดขอบเขตความโปร่งใส (Transparency) และระดับการกำกับดูแล (Oversight) ตามมาตรฐานสากล ISO/IEC 22989 ได้อย่างถูกต้อง ปลอดภัย และมีธรรมาภิบาลอย่างแท้จริงศัพท์ของมาตรฐานสากล ISO/IEC 22989 จึงเป็นหัวใจสำคัญที่ช่วยคุ้มครองความปลอดภัยไซเบอร์และรักษาความน่าเชื่อถือ (Trustworthiness) ขององค์กรได้อย่างยั่งยืน
