ในยุคที่ระบบปัญญาประดิษฐ์ (AI) เข้ามามีบทบาทขับเคลื่อนเทคโนโลยีในทุกอุตสาหกรรม คำถามสำคัญที่ผู้บริหารและผู้ปฏิบัติงานด้าน IT และ Cybersecurity มักเผชิญร่วมกันคือ “ระบบ AI ที่เรากำลังจะนำมาใช้มีอิสระในการทำงานจริงแค่ไหน และเราควรควบคุมดูแลมันอย่างไร?”
หลายคนคุ้นเคยกับคำว่า “Autonomous AI” หรือระบบทำงานแบบเป็นอิสระ แต่ในมิติของมาตรฐานสากลอย่าง ISO/IEC 22989:2022 การทำความเข้าใจเกี่ยวกับระดับการทำงานอัตโนมัติไม่ได้แบ่งเป็นแค่ระบบควบคุมโดยมนุษย์หรือระบบที่คิดเองได้ แต่แท้จริงแล้วมันคือ “สเปกตรัม” (Spectrum) ที่มีเฉดการทำงานร่วมกันระหว่างความเป็นอิสระ (Autonomy) และการอยู่ภายใต้การควบคุม (Heteronomy) บทความนี้จะพาคุณไปเจาะลึกกลไกและเกณฑ์มาตรฐานสากล เพื่อเป็นคู่มือในการวางระบบธรรมาภิบาลและการคัดเลือกเทคโนโลยี AI มาใช้งานในองค์กรอย่างปลอดภัย
ทำความเข้าใจ “Autonomy” VS “Heteronomy” ตามมาตรฐาน ISO
เพื่อหลีกเลี่ยงความเข้าใจผิด มาตรฐานสากล ISO/IEC 22989 ได้ให้คำนิยามเฉพาะสำหรับคำศัพท์สองคำนี้ในบริบทของระบบวิศวกรรมไว้อย่างชัดเจน:
ความเป็นอิสระ (Autonomy)
ความเป็นอิสระ หรือ Autonomy คือ คุณลักษณะของระบบที่สามารถปรับปรุงแก้ไขขอบเขตการใช้งานหรือเป้าหมายที่ตั้งไว้ได้เอง โดยปราศจากการแทรกแซง ควบคุม หรือการกำกับดูแลจากภายนอก (Without external intervention, control or oversight)
การอยู่ภายใต้การควบคุม (Heteronomy)
การอยู่ภายใต้การควบคุม หรือ Heteronomy คือ คุณลักษณะของระบบที่ทำงานภายใต้ข้อจำกัดของการแทรกแซง การควบคุม หรือการกำกับดูแลจากภายนอก (Operating under the constraint of external intervention, control or oversight)
หากมองในแง่ของสเปกตรัม ความเป็นอิสระ (Autonomy) จะอยู่สุดปลายฝั่งหนึ่งของสเปกตรัม และระบบที่ควบคุมโดยมนุษย์อย่างสมบูรณ์แบบจะอยู่สุดปลายอีกฝั่งหนึ่ง โดยมีระดับของการอยู่ภายใต้การควบคุม (Heteronomy) อยู่ตรงกลาง
ความจริงทางนิติศาสตร์: ทำไมคำว่า “Autonomous AI” จึงเป็นคำเรียกที่ผิดพลาด?
ในทางนิติศาสตร์หรือหลักกฎหมาย (Jurisprudence) คำว่าความเป็นอิสระ (Autonomy) หมายถึง “ขีดความสามารถในการปกครองตนเอง” (Capacity for self-governance)
มาตรฐาน ISO/IEC 22989 ชี้ให้เห็นประเด็นสำคัญว่า หากอิงตามนิยามจริงนี้ คำเรียกยอดนิยมอย่าง “Autonomous AI” ถือเป็นคำเรียกที่ผิดทางเทคนิค (Misnomer) เนื่องจากแม้แต่ระบบ AI ที่ก้าวหน้าและล้ำสมัยที่สุดในปัจจุบัน ก็ไม่ได้มีความสามารถในการปกครองตนเองอย่างแท้จริง แต่ระบบ AI เหล่านี้ยังคงทำงานบนพื้นฐานของอัลกอริทึมและต้องเชื่อฟังหรือทำตามคำสั่งการของมนุษย์ผู้ควบคุมระบบ (Operators) เสมอ
เจาะลึกสเปกตรัม 7 ระดับการทำงานอัตโนมัติ (Levels of Automation)
มาตรฐานสากลได้ระงับการใช้คำว่า autonomous แบบลอยๆ แต่แบ่งระดับความเป็นอัตโนมัติและการอยู่ภายใต้การควบคุมออกเป็นระดับอย่างมีระบบ ตั้งแต่ระดับที่ไม่มีความเป็นอัตโนมัติเลย (ระดับ 0) ไปจนถึงระดับสูงสุดที่มีอิสระปรับเปลี่ยนเป้าหมายเองได้ (ระดับ 6) ดังนี้:
ระดับ 0 – No automation (ไม่มีความเป็นอัตโนมัติ)
ผู้ปฏิบัติงานหรือมนุษย์ควบคุมระบบ (Operator) เป็นผู้ดูแลและควบคุมการทำงานของระบบอย่างสมบูรณ์แบบ 100%
ระดับ 1 – Assistance (การช่วยเหลือ)
ระบบทำหน้าที่เป็นผู้ช่วยอำนวยความสะดวกให้แก่ผู้ปฏิบัติงานในการทำหน้าที่บางอย่าง
ระดับ 2 – Partial automation (ความเป็นอัตโนมัติบางส่วน)
ฟังก์ชันย่อยบางอย่างของระบบสามารถทำงานได้อย่างเป็นอัตโนมัติอย่างสมบูรณ์ ในขณะที่ตัวระบบโดยภาพรวมยังคงอยู่ภายใต้การควบคุมดูแลของมนุษย์ที่เป็นตัวแทนภายนอก
ระดับ 3 – Conditional automation (ความเป็นอัตโนมัติแบบมีเงื่อนไข)
ระบบสามารถรักษาและแสดงประสิทธิภาพการทำงานในส่วนเฉพาะได้อย่างต่อเนื่อง โดยมีผู้ควบคุมภายนอกคอยเตรียมพร้อมที่จะเข้าทำหน้าที่แทนระบบ (Take over) ทันทีเมื่อเกิดกรณีจำเป็น
ระดับ 4 – High automation (ความเป็นอัตโนมัติระดับสูง)
ระบบสามารถทำงานและทำภารกิจส่วนใหญ่ของตนเองให้เสร็จสิ้นได้โดยปราศจากการแทรกแซง ควบคุม หรือช่วยเหลือจากภายนอก
ระดับ 5 – Full automation (ความเป็นอัตโนมัติเต็มรูปแบบ)
ระบบมีความสามารถในการทำงานตามภารกิจทั้งหมดของตนเองได้จนเสร็จสิ้นโดยสมบูรณ์ โดยไม่ต้องการการควบคุมหรือการแทรกแซงใดๆ จากภายนอกเลย
ระดับ 6 – Autonomy (ความเป็นอิสระขั้นสุด)
เป็นระดับสูงสุดของสเปกตรัมที่ระบบมีคุณลักษณะที่สามารถปรับเปลี่ยนขอบเขตการใช้งานหรือปรับเปลี่ยนเป้าหมายของตนเองได้เลยโดยปราศจากคนควบคุมหรือดูแล ซึ่งในปัจจุบันระบบทำงานจริงส่วนใหญ่ยังไม่ไปถึงจุดนี้
เกณฑ์ที่ใช้ประเมินและจัดระดับสเปกตรัมของระบบ AI
ในการประเมินว่าระบบ AI ชนิดใดควรถูกจัดวางไว้ ณ จุดใดของสเปกตรัมระดับการทำงานอัตโนมัติ มาตรฐาน ISO/IEC 22989 ได้กำหนดเกณฑ์ชี้วัดทางวิศวกรรมที่สำคัญ 7 ประการไว้ดังนี้:
- การมีอยู่ของการควบคุมภายนอก (External Supervision): มีหรือไม่มีการควบคุมดูแลจากภายนอก ทั้งจากมนุษย์ผู้ควบคุม (Human-in-the-loop) หรือควบคุมโดยระบบอัตโนมัติอื่น
- ระดับความเข้าใจตามสภาวะจริง (Situated Understanding): ความครบถ้วนและความสามารถในการทำงานของแบบจำลองที่ AI ใช้ประเมินสภาพแวดล้อมรอบตัว รวมถึงความแน่นอนในการหาเหตุผลและลงมือทำของระบบ
- ระดับความไวในการตอบสนอง (Reactivity or Responsiveness): ระบบสามารถตรวจจับความเปลี่ยนแปลงในสภาพแวดล้อม สามารถตอบสนองต่อสิ่งรอบตัว และสามารถกำหนดทิศทางการเปลี่ยนแปลงล่วงหน้าได้ดีเพียงใด
- ความต่อเนื่องในการทำงาน (Persistence of Operation): ระบบสามารถทำงานได้อย่างต่อเนื่องไปจนกระทั่งภารกิจสำเร็จลุล่วง หรือสามารถทำงานเลยขอบเขตเวลาหลังเหตุการณ์บางอย่างเกิดขึ้น (เช่น การตั้งเวลาปิดระบบหรือสภาวะ Timeout)
- ขีดความสามารถในการปรับตัว (Adaptability): ระดับขีดความสามารถในการปรับตัวเพื่อสอดรับกับความเปลี่ยนแปลง ความจำเป็น หรือแรงขับเคลื่อนทั้งจากภายในระบบและสภาพแวดล้อมภายนอก
- การประเมินประสิทธิภาพตนเอง (Self-evaluation): ระบบมีความสามารถในการตรวจสอบประสิทธิภาพหรือประเมินความเหมาะสมของการทำงานของตนเองเปรียบเทียบกับเป้าหมายที่ตั้งไว้ล่วงหน้าได้หรือไม่
- ความสามารถในการวางแผนเชิงรุก (Proactive Planning & Deciding): ระบบมีความสามารถในการตัดสินใจและกำหนดแผนงานเชิงรุกเพื่อตอบสนองต่อเป้าหมาย แรงผลักดัน และแรงจูงใจของตัวระบบเอง
ทางเลือกขององค์กรยุคใหม่: Human-Machine Teaming และ Intelligence Augmentation
แทนที่องค์กรจะตั้งเป้าหมายไปสู่การปล่อยให้ AI ทำงานโดยมีอิสระสูงสุด (Autonomy) มาตรฐานสากลได้เสนอทางเลือกที่ปลอดภัยกว่าในทางปฏิบัติและสร้างสรรค์กว่า คือ:
- Human-Machine Teaming (การทำงานร่วมกันระหว่างมนุษย์และเครื่องจักร): การผสานรวมสติปัญญาของมนุษย์และเครื่องจักรให้ทำงานสอดประสานเพื่อเติมเต็มภารกิจซึ่งกันและกัน ซึ่งสามารถเกิดขึ้นจากผลพลอยได้ในการพัฒนาระบบหรือจงใจตั้งเป้าสร้างขึ้นมาโดยตรง
- Intelligence Augmentation (การเพิ่มขีดความสามารถทางสติปัญญา): การพัฒนาระบบ AI โดยมีวัตถุประสงค์เพื่อเข้าไปเสริมหรือเติมเต็มขีดความสามารถในการคิดวิเคราะห์และตัดสินใจของมนุษย์
ในเชิงความมั่นคงปลอดภัยและธรรมาภิบาล การมี “มนุษย์คอยกำกับดูแลและรับผิดชอบ” (Accountable Supervision) ตลอดเวลาปฏิบัติงานจริงของ AI คือกลไกที่สำคัญที่สุดที่จะช่วยยืนยันและรับประกันว่าระบบ AI จะทำงานอย่างปลอดภัย เป็นไปตามวัตถุประสงค์ และไม่สร้างผลกระทบเชิงลบต่อผู้มีส่วนได้ส่วนเสียในระยะยาว
Key Takeaways
- Autonomy VS Heteronomy: ความเป็นอิสระ (Autonomy) คือการปรับเป้าหมายเองได้โดยไร้การควบคุม ส่วนการอยู่ภายใต้การควบคุม (Heteronomy) คือการทำงานภายใต้ข้อจำกัดและผู้กำกับดูแลภายนอก
- Autonomous AI เป็นความเข้าใจคลาดเคลื่อน: AI ในปัจจุบันไม่ใช่ระบบปกครองตนเอง (Self-governing) แต่ทำงานภายใต้อัลกอริทึมและคำสั่งของมนุษย์ผู้สั่งการ
- ระดับสเปกตรัมที่ชัดเจน: สเปกตรัมระดับการทำงานอัตโนมัติแบ่งไว้ละเอียดถึง 7 ระดับ (0 ถึง 6) ซึ่งช่วยให้องค์กรประเมินระดับความเสี่ยงและการควบคุมได้อย่างเหมาะสม
- การเฝ้าระวังโดยมนุษย์สำคัญที่สุด: การมีมนุษย์คอยควบคุมกำกับดูแลและรับผิดชอบ (Accountable Supervision) เป็นเกราะป้องกันความปลอดภัยสูงสุดในการใช้งาน AI
บทสรุป
การเลือกใช้เทคโนโลยี AI ในระดับองค์กรไม่ควรมองเพียงแค่ความเก่งหรือความเร็วในการประมวลผล แต่ผู้บริหารและสายงาน IT/Cybersecurity จำเป็นต้องประเมินอย่างละเอียดว่า ระบบ AI นั้น ๆ อยู่ในตำแหน่งใดของ “สเปกตรัมระดับการทำงานอัตโนมัติ” และทีมงานของเรามีขีดความสามารถในการควบคุมดูแล (Controllability) เพียงพอหรือไม่
การอ้างอิงกรอบเกณฑ์มาตรฐานสากล ISO/IEC 22989 จะช่วยให้องค์กรของคุณสามารถจัดสรรระดับการควบคุมและการอยู่ภายใต้การควบคุม (Heteronomy) ที่ถูกต้อง มีกระบวนการ Human-Machine Teaming ที่ปลอดภัย และรักษาเสถียรภาพตลอดวงจรชีวิตการทำงานของ AI ได้อย่างยั่งยืน
