เมื่อระบบ AI ซับซ้อนกว่า IT ดั้งเดิม การบริหารจัดการทรัพยากรจึงต้องครอบคลุมขึ้น

การนำเทคโนโลยีปัญญาประดิษฐ์ (AI) และการเรียนรู้ของเครื่อง (Machine Learning: ML) มาประยุกต์ใช้งานในองค์กร มักประสบความท้าทายสำคัญประการหนึ่ง นั่นคือ ความไม่ชัดเจนในโครงสร้างสินทรัพย์และทรัพยากรที่ใช้ขับเคลื่อนระบบ AI เนื่องจากระบบ AI ไม่ได้ประกอบด้วยซอฟต์แวร์หรือฮาร์ดแวร์ทั่วไปเท่านั้น แต่ยังพึ่งพาองค์ประกอบที่มีความซับซ้อนและเปลี่ยนแปลงได้ตลอดเวลา ไม่ว่าจะเป็นชุดข้อมูลฝึกฝน แบบจำลองอัลกอริทึม โครงสร้างพื้นฐานการประมวลผล ตลอดจนบุคลากรที่มีความเชี่ยวชาญเฉพาะทาง

การขาดการบันทึกจัดทำเอกสารและกำกับดูแลทรัพยากรเหล่านี้อย่างเป็นระบบ ส่งผลให้องค์กรไม่สามารถมองเห็นภาพรวมความเสี่ยงเฉพาะตัวของ AI และไม่อาจประเมินผลกระทบที่อาจเกิดขึ้นต่อบุคคล กลุ่มบุคคล และสังคมได้อย่างรอบด้าน

เพื่อปิดช่องว่างดังกล่าว มาตรฐานสากล ISO/IEC 42001:2023 (Artificial Intelligence Management System: AIMS) จึงได้กำหนดมาตรการควบคุมอ้างอิงใน Annex A.4 (Resources for AI Systems) และแนวทางปฏิบัติตาม Annex B.4 เพื่อให้องค์กรใช้เป็นกรอบในการจำแนก บันทึกเอกสาร และควบคุมทรัพยากรสำคัญ 4 ด้านหลักที่เกี่ยวข้องกับระบบ AI ตลอดทุกช่วงของวงจรชีวิตระบบ (AI System Life Cycle)

เจาะลึกโครงสร้างและการจำแนกทรัพยากร AI ตาม Annex A.4

ภาพรวมการจัดทำเอกสารทรัพยากร AI (Resource Documentation – Control A.4.2)

ข้อกำหนด Annex A.4.2 (Resource documentation) ระบุให้องค์กรต้องระบุและจัดทำเอกสารบันทึกทรัพยากรที่เกี่ยวข้องทั้งหมด ซึ่งจำเป็นต่อการดำเนินกิจกรรมในแต่ละระยะของวงจรชีวิตระบบ AI รวมถึงกิจกรรมอื่น ๆ ที่เกี่ยวข้องกับ AI ขององค์กร

แนวทางปฏิบัติตาม Annex B.4.2 ชี้ให้เห็นว่า การบันทึกเอกสารทรัพยากรมีความสำคัญอย่างยิ่งต่อการทำความเข้าใจความเสี่ยง และการประเมินผลกระทบของระบบ AI (AI System Impact Assessment) ทั้งในมิติเชิงบวกและเชิงลบ โดยองค์กรสามารถใช้เครื่องมือประกอบการจัดทำเอกสาร เช่น แผนผังการไหลของข้อมูล (Data Flow Diagrams) หรือ แผนผังสถาปัตยกรรมระบบ (System Architecture Diagrams)

นอกจากนี้ การจัดทำบัญชีทรัพยากรอย่างละเอียด ยังช่วยให้องค์กรตรวจสอบได้ว่า ทรัพยากรที่มีอยู่นั้นเพียงพอต่อการดำเนินงานตามข้อกำหนดการออกแบบและการปรับใช้หรือไม่ หากพบว่าทรัพยากรไม่เพียงพอ องค์กรจะได้ดำเนินการปรับปรุงข้อกำหนดการออกแบบหรือเงื่อนไขการปรับใช้ระบบได้อย่างทันท่วงที

ถอดรหัส 4 ทรัพยากรหลักสำหรับระบบ AI (Annex A.4.3 – A.4.6)

มาตรฐาน ISO/IEC 42001 ได้แบ่งทรัพยากรที่ต้องจัดทำเอกสารและควบคุมออกเป็น 4 ด้านหลัก ดังนี้:

[ ทรัพยากร 4 ด้านหลักสำหรับระบบ AI (Annex A.4) ]
  ├── 1. Data Resources (ทรัพยากรด้านข้อมูล - A.4.3)
  │    ├── ประวัติที่มา (Data Provenance) และตราเวลาอัปเดต
  │    ├── ประเภทข้อมูล ML (Training, Validation, Test, Production)
  │    └── คุณภาพข้อมูล (Data Quality) และประเด็นความอคติ (Bias Issues)
  ├── 2. Tooling Resources (ทรัพยากรด้านเครื่องมือ - A.4.4)
  │    ├── ประเภทอัลกอริทึม โมเดล และเครื่องมือปรับสภาพข้อมูล
  │    └── เครื่องมือพัฒนา ประเมินผล และซอฟต์แวร์/ฮาร์ดแวร์พัฒนา
  ├── 3. System & Computing Resources (ทรัพยากรระบบและการประมวลผล - A.4.5)
  │    ├── ข้อจำกัดและรูปแบบการติดตั้ง (On-premises / Cloud / Edge)
  │    └── ทรัพยากรประมวลผล/เครือข่าย/จัดเก็บ และผลกระทบต่อสิ่งแวดล้อม
  └── 4. Human Resources (ทรัพยากรบุคลากร - A.4.6)
       ├── Data Scientists, Domain Experts, AI Specialists
       └── ผู้รับผิดชอบ Human Oversight และ Trustworthiness Experts

1. ทรัพยากรด้านข้อมูล (Data Resources – Control A.4.3 & Annex B.4.3)

ข้อมูลคือวัตถุดิบและหัวใจสำคัญที่สุดของระบบ AI โดยเฉพาะระบบที่ใช้อัลกอริทึม Machine Learning องค์กรต้องจัดทำเอกสารระบุรายละเอียดของข้อมูลที่นำมาใช้ในระบบ AI โดยครอบคลุมหัวข้อสำคัญดังนี้:

• ประวัติที่มาของข้อมูล (Data Provenance): บันทึกแหล่งที่มา และประวัติการจัดหาข้อมูล
• ตราเวลาอัปเดต (Date Tags): ระบุวันที่และเวลาที่มีการแก้ไขหรืออัปเดตข้อมูลล่าสุดในเมทาดาตา
• ประเภทของข้อมูลตามขั้นตอน Machine Learning: จำแนกชุดข้อมูลออกเป็น ข้อมูลสำหรับฝึกฝน (Training Data), ข้อมูลสำหรับตรวจสอบ (Validation Data), ข้อมูลสำหรับทดสอบ (Test Data) และข้อมูลที่ใช้จริงในการทำงาน (Production Data)
• กระบวนการและคุณลักษณะข้อมูล: บันทึกหมวดหมู่ข้อมูล กระบวนการติดฉลากข้อมูล (Data Labelling) วัตถุประสงค์การใช้งาน และกระบวนการเตรียมข้อมูล (Data Preparation)
• คุณภาพและความเสี่ยงของข้อมูล: กำหนดข้อกำหนดคุณภาพข้อมูล (Data Quality) บันทึกประเด็นความอคติที่พบหรืออาจเกิดขึ้นในข้อมูล (Bias Issues) รวมถึงนโยบายการจัดเก็บและทำลายข้อมูล (Data Retention and Disposal Policies)

2. ทรัพยากรด้านเครื่องมือและแบบจำลอง (Tooling Resources – Control A.4.4 & Annex B.4.4)

เครื่องมือและซอฟต์แวร์ที่ใช้ในกระบวนการสร้างและประมวลผล AI ถือเป็นสินทรัพย์ทางเทคโนโลยีที่ต้องได้รับการควบคุม โดยเฉพาะในระบบ Machine Learning ซึ่งครอบคลุมองค์ประกอบต่าง ๆ ได้แก่:

• ประเภทของอัลกอริทึมและโมเดล (Algorithm Types & ML Models): ระบุประเภทของแบบจำลองที่นำมาใช้งาน
• เครื่องมือปรับสภาพและเตรียมข้อมูล (Data Conditioning Tools): ซอฟต์แวร์หรือกระบวนการที่ใช้แปลงและทำความสะอาดข้อมูล
• วิธีปรับแต่งและประเมินผล: วิธีการปรับแต่งเพื่อประสิทธิภาพสูงสุด (Optimization Methods) และวิธีการประเมินผลโมเดล (Evaluation Methods)
• เครื่องมือสนับสนุนการพัฒนาและปรับใช้: เครื่องมือจัดสรรทรัพยากร (Provisioning Tools) เครื่องมือช่วยพัฒนาโมเดล ตลอดจนซอฟต์แวร์และฮาร์ดแวร์ที่ใช้สำหรับการออกแบบ พัฒนา และปรับใช้ระบบ AI (โดยสามารถอ้างอิงกรอบแนวทางเพิ่มเติมได้จาก ISO/IEC 23053)

3. ทรัพยากรด้านระบบและการประมวลผล (System and Computing Resources – Control A.4.5 & Annex B.4.5)

โครงสร้างพื้นฐานทางเทคโนโลยีและพลังการคำนวณเป็นปัจจัยชี้ขาดความสามารถในการทำงานของระบบ AI องค์กรต้องระบุรายละเอียดของทรัพยากรระบบและการประมวลผล ดังนี้:

• ข้อกำหนดความต้องการทรัพยากร (Resource Requirements): ระบุความต้องการของระบบเพื่อให้มั่นใจว่า AI สามารถทำงานได้บนอุปกรณ์ที่มีข้อจำกัด (Constrained Resource Devices)
• รูปแบบและสถานที่จัดวางระบบ: ระบุว่าระบบและฮาร์ดแวร์ประมวลผลตั้งอยู่ที่ใด เช่น การประมวลผลภายในองค์กร (On-premises), ระบบคลาวด์ (Cloud Computing) หรือการประมวลผลที่อุปกรณ์ปลายทาง (Edge Computing)
• ทรัพยากรคำนวณ จัดเก็บ และเครือข่าย: บันทึกข้อมูลประสิทธิภาพการประมวลผล (Processing) ระบบเครือข่าย (Network) และความจุของระบบจัดเก็บข้อมูล (Storage)
• ผลกระทบทางสิ่งแวดล้อมและต้นทุน (Environmental Impact & Cost): คำนึงถึงผลกระทบต่อสิ่งแวดล้อมจากการใช้งานฮาร์ดแวร์และการประมวลผล AI เช่น ปริมาณการใช้พลังงาน การปล่อยก๊าซเรือนกระจก ตลอดจนต้นทุนในการใช้ฮาร์ดแวร์
• ความต้องการที่แตกต่างกันในแต่ละระยะ: ตระหนักว่าระยะการพัฒนา (Development) ระยะปรับใช้ (Deployment) และระยะดำเนินงาน (Operation) มีความต้องการทรัพยากรระบบที่แตกต่างกันเพื่อรองรับการปรับปรุงอย่างต่อเนื่อง

4. ทรัพยากรบุคลากรและความเชี่ยวชาญ (Human Resources – Control A.4.6 & Annex B.4.6)

การพัฒนานวัตกรรม AI อย่างรับผิดชอบ จำเป็นต้องอาศัยบุคลากรที่มีความเชี่ยวชาญหลากหลายสาขา (Interdisciplinary Expertise) องค์กรต้องจัดทำเอกสารระบุข้อมูลบุคลากรและทักษะความสามารถ (Competences) ที่ใช้ในขั้นตอนต่าง ๆ เช่น การพัฒนา การปรับใช้ การดำเนินงาน การจัดการการเปลี่ยนแปลง การบำรุงรักษา การส่งมอบ การยกเลิกใช้งาน การตรวจสอบยืนยัน และการเชื่อมโยงระบบ

ตัวอย่างกลุ่มบุคลากรความเชี่ยวชาญสำคัญตามมาตรฐาน ISO/IEC 42001 ได้แก่:

• นักวิทยาศาสตร์ข้อมูล (Data Scientists): บุคลากรผู้เชี่ยวชาญการวิเคราะห์ข้อมูลและพัฒนาโมเดล
• ผู้รับผิดชอบด้านการกำกับดูแลโดยมนุษย์ (Human Oversight Roles): บุคลากรที่มีหน้าที่ตรวจสอบ ตรวจทาน และแทรกแซงหรือยกเลิกการตัดสินใจของ AI
• ผู้เชี่ยวชาญด้านความน่าเชื่อถือ (Trustworthiness Experts): ผู้เชี่ยวชาญเฉพาะด้านความมั่นคงปลอดภัย (Security) ความปลอดภัย (Safety) และความเป็นส่วนตัว (Privacy)
• นักวิจัยและผู้เชี่ยวชาญเฉพาะทาง (AI Researchers & Domain Experts): นักวิจัยเทคโนโลยี AI และผู้เชี่ยวชาญในโดเมนธุรกิจนั้น ๆ ที่เข้าใจบริบทการใช้งานจริง
• ความหลากหลายทางประชากรศาสตร์ (Diverse Expertise): คำนึงถึงการดึงกลุ่มประชากรที่หลากหลายเข้ามามีส่วนร่วมในกรณีที่จำเป็นต่อการกำกับดูแลชุดข้อมูลฝึกฝนโมเดลเพื่อลดอคติ

สรุปประเด็นสำคัญของทรัพยากร 4 ด้านตาม Annex A.4

• มองเห็นภาพรวมเพื่อบริหารความเสี่ยง: การจัดทำเอกสารทรัพยากร (A.4.2) ช่วยให้องค์กรวิเคราะห์ความเสี่ยงและประเมินผลกระทบต่อบุคคลและสังคมได้อย่างแม่นยำ
• โปร่งใสในข้อมูล (Data Resources – A.4.3): บันทึกประวัติที่มา (Data Provenance) คุณภาพข้อมูล ประเภทข้อมูล ML (Training/Validation/Test/Production) และประเด็นอคติ
• ชัดเจนในเครื่องมือ (Tooling Resources – A.4.4): จัดทำบัญชีอัลกอริทึม โมเดล ซอฟต์แวร์ปรับสภาพข้อมูล และเครื่องมือประเมินผล
• ควบคุมโครงสร้างประมวลผล (System & Computing Resources – A.4.5): ระบุสถานที่จัดวาง (On-premises/Cloud/Edge) ข้อจำกัดฮาร์ดแวร์ และผลกระทบต่อสิ่งแวดล้อม
• เน้นบุคลากรเชี่ยวชาญ (Human Resources – A.4.6): ระบุความสามารถของ Data Scientists, Domain Experts, Human Oversight Roles และ Trustworthiness Experts
• ยืดหยุ่นตามวงจรชีวิต: ความต้องการทรัพยากรทั้ง 4 ด้านต้องได้รับการทบทวนและปรับเปลี่ยนตามแต่ละระยะของ AI System Life Cycle

การบริหารจัดการทรัพยากรคือรากฐานของ AI ที่น่าเชื่อถือและตรวจสอบได้

การจัดทำเอกสารและการกำกับดูแลทรัพยากร 4 ด้านตามมาตรฐาน ISO/IEC 42001 (Annex A.4 & Annex B.4) ไม่ใช่เพียงการจัดทำบัญชีทรัพย์สินสารสนเทศแบบดั้งเดิม แต่เป็นกระบวนการสร้าง “ความโปร่งใสและความสามารถในการตรวจสอบย้อนกลับ” (Transparency & Traceability) ให้เกิดขึ้นในระบบ AI ขององค์กร

เมื่อผู้บริหารและทีม IT/Cybersecurity สามารถระบุและควบคุมทรัพยากรด้านข้อมูล เครื่องมือ โครงสร้างประมวลผล และบุคลากรได้อย่างครบถ้วน องค์กรจะสามารถลดความเสี่ยงจากผลลัพธ์ที่ผิดพลาด ป้องกันภัยคุกคามไซเบอร์รูปแบบใหม่ และแสดงถึงความรับผิดชอบอย่างเป็นรูปธรรม ซึ่งเป็นกุญแจสำคัญในการสร้างความไว้วางใจให้แก่ผู้บริโภค พันธมิตร และหน่วยงานกำกับดูแลในยุคดิจิทัล