ในปัจจุบันที่องค์กรจำนวนมากเร่งรีบนำปัญญาประดิษฐ์ (AI) เข้ามาประยุกต์ใช้งานเพื่อสร้างโอกาสทางธุรกิจและเพิ่มประสิทธิภาพการทำงาน สิ่งที่มักถูกละเลยไปคือการประเมินและบริหารจัดการความเสี่ยงอย่างเหมาะสม หลายองค์กรเผชิญกับความล้มเหลวเนื่องจากนำแนวทางการบริหารจัดการความเสี่ยงแบบซอฟต์แวร์ทั่วไปมาใช้กับโครงการ AI ซึ่งเป็นแนวทางที่ไม่สอดคล้องกับลักษณะเฉพาะของระบบ AI เนื่องจากระบบ AI มีพฤติกรรมเฉพาะตัวและมีความเป็นไปได้ที่จะเกิดความเสี่ยงในรูปแบบที่ต่างออกไปอย่างสิ้นเชิง
ตามมาตรฐานสากล ISO/IEC 22989 การบริหารจัดการความเสี่ยงที่มีประสิทธิภาพจะต้องเริ่มต้นขึ้นทันทีตั้งแต่ “ระยะเริ่มต้นโครงการ” (Inception Stage) ซึ่งเป็นจุดเปลี่ยนผ่านสำคัญที่ผู้มีส่วนได้ส่วนเสียตัดสินใจร่วมกันว่าจะเปลี่ยนไอเดียให้กลายเป็นระบบงานจริงหรือไม่ การวางรากฐานและจัดทำแผนรับมือความเสี่ยงตั้งแต่จุดเริ่มต้นนี้ จึงเป็นกุญแจสำคัญที่จะช่วยให้องค์กรประหยัดต้นทุน ป้องกันภัยคุกคาม และสร้างระบบ AI ที่ปลอดภัยและน่าเชื่อถือได้อย่างยั่งยืน
ทำไมการจัดการความเสี่ยง AI ต้องเริ่มตั้งแต่ระยะเริ่มต้น (Inception Stage)?
ระยะเริ่มต้นโครงการหรือ Inception Stage คือจุดเริ่มต้นของวงจรชีวิตระบบ AI (AI System Life Cycle) เป็นระยะที่ผู้มีส่วนได้ส่วนเสียมารวมตัวกันเพื่อวิเคราะห์และตัดสินใจว่าจะดำเนินโครงการต่อไปในระยะการออกแบบและพัฒนา (Design and Development) หรือไม่
ความเสี่ยงของระบบ AI มีลักษณะเป็นพลวัตและคาดเดาได้ยากกว่าระบบซอฟต์แวร์ทั่วไป ซอฟต์แวร์แบบเดิมทำงานตามคำสั่งและตรรกะที่นักพัฒนาเขียนโปรแกรมไว้อย่างแน่นอนตายตัว แต่ระบบ AI โดยเฉพาะระบบที่ใช้การเรียนรู้ของเครื่อง (Machine Learning) จะขับเคลื่อนด้วยข้อมูลและการปรับค่าพารามิเตอร์เพื่อให้พฤติกรรมสะท้อนตามข้อมูลที่ได้รับเรียนรู้ ส่งผลให้ผลลัพธ์ของระบบเป็นค่าความน่าจะเป็นทางสถิติที่มีโอกาสเกิดข้อผิดพลาดได้เสมอ และไม่สามารถคาดเดาพฤติกรรมได้อย่างสมบูรณ์ 100%
ด้วยเหตุนี้ การระบุข้อกำหนดและการจัดการความเสี่ยงจึงไม่สามารถทำแบบครั้งเดียวเสร็จ หรือทำเฉพาะในขั้นตอนก่อนปล่อยใช้งานจริงได้ แต่จะต้องบูรณาการกระบวนการประเมินและบริหารความเสี่ยงเข้าไปในทุกขั้นตอนตลอดวงจรชีวิต โดยมีจุดตั้งต้นที่เข้มงวดในระยะ Inception นี้
การกำหนดวัตถุประสงค์และข้อกำหนดเชิงระบบเพื่อจำกัดความเสี่ยง
การเตรียมความพร้อมในระยะ Inception เพื่อลดโอกาสเกิดข้อผิดพลาดในการทำงานจริง ประกอบด้วยกระบวนการสำคัญดังต่อไปนี้
วัตถุประสงค์และตัววัดผล (Objectives)
ผู้มีส่วนได้ส่วนเสียต้องร่วมกันตอบคำถามพื้นฐานอย่างชัดเจนว่าทำไมองค์กรจึงจำเป็นต้องพัฒนาระบบ AI นี้ขึ้นมา ระบบจะช่วยแก้ปัญหาใด ตอบโจทย์ความต้องการของลูกค้าหรือเพิ่มโอกาสทางธุรกิจในด้านใด และตัววัดความสำเร็จของโครงการในเชิงประสิทธิภาพและระบบงานคืออะไร
ข้อกำหนดที่ครอบคลุมตลอดวงจรชีวิต (Requirements)
ข้อกำหนดของระบบ AI จะต้องถูกรวบรวมอย่างครอบคลุมตั้งแต่ต้นจนจบวงจรชีวิต ไม่ใช่จำกัดอยู่แค่ขั้นตอนการพัฒนา การละเลยไม่พิจารณาข้อกำหนดสำหรับการติดตั้งใช้งานจริง (Deployment) การปฏิบัติงานและเฝ้าระวัง (Operation and Monitoring) ไปจนถึงขั้นตอนการปลดระวางระบบ (Retirement) มักเป็นสาเหตุหลักที่ทำให้เกิดปัญหาคอขวดเชิงโครงสร้างและการหยุดชะงักของระบบในอนาคต นอกจากนี้ ข้อกำหนดจำเป็นต้องคำนึงถึงความไม่แน่นอนและพฤติกรรมที่คาดเดาไม่ได้ของ AI รวมถึงการปฏิบัติตามกฎหมายและนโยบายบังคับต่าง ๆ อย่างเคร่งครัด
การรวมกลุ่มผู้เชี่ยวชาญจากหลากหลายสาขา (Multi-stakeholder Approach)
เนื่องจากระบบ AI ส่งผลกระทบเป็นวงกว้าง การระดมความคิดเห็นจากผู้เชี่ยวชาญที่มีความรู้เฉพาะทางหลากหลายด้าน (Diverse subject-matter expertise) จึงเป็นสิ่งจำเป็น แนวทางนี้จะช่วยให้องค์กรสามารถมองเห็นและระบุความเสี่ยงที่แฝงอยู่ ตลอดจนผลลัพธ์หรือผลกระทบที่ไม่ได้ตั้งใจ (unintended consequences) ของระบบ AI ได้อย่างรอบด้านมากขึ้น
เจาะลึกกระบวนการประเมินความเสี่ยงและจัดทำแผนรับมือ (Risk Management)
หัวใจสำคัญในระยะ Inception คือการจัดทำกระบวนการประเมินความเสี่ยงอย่างเป็นระบบ เพื่อนำไปสู่การสร้าง “แผนจัดการความเสี่ยง” (Risk Treatment Plan) โดยอ้างอิงตามกรอบมาตรฐานสากลด้านการบริหารจัดการความเสี่ยง AI อย่าง ISO/IEC 23894 ซึ่งมีแนวทางปฏิบัติที่ชัดเจนดังนี้
การประเมินผลดีและอันตรายที่อาจเกิดขึ้น (Harms and Benefits Assessment)
องค์กรต้องระบุอันตราย (Harms) และผลประโยชน์ (Benefits) ที่อาจเกิดขึ้นจากระบบ AI โดยควรมีการหารือและขอรับฟังความคิดเห็นจากตัวแทนกลุ่มผู้ใช้งานจริง กระบวนการนี้จะช่วยสร้างชุดค่านิยมหลัก (Values) ที่เหมาะสม เพื่อใช้เป็นแนวทางในการออกแบบส่วนประกอบของระบบ คุณลักษณะการทำงาน หน้าจอผู้ใช้งาน (User Interface) และการเขียนคู่มือระบบ
การจัดการความเสี่ยงด้านคุณค่าควบคู่ความปลอดภัย
นอกเหนือจากความเสี่ยงด้านเทคนิคทั่วไปที่ระบบไอทีต้องพิจารณา เช่น ความมั่นคงปลอดภัยทางไซเบอร์ (Security) และความเป็นส่วนตัวของข้อมูล (Privacy) แล้ว แผนจัดการความเสี่ยงของ AI จะต้องครอบคลุมความเสี่ยงที่เกี่ยวข้องกับค่านิยมหลักที่ระบุไว้ด้วย โดยผู้พัฒนาสามารถนำกรอบการทำงานทางกฎหมาย สิทธิมนุษยชน ความรับผิดชอบต่อสังคม และกรอบการดูแลสิ่งแวดล้อม เข้ามาช่วยขัดเกลาและกำหนดเป็นข้อกำหนดของระบบที่ชัดเจน
ความโปร่งใส ความรับผิดชอบ และการวางแผนทรัพยากรข้อมูล
ความน่าเชื่อถือของระบบ AI เป็นสิ่งที่ไม่สามารถสร้างขึ้นมาได้ในภายหลัง แต่ต้องได้รับการวางรากฐานและเตรียมการในระยะแรกเริ่มผ่านองค์ประกอบเหล่านี้
ความโปร่งใสและการตรวจสอบย้อนกลับ (Transparency & Accountability)
Inception Stage นี้ ผู้มีส่วนได้ส่วนเสียต้องมั่นใจว่าจะมีการเก็บบันทึกข้อมูลสำคัญทั้งหมดตลอดวงจรชีวิตอย่างเป็นระบบ ได้แก่
- แหล่งที่มาของข้อมูล (Data Provenance)
- ความถูกต้องและความสมบูรณ์ของแหล่งข้อมูลหลัก
- บันทึกกระบวนการดำเนินงานและการตัดสินใจสำคัญทั้งหมดในโครงการ
- ความพยายามและขั้นตอนในการลดหรือบรรเทาความเสี่ยง (Risk Mitigation)
การเก็บบันทึกข้อมูลอย่างละเอียดเหล่านี้เป็นรากฐานสำคัญที่ช่วยสร้างความเข้าใจอย่างลึกซึ้งว่าผลลัพธ์ของ AI ถูกสร้างขึ้นมาได้อย่างไร และช่วยสนับสนุนเรื่องความรับผิดชอบ (Accountability) ของระบบเมื่อเกิดข้อผิดพลาด
การวางแผนและจัดเตรียมทรัพยากรข้อมูล (Resources & Data Planning)
ผู้บริหารโครงการต้องคาดการณ์และวางแผนงบประมาณตลอดวงจรชีวิต รวมถึงการระบุทรัพยากรที่จำเป็นในแต่ละขั้นตอน สำหรับระบบ AI ที่ขับเคลื่อนด้วย Machine Learning จะต้องให้ความสำคัญกับทรัพยากรข้อมูลเป็นพิเศษ โดยต้องวางแผนการจัดหาข้อมูลที่ครอบคลุมทั้ง 3 ส่วนสำคัญ ได้แก่
- ข้อมูลฝึกฝน (Training Data) สำหรับการสอนระบบสร้างแบบจำลองพฤติกรรม
- ข้อมูลตรวจสอบ (Validation Data) สำหรับการปรับแต่งและคัดเลือกตัวแปรเสริม (Hyperparameters)
- ข้อมูลทดสอบ (Test Data) สำหรับการประเมินประสิทธิภาพเชิงสถิติของระบบก่อนนำไปติดตั้งจริง
ด่านสุดท้ายของระยะเริ่มต้น: การประเมินความเป็นไปได้ (Feasibility & POC)
กระบวนการสุดท้ายก่อนที่จะตัดสินใจอนุมัติเพื่อผ่านเข้าสู่ระยะการพัฒนาคือการประเมินความเป็นไปได้ (Feasibility) โดยองค์กรควรจัดให้มีการสร้างแบบทดสอบจำลองแนวคิดหรือ Proof-of-concept (POC) เพื่อทำการประเมินว่าระบบ AI นั้นสามารถตอบโจทย์การทำงานจริงได้หรือไม่
การประเมินความเป็นไปได้เชิงวิศวกรรมนี้จะต้องทวนสอบกับเกณฑ์ข้อกำหนดและวัตถุประสงค์โครงการอย่างน้อย 3 ประการคือ:
- ระบบสามารถแก้ไขปัญหาเชิงปฏิบัติการที่กำหนดไว้ได้จริงหรือไม่
- ระบบตอบสนองต่อโอกาสทางธุรกิจหรือช่วยขับเคลื่อนพันธกิจขององค์กรได้หรือไม่
- ระบบมีขีดความสามารถและคุณลักษณะเฉพาะตัวที่เป็นไปตามความคาดหมายหรือไม่
หากผลการทดสอบจำลองพบลักษณะทางเทคนิคหรือสภาวะทางการเงินที่ไม่มีความคุ้มค่า หรือตรวจพบความเสี่ยงที่ยากจะควบคุมในภายหลัง ผู้มีส่วนได้ส่วนเสียก็สามารถย้อนกลับมาทบทวนระยะ Inception ใหม่ได้ หรือตัดสินใจยุติโครงการได้ทันท่วงทีโดยไม่สูญเสียงบประมาณมหาศาล แต่หากระบบผ่านเกณฑ์ประเมินความเป็นไปได้นี้ องค์กรก็สามารถก้าวเข้าสู่ระยะออกแบบและพัฒนาได้อย่างมั่นใจ
Key Takeaways
- บริหารความเสี่ยงแบบครอบคลุม: ความเสี่ยงของ AI ต้องได้รับการระบุ ประเมิน และจัดทำแผนรับมือครอบคลุมทั้ง 8 ระยะวงจรชีวิต โดยตั้งต้นอย่างรัดกุมตั้งแต่ระยะ Inception Stage
- จัดทำแผนจัดการความเสี่ยง: ผลลัพธ์สำคัญในระยะแรกคือแผนจัดการความเสี่ยง (Risk Treatment Plan) ตามแนวทาง ISO/IEC 23894 โดยพิจารณาทั้งความปลอดภัย ความเป็นส่วนตัว สิทธิมนุษยชน และความรับผิดชอบต่อสังคม
- ใช้มุมมองที่หลากหลาย: ข้อกำหนดของระบบ AI ควรได้มาจากการระดมความคิดของผู้เชี่ยวชาญจากหลากหลายสาขา เพื่อวิเคราะห์และตรวจจับความเสี่ยงเชิงพฤติกรรมที่คาดเดาไม่ได้
- ตรวจสอบย้อนกลับได้: วางแผนบันทึกแหล่งที่มาของข้อมูล (Data Provenance) และขั้นตอนการตัดสินใจสำคัญ เพื่อสร้างความโปร่งใสและรับประกันความรับผิดชอบเชิงระบบ
- ทำ POC เสมอ: การทำ Proof-of-concept เป็นเครื่องมือทดสอบความเหมาะสมและประเมินความเป็นไปได้ทางเทคนิคที่คุ้มค่าที่สุดก่อนตัดสินใจลงมือพัฒนาระบบจริง
บทสรุป
การประเมินและบริหารจัดการความเสี่ยงตั้งแต่ระยะเริ่มต้นโครงการ (Inception Stage) ไม่ใช่ขั้นตอนที่คอยขัดขวางนวัตกรรมหรือความเร็วในการทำธุรกิจ แต่เป็นแนวทางปฏิบัติตามมาตรฐานสากล ISO/IEC 22989 ที่จะช่วยคุ้มกันองค์กรจากการตัดสินใจที่คลาดเคลื่อนทางเทคนิค เมื่อองค์กรเข้าใจว่าประสิทธิภาพและความถูกต้องของ AI ขับเคลื่อนบนหลักความน่าจะเป็นทางสถิติและพร้อมที่จะเกิดความคลาดเคลื่อนได้เสมอ องค์กรจะสามารถวางแผนทรัพยากรข้อมูล จัดระดับความโปร่งใส และสร้างมาตรการควบคุมกำกับดูแลได้อย่างมีประสิทธิภาพ การเดินตามกระบวนการมาตรฐานและทบทวนความเป็นไปได้ผ่านตัวแบบจำลองตั้งแต่แรกเริ่ม จึงเป็นจุดตัดสำคัญที่จะช่วยสร้างความปลอดภัยทางไซเบอร์ ปกป้องชื่อเสียงองค์กร และรักษาความน่าเชื่อถืออย่างยั่งยืนในยุคเศรษฐกิจ AI
