หลายองค์กรกำลังเร่งนำ AI เข้ามาช่วยทำงาน ไม่ว่าจะเป็น chatbot ภายในองค์กร ระบบสรุปเอกสาร เครื่องมือช่วยวิเคราะห์ข้อมูล ระบบ automation หรือ AI workflow ที่เชื่อมต่อกับแอปพลิเคชันเดิมขององค์กร

ข้อดีคือองค์กรสามารถสร้าง AI Application ได้เร็วขึ้นมาก โดยเฉพาะเมื่อมีเครื่องมือ low-code, no-code, API และแพลตฟอร์มสำเร็จรูปเข้ามาช่วย แต่ความเร็วนี้ก็มาพร้อมคำถามสำคัญว่า

องค์กรกำกับดูแล AI Application เหล่านี้ทันหรือไม่?

เพราะ AI Application ไม่ได้เป็นเพียง “เครื่องมือช่วยงาน” แต่กลายเป็นระบบที่อาจเข้าถึงข้อมูลลูกค้า ข้อมูลพนักงาน เอกสารภายใน ระบบหลังบ้าน API และกระบวนการตัดสินใจขององค์กร หากไม่มีการควบคุมที่เหมาะสม AI Application อาจกลายเป็น attack surface ใหม่ที่ผู้โจมตีใช้เป็นช่องทางเข้าสู่องค์กรได้

เมื่อ AI Application เกิดเร็วกว่า Governance

ในอดีต การพัฒนา application หนึ่งระบบมักผ่านขั้นตอนชัดเจน เช่น requirement, design, development, testing, security review และ deployment แต่ในยุค AI เครื่องมือจำนวนมากทำให้ทีมงานสามารถสร้าง workflow หรือ application ทดลองได้ภายในไม่กี่วัน หรือบางครั้งเพียงไม่กี่ชั่วโมง

ปัญหาคือความเร็วของการสร้างอาจเร็วกว่ากระบวนการกำกับดูแล เช่น

• ไม่มีการประเมินความเสี่ยงก่อนใช้งาน
• ไม่มีการตรวจสอบว่าข้อมูลใดถูกส่งเข้า AI
• ไม่มีการกำหนดสิทธิ์การเข้าถึงอย่างชัดเจน
• ไม่มี log หรือ evidence เพียงพอสำหรับ audit
• ไม่มีเจ้าของระบบหรือเจ้าของความเสี่ยงที่รับผิดชอบโดยตรง

เมื่อ AI Application ถูกนำไปใช้จริงโดยยังไม่มี control ที่เหมาะสม ความเสี่ยงจึงไม่ได้อยู่แค่เรื่องเทคนิค แต่เกี่ยวข้องกับ Data Protection, Privacy, PDPA, Cybersecurity, Compliance และชื่อเสียงขององค์กรโดยตรง

ทำไม AI Application จึงกลายเป็น Attack Surface ใหม่

1. ข้อมูลที่ป้อนเข้า AI อาจไม่ถูกควบคุม

AI Application มักต้องใช้ข้อมูลจำนวนมากเพื่อให้ทำงานได้ดี เช่น เอกสารภายใน ข้อมูลลูกค้า ข้อมูลสัญญา ticket งาน IT หรือข้อมูลจากระบบ CRM และ ERP

หากไม่มี data classification และ policy ที่ชัดเจน พนักงานอาจนำข้อมูลส่วนบุคคล ข้อมูลลับ หรือข้อมูลที่มีข้อจำกัดทางกฎหมายไปใช้กับ AI โดยไม่รู้ตัว ส่งผลให้เกิดความเสี่ยงด้าน PDPA, Data Leakage และการใช้ข้อมูลเกินวัตถุประสงค์

2. AI Workflow เชื่อมต่อระบบหลังบ้านมากกว่าที่องค์กรคิด

AI Application จำนวนมากไม่ได้ทำงานแบบแยกเดี่ยว แต่เชื่อมต่อกับ API, database, cloud storage, email, collaboration tools หรือระบบ ticket ภายในองค์กร

หาก workflow เหล่านี้ถูกออกแบบโดยไม่มีการตรวจสอบสิทธิ์และขอบเขตการเข้าถึงที่เหมาะสม ผู้โจมตีอาจใช้ช่องโหว่ของ AI Application เพื่อเข้าถึงระบบอื่นต่อได้

ความเสี่ยงจึงไม่ได้หยุดอยู่ที่ AI แต่ขยายไปถึงระบบธุรกิจที่ AI เชื่อมต่ออยู่

3. Low-code / no-code ทำให้การพัฒนาเร็ว แต่การตรวจสอบอาจตามไม่ทัน

เครื่องมือ low-code และ no-code ช่วยให้ทีมธุรกิจสร้าง application ได้เองมากขึ้น ซึ่งเป็นข้อดีในแง่ productivity แต่ก็เพิ่มความเสี่ยงหากองค์กรไม่มีแนวทางกำกับดูแลที่ชัดเจน

คำถามสำคัญคือ application เหล่านี้ผ่าน security review หรือไม่ ใครเป็นผู้อนุมัติการเชื่อมต่อข้อมูล มีการตรวจสอบ dependency หรือ plugin ที่ใช้งานหรือไม่ และเมื่อเกิดเหตุ ใครคือผู้รับผิดชอบ

ถ้าคำตอบยังไม่ชัด องค์กรอาจกำลังสร้าง shadow AI environment โดยไม่รู้ตัว

4. Model, Plugin และ API เพิ่มความซับซ้อนของความเสี่ยง

AI Application สมัยใหม่มักประกอบด้วยหลายส่วน เช่น model, prompt, plugin, API, vector database, connector และ third-party service แต่ละส่วนมีความเสี่ยงของตัวเอง

ตัวอย่างเช่น plugin ที่มีสิทธิ์เข้าถึงข้อมูลมากเกินไป API key ที่จัดเก็บไม่ปลอดภัย หรือ prompt ที่เปิดโอกาสให้เกิด prompt injection ทำให้ระบบทำงานผิดจากที่ตั้งใจไว้

ดังนั้น การป้องกัน AI Application จึงไม่ใช่แค่การป้องกัน server หรือ endpoint แต่ต้องมองทั้ง architecture และ data flow ของระบบ

5. ไม่มีเจ้าของความเสี่ยงที่ชัดเจน

หลายองค์กรยังไม่ชัดว่า AI Application อยู่ภายใต้ความรับผิดชอบของใคร ระหว่าง IT, Security, Data Protection Officer, Legal, Compliance หรือ Business Unit

เมื่อ ownership ไม่ชัด การอนุมัติ การตรวจสอบ การจัดการ incident และการเก็บหลักฐานเพื่อ audit ก็ไม่ชัดตามไปด้วย

นี่คือจุดที่ AI Governance เข้ามามีบทบาท เพราะองค์กรต้องกำหนดโครงสร้างการตัดสินใจ บทบาทหน้าที่ ความรับผิดชอบ และหลักฐานการควบคุมให้ชัดเจนก่อน AI ถูกใช้งานในวงกว้าง

ผู้บริหารควรถามอะไร ก่อนอนุมัติให้ใช้ AI Application

ก่อนให้องค์กรนำ AI Application ไปใช้จริง ผู้บริหารและทีมกำกับดูแลควรถามอย่างน้อย 7 คำถามนี้

1. AI Application นี้ใช้ข้อมูลประเภทใด และมีข้อมูลส่วนบุคคลหรือข้อมูลลับหรือไม่
2. ข้อมูลถูกส่งไปที่ใด เก็บไว้นานเท่าไร และใครเข้าถึงได้
3. ระบบเชื่อมต่อกับ application หรือ API ใดขององค์กรบ้าง
4. มีการประเมินความเสี่ยงด้าน Security, Privacy และ Compliance แล้วหรือไม่
5. มีการทดสอบช่องโหว่หรือ security review ก่อนใช้งานจริงหรือไม่
6. มี log, monitoring และ incident response process รองรับหรือไม่
7. ใครคือเจ้าของระบบ เจ้าของข้อมูล และเจ้าของความเสี่ยง

คำถามเหล่านี้ช่วยให้องค์กรมอง AI Application ไม่ใช่แค่ในฐานะเครื่องมือเพิ่มประสิทธิภาพ แต่เป็นระบบหนึ่งที่ต้องถูกกำกับดูแลเหมือน application สำคัญอื่น ๆ ขององค์กร

แนวทางลดความเสี่ยง AI Application อย่างเป็นระบบ

องค์กรไม่จำเป็นต้องหยุดใช้ AI แต่ควรใช้ AI อย่างมีโครงสร้างและตรวจสอบได้ โดยเริ่มจากแนวทางต่อไปนี้

• จัดทำ AI Use Case Inventory เพื่อรู้ว่าองค์กรใช้งาน AI ที่จุดใดบ้าง
• แยกประเภทข้อมูลที่ AI Application เข้าถึงได้
• กำหนด policy สำหรับการใช้ข้อมูลกับ AI
• ประเมินความเสี่ยงของ AI Application ก่อนใช้งานจริง
• ตรวจสอบ architecture, API, plugin และ integration ที่เกี่ยวข้อง
• ทำ security testing สำหรับ AI Application ที่มีความสำคัญ
• กำหนด owner, approval process และ monitoring
• ใช้กรอบ AI Governance และมาตรฐาน เช่น ISO/IEC 42001 เป็นแนวทางกำกับดูแล

สิ่งสำคัญคือ Governance ไม่ควรถูกมองว่าเป็นอุปสรรคของนวัตกรรม แต่เป็นกลไกที่ทำให้องค์กรใช้ AI ได้อย่างมั่นใจ ปลอดภัย และสอดคล้องกับความคาดหวังของผู้บริหาร ลูกค้า และหน่วยงานกำกับดูแล

ACIS เราช่วยคุณได้อย่างไร

ACIS Professional Center ช่วยองค์กรวางแนวทางการใช้ AI และ AI Application อย่างเป็นระบบ ครอบคลุมทั้งมุม People, Process และ Technology

บริการที่เกี่ยวข้อง ได้แก่

• AI Governance และ ISO/IEC 42001 Readiness เพื่อวางกรอบการบริหารจัดการ AI ให้มีนโยบาย บทบาท ความรับผิดชอบ และหลักฐานการควบคุมที่ชัดเจน
• Cybersecurity Assessment และ Penetration Testing เพื่อประเมินความเสี่ยงของระบบ AI Application, API, integration และ platform ที่เกี่ยวข้อง
• Data Governance และ PDPA Consulting เพื่อกำกับการใช้ข้อมูลให้สอดคล้องกับหลักการคุ้มครองข้อมูลส่วนบุคคล
• AIVistaX เพื่อสนับสนุนการบริหารจัดการและประเมินความพร้อมด้าน AI Governance
• Training & Awareness เพื่อให้ผู้บริหาร ทีม IT ทีม Security และ Business Unit เข้าใจความเสี่ยงของ AI และใช้งานอย่างเหมาะสม

เป้าหมายไม่ใช่ทำให้องค์กรกลัวการใช้ AI แต่ช่วยให้องค์กรใช้ AI ได้อย่างมีความรับผิดชอบ ตรวจสอบได้ และลดความเสี่ยงที่อาจเกิดขึ้นจากการเติบโตของ AI Application