generative_AI Archives - ACIS Professional Center Co., Ltd.

บทสรุปการเตรียมรับมือภัยคุกคามทางไซเบอร์ ปี 2024

ArticleJune 12, 202450Views 0Likes 0Comments

ใกล้จะหมด Q1 ของปี 2024 จากบทความหลาย ๆ อันใน ACIS Pages จะพูดถึงเทรนด์การเปลี่ยนแปลงด้าน Cybersecurity . การเปลี่ยนแปลงที่เราทำงาน Cybersecurity ต้องเตรียมพร้อมรับมือ โดยสรุปมีดังนี้. 1. การที่ Generative AI เป็นผู้นำเทรนด์ที่ทำให้ทุกธุรกิจต้องปรับตัว และนำเอา AI เข้ามาพัฒนา ต่อยอดในหลาย ๆ ส่วน แต่อย่าลืมว่าผู้ไม่ประสงค์ดีก็นำเอาเรื่องนี้มาใช้ประโยชน์เช่นกัน ดังนั้นแต่ละองค์กรต้องมีการควบคุม AI เพื่อใช้ในการเตรียมรับมือด้านความปลอดภัยทางไซเบอร์ เช่น นำเอา AI มาใช้ในการ Predictive มากขึ้น หรือเอาใช้ประโยชน์ในด้าน Threat intelligence เป็นต้น. 2. ปัญหาเรื่องการละเมิดข้อมูลส่วนบุคคลที่มีโอกาสที่จะเพิ่มขึ้นอย่างต่อเนื่อง จะเห็นได้จากข่าวในตอนนี้มีการออกมาอย่างเป็นประจำทั้งในประเทศไทยเอง หรือ ต่างประเทศ ACIS เองเรามีหน่วยงานที่ Monitor เรื่องพวกนี้อยู่ทั้งที่ข้อมูลหลุดไปที่ส่วน Dark web หรือซื้อขายทั่วไปไปตาม Surface web…

10 ช่องโหว่หลักของระบบ Generative AI และ LLM

ArticleJune 12, 202452Views 0Likes 0Comments

ปัจจุบันคงไม่มีใครไม่รู้จัก AI หรือ LLM แน่นอน เพราะไม่ว่าจะไปบรรยายที่ไหนก็จะมีคนมาพูดคุยแลกเปลี่ยนความคิดเห็นเรื่องนี้โดยตลอด ซึ่งเมื่อมีเทคโนโลยีใหม่เข้ามาก็จะมีในส่วนที่ต้องระมัดระวังมากขึ้นเช่นกัน OWASP หรือ Open Worldwide Application Security Project ซึ่งเป็นแหล่งข้อมูลด้านความมั่นคงปลอดภัยที่น่าเชื่อถือระดับโลก จึงได้เผยแพร่รายงาน 10 ช่องโหว่หลักของระบบ Generative AI และ LLM 1. 𝗣𝗿𝗼𝗺𝗽𝘁 𝗜𝗻𝗷𝗲𝗰𝘁𝗶𝗼𝗻 การที่มีการใช้คำสั่งที่ทำให้ระบบ Generative AI ทำงานผิดปกติ ไม่ได้เป็นไปตามที่คาดหวัง. 2. 𝗜𝗻𝘀𝗲𝗰𝘂𝗿𝗲 𝗼𝘂𝘁𝗽𝘂𝘁 𝗵𝗮𝗻𝗱𝗶𝗻𝗴 ประเภทช่องโหว่ที่ทำให้ผู้ไม่ประสงค์ดีสามาถเข้าถึงระบบได้. 3. 𝗧𝗿𝗮𝗶𝗻𝗶𝗻𝗴 𝗱𝗮𝘁𝗮 𝗽𝗼𝗶𝘀𝗼𝗻𝗶𝗻𝗴 ข้อมูลที่ถูกเพื่อใช้ Training ทำให้เกิดช่องโหว่เวลาถูกนำไปใช้. 4. 𝗠𝗼𝗱𝗲𝗹 𝗗𝗲𝗻𝗶𝗮𝗹 𝗼𝗳 𝗦𝗲𝗿𝘃𝗶𝗰𝗲 การใช้คำสั่งทำให้ AI ใช้ทรัพยากรมากเกินกว่าที่รับได้. 5. 𝗦𝘂𝗽𝗽𝗹𝘆 𝗰𝗵𝗮𝗶𝗻 𝘃𝘂𝗹𝗻𝗲𝗿𝗮𝗯𝗶𝗹𝗶𝘁𝘆 การโจมตีส่วนประกอบ…

New Update มาตรฐาน ISO/IEC 42001:2023 ยกระดับการจัดการ AI

ArticleJune 12, 202440Views 0Likes 0Comments

ตอนนนี้ใครก็พูดถึง AI แต่สิ่งหนึ่งที่เมื่อเทคโนโลยีเปลี่ยน มีการ Disrupt อย่างรุนแรง หรือ การออกฏหมาย/ระเบียบใหม่ ๆ ก็จะต้องมีเรื่อง Security เข้ามาเกี่ยวข้องอย่างแน่นอน. จึงเป็นที่มาที่หน่วยงานระดับสากลอย่าง ISO ได้ออกมาตรฐาน ISO/IEC 42001:2023 มาตรฐานระบบการจัดการ AI โดยมีการให้คำแนะนำในการนำเรื่องการพิจารณาทางจริยธรรม ความโปร่งใส และการเรียนรู้ต่อเนื่อง . มาตรฐานนี้กำหนดให้มีข้อกำหนดสำหรับการจัดตั้ง การดำเนินการ การบำรุงรักษา และการปรับปรุงระบบการจัดการปัญญาประดิษฐ์ (AIMS) ภายในองค์กร มาตรฐานนี้ถูกออกแบบมาสำหรับหน่วยงานที่ให้บริการ หรือ ใช้ผลิตภัณฑ์ หรือ บริการที่ใช้ AI เพื่อรับประกันการพัฒนาและใช้งานระบบ AI อย่างมีความรับผิดชอบ. มาตรฐานนี้จะช่วยให้องค์กรสร้างความมั่นใจให้กับลูกค้า และผู้มีส่วนได้ส่วนเสีย โดยมีประโยชน์ภาพรวมดังนี้. การใช้ระบบ AIMS ที่มีประสิทธิภาพสามารถจัดการกับความเสี่ยงที่เกี่ยวข้องกับ AI ได้ทันท่วงที. ใช้ในการสร้างกรอบการทำงานที่ชัดเจนสำหรับการพัฒนาและใช้งาน AI ซึ่งสามารถช่วยกระตุ้นนวัตกรรมภายในองค์กรได้เป็นอ่างดี. เป็นการสร้างความแตกต่างในตลาด การได้รับการรับรองมาตรฐาน ISO/IEC 42001:2023 นั้นจะช่วยให้องค์กรมีความน่าเชื่อถือมากขึ้น