บทความโดย คริส ไรท์ ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี และรองประธานบริหาร ฝ่ายวิศวกรรมระดับโลก ของเร้ดแฮท

การถกเถียงในวงกว้างเกี่ยวกับ AI และผลกระทบต่อความปลอดภัยทางไซเบอร์ มักกระจุกตัวอยู่แค่เรื่องของตัวโมเดล จนเกิดกระแสเรียกร้องให้มีหน่วยงานกลางคอยควบคุมดูแลโมเดลรุ่นใหม่ล่าสุดอย่างลับๆ ถึงขั้นเสนอให้กำกับดูแลอย่างเข้มงวดหรือสั่งห้ามใช้โมเดลแบบเปิดเผยค่าน้ำหนัก (open weights models) โดยเด็ดขาด เพื่อเหตุผลด้านความปลอดภัย แต่ในขณะที่หน่วยงานกำกับดูแลทั่วโลกกำลังชั่งน้ำหนักเรื่องอนาคตของโมเดล AI แบบเปิด ประเด็นหลักที่สำคัญที่สุดกลับถูกมองข้ามไป นั่นคือ เราจะคุ้มครองและสร้างความปลอดภัยอย่างแท้จริงให้ AI ได้อย่างไร

ความปลอดภัยของ AI คือความท้าทายด้านซอฟต์แวร์ ไม่ใช่แค่เรื่องของโมเดล 

AI agent ไม่ใช่แค่ตัวโมเดลเดี่ยว ๆ แต่คือ ระบบซอฟต์แวร์ที่ประกอบกันแบบครบวงจร (software stack) ดังนั้น การสร้างความปลอดภัยให้ระบบนี้จึงต้องมองให้ครอบคลุมตั้งแต่การวิเคราะห์โมเดลหลัก (core model) ส่วนเชื่อมต่อสั่งการ (agentic harness) เทคนิคการจำกัดพื้นที่ความเสี่ยงหรือพื้นที่จำลองการทำงาน (sandbox) เกราะคุมความปลอดภัยขณะทำงาน (runtime guardrails) การกำกับดูแลข้อมูล ไปจนถึงโครงสร้างพื้นฐานอีกหลายเลเยอร์ที่ทำหน้าที่รองรับระบบต่างๆ สิ่งสำคัญคือสามในสี่ขององค์ประกอบเหล่านี้ คือ harnesses, sandbox และเลเยอร์ที่เป็นแอปพลิเคชันแบบดั้งเดิม ล้วนมีรากฐานและยึดโยงอยู่กับวิศวกรรมซอฟต์แวร์โดยแท้จริง ไม่ใช่เรื่องของตัวโมเดล

ความพยายามในการสร้างความปลอดภัยให้ AI ด้วยการแยกส่วนซอฟต์แวร์และกักไว้ในระบบปิดที่เป็นกรรมสิทธิ์ เป็นเพียงการย้ายความเสี่ยง ไม่ใช่การแก้ปัญหาที่แท้จริง หากย้อนกลับไปเมื่อหลายทศวรรษก่อน ตอนที่มีการเปิดตัว Linux ครั้งแรก เคยเกิดความลังเลและข้อสงสัยว่าโอเพ่นซอร์สจะเสถียรและปลอดภัยพอสำหรับการใช้งานในระดับองค์กรหรือไม่ โดยฝ่ายที่ไม่เห็นด้วยมองว่ามีเพียงการพัฒนาแบบปิดเท่านั้นที่จะให้ความน่าเชื่อถือในระดับองค์กรได้ อย่างไรก็ตาม เวลาได้พิสูจน์แล้วว่าซอฟต์แวร์โอเพ่นซอร์สกลายเป็นขุมพลังสำคัญในการขับเคลื่อนการใช้ไอทีขององค์กรส่วนใหญ่ทั่วโลก ซึ่งเรื่องของการปรับขนาดการทำงานและความปลอดภัยเป็นเรื่องที่ไม่สามารถเจรจาต่อรองได้

เรากำลังเห็นแรงต้านแบบเดียวกันในปัจจุบัน โมเดล AI แบบโอเพ่นซอร์ส เครื่องมือควบคุมจัดการ agent แบบโอเพ่นซอร์ส และระบบจำลองการทำงานที่ตรวจสอบได้ จะพิสูจน์ให้เห็นว่าเป็นโครงสร้างพื้นฐานที่ปลอดภัยที่สุดของอนาคตแห่งการประมวลผล เช่นเดียวกับที่ Linux เคยพิสูจน์แล้วว่าความโปร่งใสและการร่วมมือกันในชุมชนช่วยสร้างระบบปฏิบัติการที่แข็งแกร่งมากขึ้น

ทำไมโมเดลแบบเปิดและความโปร่งใสจึงจำเป็นอย่างยิ่งในการป้องกันตัว 

ในโลกไซเบอร์ซีเคียวริตี ความโปร่งใสคือหัวใจของการสร้างระบบให้ปลอดภัย เหมือนหลักการไอทีที่มีมานานว่า ความปลอดภัยที่เน้นแค่การปิดเป็นความลับ ไม่ใช่ความปลอดภัยที่แท้จริง 

การจำกัดการทำงานวิจัยด้านไซเบอร์และการรับมือภัยคุกคามไว้กับโมเดลจากผู้ให้บริการระบบปิดเพียงไม่กี่ราย นำมาซึ่งความเสี่ยงที่ร้ายแรง เพราะทีมที่ทำหน้าที่ป้องกันไม่สามารถไปกำหนดได้ว่าผู้โจมตีจะใช้เครื่องมืออะไร หากนักวิจัยและทีมซีเคียวริตี้ขององค์กรไม่สามารถเข้าถึงหรือสำรวจดูโมเดลที่ใช้ในการป้องกันที่เป็นระบบเปิดได้ ก็เสี่ยงที่จะมองไม่เห็นเครื่องมือและรูปแบบการโจมตีที่แฮกเกอร์นำมาใช้ ยิ่งไปกว่านั้น การพึ่งพาผู้ให้บริการระบบปิดแค่ไม่กี่ราย ยังเป็นการสร้างความเสี่ยงเชิงระบบที่กระจุกตัวอยู่อีกด้วย

การเข้าถึงโมเดลแบบ open-weights ได้อย่างทั่วถึง จะช่วยให้ผู้ทำหน้าที่ป้องกันมีเครื่องมือที่จำเป็นในการสร้างกลยุทธ์เพื่อรับมือภัยคุกคามได้อย่างมีประสิทธิภาพ โมเดลแบบเปิดยังช่วยกระตุ้นให้เกิดการตรวจสอบวิเคราะห์เชิงวิทยาศาสตร์ในวงกว้าง ซึ่งเป็นสิ่งสำคัญต่อการค้นหาและแก้ไขช่องโหว่ซ่อนเร้นที่มักถูกแฝงไว้ในระบบปิดที่เป็นกรรมสิทธิ์ (black box)

เราได้เห็นตัวอย่างที่ชัดเจนของเรื่องนี้จากเหตุการณ์ความปลอดภัยของ Hugging Face ที่เพิ่งเกิดขึ้น แม้ต้นตอของช่องโหว่จะมาจากโมเดลระบบปิด (ระบบที่เรามักถูกบอกให้เชื่อมั่นว่าปลอดภัยในตัวของมันเองอยู่แล้ว) แต่การบรรเทาความเสียหายและการปกป้องระบบจริงกลับต้องพึ่งพาโมเดลแบบ open weights ซึ่งมีบทบาทสำคัญอย่างยิ่งในการคลี่คลายภัยคุกคามในครั้งนี้ ด้วยเหตุนี้เร้ดแฮทจึงร่วมลงนามใน Microsoft's letter on Open Weights and American AI Leadership เพราะการเปิดให้เข้าถึงเครื่องมือฝั่งป้องกันได้อย่างกว้างขวาง จะช่วยกระจายความปลอดภัยได้อย่างครอบคลุมตลอดทุกขั้นตอนของวงจรการพัฒนาซอฟต์แวร์

ยกระดับมาตรการป้องกันที่ล้ำสมัยที่สุดในปัจจุบัน ด้วยการแบ่งปันและเรียนรู้ร่วมกัน 

เร้ดแฮทนำจุดแข็งที่สุดของบริษัทฯ มาใช้ตอบโจทย์ความต้องการ AI ที่ปลอดภัย นั่นคือการทำงานร่วมกับชุมชน โดยล่าสุด ในฐานะที่เป็นส่วนหนึ่งของ Open Secure AI Alliance เร้ดแฮทได้ร่วมมือกับ NVIDIA, Linux Foundation และสมาชิกในกลุ่ม จัดทำ Request for Comments (RFC) for the Shared AI Findings Exchange (SAFE) Working Group ขึ้นมา

ทีมไอทีมักตรวจสอบและแก้ปัญหาเหตุการณ์ละเมิดความปลอดภัยในการใช้ AI กันเองภายในองค์กร ทำให้องค์ความรู้และข้อมูลเชิงลึกในการดำเนินการถูกบล็อกไว้แค่ในองค์กรนั้นๆ กรอบแนวทางของ SAFE เข้ามาเปลี่ยนวิถีเดิมๆ นี้ ด้วยการสร้างเฟรมเวิร์กที่เป็นกลางขึ้นมา เพื่อรวบรวม วิเคราะห์ และแชร์ข้อมูลความผิดพลาดจากการใช้ AI อย่างเป็นความลับและไม่มุ่งจับผิดใคร

การสนับสนุนให้รายงานเหตุความปลอดภัยและแลกเปลี่ยนข้อมูลภัยคุกคามอย่างเปิดเผย คือหัวใจสำคัญที่จะช่วยให้เกิดการยกระดับขีดความสามารถด้านการป้องกันไปด้วยกัน ความร่วมมือแบบเปิดนี้ช่วยให้ทั้งวงการได้ประโยชน์ร่วมกันเต็มๆ ตั้งแต่การพัฒนาเครื่องมือได้รวดเร็วขึ้น เสริมเกราะป้องกันให้แข็งแกร่งมากขึ้น ไปจนถึงการปกป้องโครงสร้างพื้นฐานสำคัญให้รอดพ้นจากการโจมตีในสถานการณ์จริงได้อย่างรัดกุม

ก้าวไปข้างหน้าพร้อมกัน

เครื่องมือ AI ต่าง ๆ กำลังพัฒนาไปข้างหน้าด้วยความเร็วอย่างที่ไม่เคยมีมาก่อน ไม่ว่าจะเป็นงานปฏิบัติการพื้นฐาน งานวิศวกรรมซอฟต์แวร์ หรือการให้บริการแอปพลิเคชันระดับองค์กร ความแข็งแกร่งของระบบขึ้นอยู่กับการผสมผสานระหว่างโมเดลหลักและเครื่องมือโอเพ่นซอร์สที่ห่อหุ้มอยู่รอบๆ เพื่อกำกับพฤติกรรมของ AI ให้เป็นไปตามวัตถุประสงค์และผลลัพธ์ที่ต้องการได้อย่างปลอดภัย

เร้ดแฮทเชื่อว่าความร่วมมือแบบเปิดและความโปร่งใสยังคงเป็นแนวทางที่ดีที่สุด เร็วที่สุด และปลอดภัยที่สุดในการพัฒนาเทคโนโลยี ทุกฝ่ายสามารถยกระดับความปลอดภัยและศักยภาพของเทคโนโลยีให้เติบโตควบคู่กันได้ ด้วยการชูจุดแข็งด้านการคิดวิเคราะห์ของมนุษย์และการผลักดันระบบนิเวศแบบเปิดต่าง ๆ ทั้งกับซอฟต์แวร์โอเพ่นซอร์ส โมเดลแบบ open weights และกลไกควบคุมเอเจนต์แบบเปิด

ปัจจุบัน ข้อเสนอ SAFE RFC ฉบับเต็มได้เปิดให้เข้าถึงแล้วบน GitHub เพื่อให้ชุมชนผู้ใช้งานได้ร่วมอ่าน ตรวจสอบ แลกเปลี่ยนความคิดเห็น และร่วมพัฒนาไปด้วยกัน