Anthropic's Frontier Red Team รายงานว่านักวิจัยคนหนึ่งใช้โมเดลโอเพนเวตของ Zhipu AI ที่ชื่อ GLM-5.3-Flash สร้างเชนช่องโหว่ (exploit chain) ที่ใช้งานได้จริง โดยอาศัยช่องโหว่ซอฟต์แวร์ที่เปิดเผยต่อสาธารณะแล้วสองรายการ ไม่ใช่ช่องโหว่ zero-day ใหม่ ใช้งบประมาณด้าน API เพียง 20.40 ดอลลาร์สหรัฐฯ ตามราคาที่ Zhipu AI กำหนดไว้ ผลการทดสอบนี้สะท้อนว่าเครื่องมือแฮกอัตโนมัติกำลังมีราคาถูกลงเรื่อยๆ ซึ่งเป็นเรื่องที่ทุกคนที่ใช้งานอุปกรณ์เชื่อมต่ออินเทอร์เน็ต รวมถึงแว่นอัจฉริยะ ควรให้ความสนใจ
สิ่งที่เกิดขึ้นจริง
ตามรายงานของ Anthropic's Frontier Red Team นักวิจัยสร้างเชนช่องโหว่ที่เชื่อถือได้โดยใช้ GLM-5.3-Flash ซึ่งเป็นโมเดลโอเพนเวตรุ่นเล็กในตระกูลของ Zhipu AI เชนการโจมตีนี้มุ่งเป้าไปที่ช่องโหว่ซอฟต์แวร์ที่เปิดเผยต่อสาธารณะแล้วสองรายการ ไม่ใช่ช่องโหว่ zero-day ใหม่ ต้นทุนรวมอยู่ที่ 20.40 ดอลลาร์สหรัฐฯ คำนวณจากราคา API ของ Zhipu กระบวนการนี้ต้องใช้เวลาที่มนุษย์ลงมือทำโดยตรงเพียง 20 นาที ขณะที่ตัวโมเดลเองทำงานต่อเนื่องนานถึง 8 ชั่วโมงจนกว่าจะเสร็จสิ้นภารกิจ ทาง Anthropic ไม่ได้เปิดเผยชื่อช่องโหว่หรือระบบที่ได้รับผลกระทบ ตามรายงานดังกล่าว ทีมงานมองว่านี่คือหลักฐานว่าโมเดล AI ขนาดเล็กและราคาถูกในปัจจุบัน สามารถทำงานด้านการโจมตีทางไซเบอร์ที่ซับซ้อน ซึ่งเคยต้องอาศัยทักษะผู้เชี่ยวชาญและเวลาจำนวนมาก ได้แล้ว
ที่มาที่ไป
Frontier Red Team คือหน่วยงานภายใน Anthropic ที่ทำหน้าที่ทดสอบโมเดล AI เพื่อหาความเสี่ยงอันตราย ตามที่รายงานของทีมเองระบุไว้ ส่วน GLM-5.3-Flash เป็นโมเดลภาษาขนาดใหญ่แบบโอเพนเวต (open-weight) รุ่นเล็กและราคาประหยัดในตระกูลของ Zhipu AI การเป็นโมเดลโอเพนเวตทำให้นักวิจัยสามารถรันและทดสอบโมเดลได้โดยตรง จึงเป็นเหตุผลที่การทดสอบครั้งนี้ใช้ราคาตาม API ของ Zhipu เอง แทนที่จะเป็นค่าสมัครสมาชิกรายเดือน ช่องโหว่ทั้งสองรายการที่ใช้ในเชนการโจมตีนี้ถูกเปิดเผยต่อสาธารณะไปแล้วก่อนเริ่มการทดสอบ ตามรายงาน ทั้งนี้ Anthropic's Frontier Red Team ยังไม่ได้ระบุว่าเป็นซอฟต์แวร์หรือช่องโหว่ใด จากข้อมูลที่มีอยู่ในขณะนี้
ทำไมเรื่องนี้ถึงสำคัญกับคุณ
สำหรับผู้ผลิตอุปกรณ์ AR และแว่นอัจฉริยะ ผลการทดสอบนี้คือสัญญาณเตือน เพราะฮาร์ดแวร์ที่เชื่อมต่ออินเทอร์เน็ตมักทำงานบนซอฟต์แวร์ที่มีช่องโหว่ซึ่งเปิดเผยต่อสาธารณะแล้ว หากโมเดล AI ราคาถูกแบบโอเพนเวตสามารถนำช่องโหว่เหล่านั้นมาเชื่อมต่อกันได้ ผู้โจมตีก็ไม่จำเป็นต้องมีทีมงานขนาดใหญ่หรืองบประมาณมหาศาลอีกต่อไป ผู้พัฒนาอุปกรณ์จึงควรเร่งแพตช์ช่องโหว่ที่เปิดเผยแล้วให้เร็วขึ้น สำหรับผู้ใช้งานทั่วไป นี่หมายความว่าการอัปเดตซอฟต์แวร์บนอุปกรณ์เชื่อมต่อ รวมถึงอุปกรณ์สวมใส่ (wearables) มีความสำคัญมากกว่าที่เคย สำหรับผู้ถือคริปโต กระเป๋าเงินหรือฮาร์ดแวร์คีย์ที่เชื่อมต่ออินเทอร์เน็ตก็เผชิญการเปลี่ยนแปลงทางเศรษฐศาสตร์แบบเดียวกัน ช่องโหว่ที่เคยต้องอาศัยทักษะผู้เชี่ยวชาญ อาจใช้ต้นทุนในการทำซ้ำเพียงเล็กน้อยในตอนนี้
คำถามใหญ่ที่ตามมา
ถ้าโมเดลโอเพนเวตราคาถูกสามารถเปลี่ยนรายงานช่องโหว่สาธารณะสองรายการให้กลายเป็นเชนการโจมตีที่ใช้งานได้จริงแล้ว จะเกิดอะไรขึ้นเมื่อโมเดลเหล่านี้เร็วขึ้น ถูกลง และมีความสามารถมากขึ้นไปอีก ทีมความปลอดภัยควรทบทวนความเร็วในการแพตช์ช่องโหว่ที่เปิดเผยแล้วหรือไม่ โดยเฉพาะกับฮาร์ดแวร์เชื่อมต่อ เช่น แว่น AR และอุปกรณ์สวมใส่ ที่ต้นทุนการโจมตีอาจเข้าใกล้ศูนย์ในไม่ช้า และใครจะเป็นผู้ตรวจสอบระบบ AI เหล่านี้ก่อนนำไปใช้งานแบบนี้
สิ่งที่ต้องจับตา
รายงานของ Anthropic ยังไม่ได้ระบุวันที่เผยแพร่ผลการศึกษาฉบับเต็มต่อสาธารณะ หรือรายละเอียดขั้นตอนต่อไป ส่วน Zhipu AI ยังไม่ได้ออกมาแสดงความเห็นต่อผลการทดสอบนี้ จากข้อมูลที่มีอยู่ในขณะนี้ ต้องจับตาดูท่าทีจากทั้งสองบริษัท รวมถึงว่า Anthropic จะเปิดเผยชื่อช่องโหว่ทั้งสองรายการที่ใช้ในการทดสอบหรือไม่ Bonuz จะติดตามว่าเรื่องนี้ส่งผลต่อแนวทางปฏิบัติด้านความปลอดภัยของฮาร์ดแวร์ AR และอุปกรณ์สวมใส่ที่เชื่อมต่ออินเทอร์เน็ตอย่างไร เมื่อมีรายละเอียดเพิ่มเติม
