Nhóm Frontier Red Team của Anthropic cho biết một nhà nghiên cứu đã dùng mô hình mã nguồn mở GLM-5.3-Flash của Zhipu AI để xây dựng một chuỗi khai thác hoạt động, nhắm vào hai lỗ hổng phần mềm đã được công bố từ trước, với chi phí chỉ 20,40 USD (tính theo giá API). Kết quả này cho thấy các công cụ tấn công tự động đang trở nên rẻ đến mức nào, một mối lo với bất kỳ ai đang vận hành thiết bị kết nối, kể cả kính thông minh.
Chuyện gì đã xảy ra
Theo báo cáo của Frontier Red Team, một nhà nghiên cứu đã xây dựng thành công một chuỗi khai thác đáng tin cậy bằng GLM-5.3-Flash, phiên bản nhỏ hơn trong dòng mô hình mã nguồn mở của Zhipu AI. Chuỗi khai thác này nhắm vào hai lỗ hổng phần mềm đã được công khai từ trước, chứ không phải lỗ hổng zero-day mới phát hiện. Tổng chi phí chỉ là 20,40 USD, dựa trên bảng giá API của Zhipu. Quá trình này đòi hỏi 20 phút can thiệp trực tiếp từ con người, trong khi bản thân mô hình phải làm việc liên tục suốt 8 giờ để hoàn thành nhiệm vụ. Anthropic không nêu tên cụ thể các lỗ hổng hay hệ thống bị ảnh hưởng, theo nội dung báo cáo. Nhóm nghiên cứu xem đây là bằng chứng cho thấy các mô hình AI nhỏ hơn, rẻ hơn giờ đây đã có thể thực hiện những công việc tấn công mạng phức tạp, vốn trước kia đòi hỏi kỹ năng chuyên môn cao và nhiều thời gian.
Bối cảnh
Frontier Red Team là bộ phận của Anthropic chuyên kiểm tra các mô hình AI để phát hiện những năng lực nguy hiểm tiềm ẩn, theo mô tả trong chính báo cáo của nhóm. GLM-5.3-Flash là phiên bản nhỏ hơn, giá rẻ hơn trong dòng mô hình ngôn ngữ lớn mã nguồn mở của Zhipu AI. Các mô hình mã nguồn mở cho phép nhà nghiên cứu tự chạy và thử nghiệm trực tiếp, đó là lý do bài kiểm tra này dùng bảng giá API riêng của Zhipu thay vì phí thuê bao. Hai lỗ hổng được dùng trong chuỗi khai thác đã được công khai từ trước khi bài kiểm tra bắt đầu, theo báo cáo. Frontier Red Team của Anthropic không nêu rõ phần mềm hay lỗ hổng cụ thể nào được sử dụng, dựa trên tài liệu hiện có.
Vì sao điều này quan trọng với bạn
Với các nhà sản xuất thiết bị AR và kính thông minh, kết quả này là một tín hiệu đáng chú ý. Phần cứng kết nối thường chạy trên các nền tảng phần mềm quen thuộc, vốn đã có lỗ hổng được công khai. Nếu một mô hình mã nguồn mở, giá rẻ có thể ghép nối các lỗ hổng đó lại với nhau, kẻ tấn công sẽ không còn cần đội ngũ lớn hay ngân sách khổng lồ nữa. Các nhà phát triển cần vá lỗ hổng đã công bố nhanh hơn. Với người dùng thông thường, điều này có nghĩa là việc cập nhật phần mềm trên các thiết bị kết nối, kể cả thiết bị đeo, trở nên quan trọng hơn bao giờ hết. Với những người nắm giữ tiền mã hóa, bất kỳ ví kết nối mạng hay khóa cứng nào cũng đối mặt với sự thay đổi tương tự về mặt chi phí. Những cuộc tấn công từng đòi hỏi kỹ năng chuyên môn cao giờ có thể được tái tạo với chi phí rất thấp.
Câu hỏi lớn hơn
Nếu một mô hình mã nguồn mở giá rẻ đã có thể biến hai báo cáo lỗ hổng công khai thành một chuỗi khai thác hoạt động được, điều gì sẽ xảy ra khi các mô hình này trở nên nhanh hơn, rẻ hơn và mạnh hơn? Liệu các đội ngũ bảo mật có cần xem xét lại tốc độ vá lỗ hổng đã công bố, đặc biệt với phần cứng kết nối như kính AR và thiết bị đeo, nơi chi phí khai thác có thể sớm tiến gần về 0? Và ai sẽ kiểm tra các hệ thống AI này trước khi chúng được dùng theo cách như vậy?
Những gì cần theo dõi
Báo cáo của Anthropic chưa công bố ngày phát hành đầy đủ của nghiên cứu hay các bước tiếp theo. Zhipu AI chưa đưa ra bình luận nào về kết quả này, theo tài liệu hiện có. Hãy theo dõi phản hồi từ cả hai công ty, cũng như việc liệu Anthropic có công bố tên hai lỗ hổng được dùng trong bài kiểm tra hay không. Bonuz sẽ tiếp tục cập nhật cách sự việc này ảnh hưởng đến các thực hành bảo mật cho phần cứng AR và thiết bị đeo kết nối khi có thêm thông tin chi tiết.
