Anthropic'in Frontier Red Team'i, bir araştırmacının Zhipu AI'nin açık ağırlıklı modeli GLM-5.3-Flash'ı kullanarak, zaten kamuoyuna açıklanmış iki yazılım açığı için çalışan bir exploit zinciri oluşturduğunu ve bu işlem için yalnızca 20,40 dolar (USD) API maliyeti harcadığını bildiriyor. Sonuç, otomatik hackleme araçlarının ne kadar ucuzladığını gösteriyor; bu durum, akıllı gözlükler de dahil olmak üzere bağlantılı cihaz kullanan herkes için endişe verici.
Aslında Ne Oldu
Anthropic'in Frontier Red Team'ine göre, bir araştırmacı Zhipu AI'nin açık ağırlıklı modelinin daha küçük versiyonu olan GLM-5.3-Flash'ı kullanarak güvenilir bir exploit zinciri oluşturdu. Zincir, yeni sıfır gün (zero-day) açıkları değil, zaten kamuoyuna açıklanmış iki yazılım güvenlik açığını hedef aldı. Toplam maliyet, Zhipu'nun API fiyatlandırmasına göre 20,40 dolar (USD) oldu. Süreç, 20 dakikalık doğrudan insan müdahalesi gerektirdi. Modelin kendisi görevi tamamlamak için sekiz saat çalıştı. Rapora göre Anthropic, belirli açıkların veya etkilenen sistemlerin adını vermedi. Ekip, bunu artık daha küçük ve ucuz yapay zeka modellerinin, bir zamanlar uzmanlık ve ciddi zaman gerektiren karmaşık saldırgan güvenlik çalışmalarını gerçekleştirebildiğinin kanıtı olarak sundu.
Buraya Nasıl Gelindi
Frontier Red Team, ekibin kendi raporunda tanımladığı üzere, Anthropic'in yapay zeka modellerini tehlikeli yetenekler açısından test eden birimidir. GLM-5.3-Flash, Zhipu AI'nin açık ağırlıklı büyük dil modeli ailesinin daha küçük ve ucuz bir versiyonudur. Açık ağırlıklı modeller, araştırmacıların bunları doğrudan çalıştırıp test etmesine olanak tanır; bu yüzden bu testte abonelik ücreti yerine Zhipu'nun kendi API fiyatlandırması kullanıldı. Rapora göre, exploit zincirinde kullanılan iki açık, test başlamadan önce zaten kamuoyuna duyurulmuştu. Mevcut materyale göre, Anthropic'in Frontier Red Team'i hangi yazılımın veya hangi güvenlik açıklarının söz konusu olduğunu belirtmedi.
Bu Sizin İçin Neden Önemli
AR ve akıllı gözlük üreticileri için bu sonuç bir sinyal niteliğinde. Bağlantılı donanımlar genellikle kamuya açık şekilde bildirilmiş açıkları olan bilinen yazılım yığınları üzerinde çalışır. Ucuz, açık ağırlıklı bir model bu açıkları birbirine zincirleyebiliyorsa, saldırganların artık büyük ekiplere veya bütçelere ihtiyacı yok demektir. Üreticiler, açıklanmış güvenlik açıklarını daha hızlı yamalamalı. Günlük kullanıcılar için bu, giyilebilir cihazlar dahil bağlantılı cihazlardaki yazılım güncellemelerinin eskisinden daha önemli hale geldiği anlamına geliyor. Kripto para sahipleri için de bağlantılı cüzdanlar veya donanım anahtarları aynı ekonomik değişimle karşı karşıya. Bir zamanlar uzmanlık gerektiren exploit'ler artık çok düşük maliyetle yeniden üretilebilir hale gelebilir.
Büyük Soru
Ucuz, açık ağırlıklı bir model şimdiden iki kamuya açık güvenlik açığı raporunu çalışan bir exploit zincirine dönüştürebiliyorsa, bu modeller daha hızlı, daha ucuz ve daha yetenekli hale geldikçe neler olacak? Güvenlik ekipleri, özellikle AR gözlükleri ve giyilebilir cihazlar gibi bağlantılı donanımlar için, açıklanmış açıkların ne kadar hızlı yamalanması gerektiğini yeniden düşünmeli mi, zira exploit maliyetleri yakında sıfıra yaklaşabilir? Ve bu yapay zeka sistemlerini bu şekilde kullanılmadan önce kim denetliyor?
Nelere Dikkat Etmeli
Anthropic'in raporu, tam çalışmanın kamuya açıklanacağı bir tarih veya sonraki adımlarla ilgili ayrıntı vermiyor. Mevcut materyale göre Zhipu AI, bulgular hakkında henüz yorum yapmadı. Her iki şirketten gelecek tepkileri ve Anthropic'in testte kullanılan iki güvenlik açığını açıklayıp açıklamayacağını takip edin. Bonuz, daha fazla ayrıntı ortaya çıktıkça bunun bağlantılı AR ve giyilebilir donanım güvenlik uygulamalarını nasıl etkilediğini izlemeye devam edecek.
