Anthropic'in güvenlik ekibi, ucuz ve herkese açık bir yapay zeka modelinin, zaten bilinen 2 yazılım açığı için bir günden kısa sürede çalışan bir saldırı zinciri kurduğunu söylüyor; bunun bedeli sadece 20,40 dolar. Bu rakam, gerçek siber saldırıların artık modele erişimi olan herkes için ne kadar ucuzladığını gösteriyor.
Gerçekte ne oldu
Anthropic'in Frontier Red Team ekibine göre bir araştırmacı, Çin merkezli Zhipu AI'nin daha küçük açık ağırlıklı modeli GLM-5.3-Flash'ı kullanarak, zaten kamuya açık olan 2 güvenlik açığı için güvenilir bir exploit zinciri oluşturdu. Çalışma, Zhipu'nun API fiyatlarıyla 20,40 dolara mal oldu. Ekibin raporuna göre bu işlem 20 dakikalık insan dikkati ve 8 saatlik model çalışması gerektirdi. Ayrı bir gelişmede Florida eyaleti başsavcısı, OpenAI'ye karşı açtığı dava sürerken, ChatGPT'nin eyalette reşit olmayanlara sunulmasının durdurulması için bir eyalet mahkemesine başvurdu. Bu talep, 28 Eylül'de dosyalanan 49 sayfalık geçici tedbir talebindeki 6 yasaktan yalnızca biri. Bu 6 talepten hiçbiri hakkında henüz bir mahkeme kararı verilmedi.
Buraya nasıl gelindi
Exploit zincirleri genellikle uzman kişilerin günler süren manuel çalışmasını gerektirir. Anthropic'in testi, bu farkın kapandığını gösteriyor. Kullanılan 2 açık zaten kamuya açıktı, yani yamaları mevcuttu; buna rağmen ucuz bir model bunları çalışan bir saldırıya dönüştürebildi. Florida'nın başvurusu yeni bir dava değil. Başsavcının OpenAI'ye karşı zaten açtığı davanın içinde, karar çıkmadan önce reşit olmayanların erişimini durdurmak için hakimden istenen bir talep. İki hikaye de henüz tamamlanmış bir kuralla bitmiyor. İkisi de kurumların, zaten hareket halinde olan bir şeyi yakalamaya çalıştığını gösteriyor.
Bu sizi neden ilgilendirir
Yazılım çalıştıran herkes için, bir yama bir yerde var diye bilinen bir açık artık güvenli sayılmıyor. Ucuz yapay zeka araçları, çoğu kişi henüz güncelleme yapmadan saldırganların harekete geçebileceği anlamına geliyor. Geliştiriciler için ders şu: hızlı yama yapın ve birinin eski açığı zaten test ettiğini varsayın. Florida'daki ebeveynler ve gençler için şimdilik hiçbir şey değişmiyor. Bu bir talep, bir karar değil; dolayısıyla eyalette reşit olmayanlar için ChatGPT erişimi, hakim karar verene kadar aynı kalıyor. Bir çocuk için yapay zeka ürünlerine güvenen herkes, kurallar oturana kadar daha fazla eyalette benzer hukuki mücadelelerin yaşanmasını bekleyebilir.
Asıl soru
Yazılım güvenliği uzun süredir, bilinen bir açığın yamalanmasının, birinin bunu istismar etmesinden önce zaman kazandırdığını varsaydı. Herkese açık bir model, zaten ifşa edilmiş 2 açığı 20,40 dolara çalışan bir saldırıya dönüştürebiliyorsa, bu varsayımın ne kadarı hâlâ geçerli ve internet erişimi olan hemen herkes için saldırı maliyeti bu kadar düştüğünde bu açığı kim kapatmalı?
Nelere dikkat etmeli
Florida'nın tedbir talebi için henüz bir duruşma tarihi belirlenmedi. Talep hâlâ bir karar bekliyor. Anthropic'in raporu, aynı exploit zincirinin daha büyük modellere veya başka tedarikçilere karşı test edilip edilmeyeceğini belirtmiyor. Bilinen açıkların ne kadar hızlı gerçek saldırılara dönüştüğünü takip edenler, Anthropic'in Frontier Red Team ekibinin bir sonraki güncellemesini ve Florida davasında hakimin vereceği kararı izlemeli; hangisi önce gelirse.
