Tim keamanan Anthropic bilang sebuah model AI open-weight yang lebih murah berhasil merakit serangan siber yang benar-benar berfungsi dari 2 bug software yang sudah diketahui publik, dalam waktu kurang dari sehari, dengan biaya cuma $20,40. Angka itu menunjukkan betapa murahnya serangan siber beneran sekarang, buat siapa saja yang punya akses ke model tersebut.
Apa yang sebenarnya terjadi
Menurut Frontier Red Team milik Anthropic, seorang peneliti memakai GLM-5.3-Flash, model open-weight yang lebih kecil buatan Zhipu AI dari China, untuk membangun exploit chain yang andal dari 2 celah yang memang sudah dipublikasikan sebelumnya. Prosesnya menghabiskan $20,40 berdasarkan harga API Zhipu. Butuh 20 menit perhatian manusia dan 8 jam kerja model, menurut laporan tim tersebut. Di sisi lain, jaksa agung Florida meminta hakim negara bagian untuk menghentikan OpenAI menyediakan ChatGPT bagi anak di bawah umur di Florida, selama gugatannya terhadap perusahaan itu masih berjalan. Permintaan itu adalah 1 dari 6 larangan yang tercantum dalam mosi injungsi sementara setebal 49 halaman, yang diajukan secara elektronik pada 28 September. Belum ada keputusan pengadilan untuk satu pun dari 6 permintaan tersebut.
Bagaimana ini bisa terjadi
Biasanya, membuat exploit chain butuh spesialis terlatih yang bekerja manual selama berhari-hari. Pengujian Anthropic ini menunjukkan jarak itu makin menyempit. 2 celah yang dipakai memang sudah publik, artinya patch-nya sudah ada, tapi model murah tetap saja berhasil mengubahnya jadi serangan yang berfungsi. Mosi Florida bukan gugatan baru. Ini adalah permintaan di dalam kasus yang sudah lebih dulu diajukan jaksa agung negara bagian itu terhadap OpenAI, meminta hakim menghentikan sementara akses anak di bawah umur sebelum kasusnya diputus. Kedua cerita ini sama-sama belum berakhir dengan aturan final. Keduanya menunjukkan institusi yang berusaha mengejar sesuatu yang sudah bergerak lebih dulu.
Kenapa ini penting buat kamu
Buat siapa pun yang menjalankan software, bug yang sudah diketahui tidak lagi aman cuma karena patch-nya sudah tersedia di suatu tempat. Tooling AI yang murah berarti penyerang bisa bertindak sebelum kebanyakan orang sempat update sistemnya. Buat para builder, pelajarannya adalah patch secepat mungkin dan anggap saja ada yang sedang menguji celah lama itu. Buat orang tua dan remaja di Florida, belum ada yang berubah. Mosi ini baru permintaan, bukan putusan, jadi akses ChatGPT buat anak di bawah umur di negara bagian itu tetap sama sampai hakim memutuskan. Siapa pun yang mengandalkan produk AI untuk anak sebaiknya bersiap melihat lebih banyak pertarungan seperti ini, di lebih banyak negara bagian, sebelum aturannya benar-benar mapan.
Pertanyaan besarnya
Selama ini keamanan software berasumsi bahwa menambal bug yang sudah diketahui akan membeli waktu sebelum ada yang mengeksploitasinya. Kalau model open-weight bisa mengubah 2 celah yang sudah diungkap jadi serangan yang berfungsi cuma dengan $20,40, seberapa kuat lagi asumsi itu bertahan, dan siapa yang seharusnya menutup celah itu begitu biaya serangan jatuh serendah ini buat hampir siapa saja yang punya akses internet?
Yang perlu dipantau
Belum ada jadwal sidang untuk mosi injungsi Florida. Permintaan itu masih menunggu putusan. Laporan Anthropic tidak menyebutkan apakah mereka akan menguji exploit chain yang sama terhadap model yang lebih besar atau vendor lain. Pembaca yang mengikuti seberapa cepat bug yang sudah diketahui berubah jadi serangan nyata sebaiknya menantikan update berikutnya dari Frontier Red Team Anthropic, dan putusan hakim dalam kasus Florida, mana pun yang lebih dulu muncul.
