Tiga pentolan AI yang selama ini bersaing ketat, Dario Amodei dari Anthropic, Sam Altman dari OpenAI, dan Elon Musk, dilaporkan sepakat bahwa pengembangan AI garda depan (frontier AI) mungkin perlu diperlambat. Alasannya: sistem AI kini mulai mampu membantu merancang penerusnya sendiri. Kesepakatan langka antar kompetitor langsung ini menjadi alasan kuat bagi siapa pun yang mengikuti perkembangan AI untuk memperhatikannya.
Apa yang sebenarnya terjadi
Menurut CoinDesk, CEO Anthropic Dario Amodei menyerukan agar perlombaan AI diperlambat. CEO OpenAI Sam Altman dan Elon Musk dilaporkan sama-sama menyetujui posisi ini. Ketiganya memimpin perusahaan yang bersaing langsung di garis depan pengembangan AI, sehingga kesepakatan publik di antara para pemimpinnya menjadi hal yang mencolok. Kekhawatiran bersama ini berpusat pada titik ketika sistem AI mencapai tingkat kemampuan yang memungkinkannya membantu merancang atau membangun sistem penerus yang lebih canggih. Laporan tersebut tidak menyertakan kutipan langsung, tanggal spesifik, pernyataan bersama, maupun tolok ukur numerik dari ketiga tokoh ini. Tidak ada proposal kebijakan atau linimasa yang dijabarkan.
Bagaimana ceritanya
Amodei, Altman, dan Musk memimpin tiga laboratorium AI garda depan dengan pendanaan paling besar, yang selama ini bersaing keras memperebutkan talenta, daya komputasi, dan pangsa pasar. Perusahaan-perusahaan mereka pernah berselisih secara terbuka soal pendekatan keamanan, strategi peluncuran produk, dan regulasi, dan Musk bahkan pernah menempuh jalur hukum melawan OpenAI terkait arah perusahaan tersebut. Kesepahaman publik di antara mereka tergolong tidak biasa, mengingat kecepatan pengembangan biasanya menguntungkan laboratorium mana pun yang lebih dulu mencapai terobosan kemampuan baru. Keselarasan yang dilaporkan ini mengindikasikan bahwa kekhawatiran soal AI yang membantu merancang penerusnya sendiri kini, setidaknya dalam pernyataan publik, bisa mengalahkan dorongan untuk terus bergerak cepat.
Mengapa ini penting bagi Anda
Bagi para pengembang yang mengintegrasikan AI ke perangkat keras konsumen, termasuk AR dan kacamata pintar, ini menjadi sinyal bahwa para penyedia model sendiri melihat risiko dalam pertumbuhan kemampuan AI yang tak terkendali. Pengembangan garda depan yang lebih lambat bisa berarti perilaku model yang lebih stabil dan dapat diprediksi bagi produk yang dibangun di atas sistem-sistem ini. Bagi pengguna sehari-hari, peninjauan keamanan mungkin mulai diutamakan dibanding peluncuran fitur secara cepat. Bagi perusahaan AI dan para pemodalnya, seruan publik untuk memperlambat laju pengembangan bisa memengaruhi arah diskusi regulasi dan ekspektasi investor ke depan. Pemegang token atau saham yang terkait AI perlu mencermati apakah kekhawatiran yang diutarakan ini benar-benar berubah menjadi jadwal rilis yang lebih lambat secara konkret.
Pertanyaan besarnya
Jika para pemimpin di balik sistem AI paling canggih sepakat bahwa pengembangannya perlu diperlambat, siapa yang menentukan kecepatannya, dan bagaimana kesepakatan itu ditegakkan di tengah perusahaan-perusahaan pesaing dengan investor dan yurisdiksi yang berbeda-beda? Kesepakatan sukarela antara tiga laboratorium ini tidak mengikat industri secara keseluruhan.
Yang perlu diperhatikan
Belum ada linimasa perlambatan, pernyataan bersama, atau proposal kebijakan spesifik yang dipublikasikan. Perhatikan apakah Anthropic, OpenAI, atau xAI akan menindaklanjuti kesepakatan yang dilaporkan ini dengan komitmen konkret, penundaan rilis, atau tolok ukur keamanan yang dipublikasikan. Pernyataan lebih lanjut langsung dari Amodei, Altman, atau Musk akan memperjelas apa, jika ada, yang benar-benar berubah dalam praktiknya.
