Ayon sa security team ng Anthropic, isang mas mura at openly available na AI model ang gumawa ng gumaganang hack para sa 2 kilala nang software bug sa loob lang ng isang araw, sa halagang $20.40. Ipinapakita ng presyong ito kung gaano na kamura ang totoong cyberattack para kahit kanino basta may access sa model.
Ano talaga ang nangyari
Ayon sa Frontier Red Team ng Anthropic, ginamit ng isang researcher ang GLM-5.3-Flash, ang mas maliit na open-weight model mula sa Zhipu AI ng China, para bumuo ng isang reliable exploit chain para sa 2 flaw na pampublic na noon pa man. $20.40 ang halaga ng trabaho base sa API prices ng Zhipu. Umabot lang ito ng 20 minuto ng atensyon ng tao at 8 oras ng trabaho ng model, ayon sa report ng team. Sa hiwalay na balita, hiniling ng attorney general ng Florida sa isang state judge na pigilan ang OpenAI sa pag-aalok ng ChatGPT sa mga menor de edad sa Florida habang umuusad ang kaniyang lawsuit laban sa kompanya. Ito ay 1 sa 6 na prohibitions na nakalista sa 49-pahinang motion para sa temporary injunction, na-e-file noong September 28. Wala pang desisyon ang korte sa kahit alin sa 6 na kahilingan.
Paano ito nangyari
Karaniwang umaabot ng ilang araw ng manual work ng trained specialists ang paggawa ng exploit chain. Ipinapakita ng test ng Anthropic na papaliit na ang agwat na ito. Ang 2 flaw na ginamit ay pampublic na dati, ibig sabihin may mga patch nang available, pero kahit isang murang model ay nakagawa pa rin ng gumaganang atake. Ang motion ng Florida ay hindi bagong lawsuit. Isa itong kahilingan sa loob ng kaso na inihain na ng attorney general ng estado laban sa OpenAI, hinihiling ang paghinto ng access ng mga menor de edad bago pa man magpasya ang korte. Wala sa dalawang balita ang natatapos sa tapos na patakaran. Pareho nilang ipinapakita ang mga institusyong sinusubukang maabutan ang isang bagay na gumagalaw na.
Bakit ito mahalaga para sa iyo
Para sa sinumang nagpapatakbo ng software, ang kilalang bug ay hindi na ligtas basta may patch na available kung saan. Ang murang AI tooling ay nangangahulugan na puwedeng kumilos ang mga attacker bago pa man mag-update ang karamihan. Para sa mga builder, ang leksiyon ay mag-patch agad at ipagpalagay na may nagsusubok na sa lumang flaw. Para sa mga magulang at teenager sa Florida, wala pang nagbabago. Isang kahilingan lang ang motion, hindi desisyon, kaya mananatiling pareho ang access sa ChatGPT ng mga menor de edad sa estado hangga't walang desisyon ang hukom. Dapat asahan ng sinumang umaasa sa AI products para sa bata ang mas maraming ganitong laban, sa mas maraming estado, bago pa man mapag-ayos ang mga patakaran.
Ang mas malaking tanong
Matagal nang ipinagpalagay ng software security na ang pag-patch sa kilalang bug ay bumibili ng oras bago may mag-exploit nito. Kung may openly available na model na nakakagawa ng gumaganang atake mula sa 2 flaw na dati nang nai-disclose, sa halagang $20.40 lang, gaano pa karami ang natitira sa ipinagpalagay na iyon, at sino ang dapat sumara sa agwat kapag ganito na kababa ang presyo ng pag-atake para sa halos kahit sino na may internet access?
Ano ang bantayan
Wala pang itinakdang petsa ng korte para sa injunction motion ng Florida. Naghihintay pa rin ito ng desisyon. Hindi sinabi ng report ng Anthropic kung susubukan nila ang parehong exploit chain laban sa mas malalaking model o ibang vendor. Dapat bantayan ng mga readers na sumusubaybay kung gaano kabilis naging totoong atake ang mga kilalang bug ang susunod na update ng Frontier Red Team ng Anthropic, at ang desisyon ng hukom sa kaso ng Florida, alinman ang mauna.
