실제로 무슨 일이 있었나
앤트로픽의 보안 팀인 Frontier Red Team에 따르면, 한 연구원이 중국 Zhipu AI의 소형 오픈웨이트 모델 GLM-5.3-Flash를 이용해 이미 공개된 소프트웨어 결함 2건으로 신뢰할 수 있는 익스플로잇 체인을 만들었다. 비용은 Zhipu API 가격 기준으로 20.40달러였다. 팀의 보고서에 따르면 사람이 직접 들인 시간은 20분, 모델이 작업한 시간은 8시간이었다. 별개로 플로리다주 법무장관은 자신이 제기한 소송이 진행되는 동안 OpenAI가 플로리다 내 미성년자에게 ChatGPT를 제공하지 못하도록 막아달라고 주 법원에 요청했다. 이 요청은 9월 28일 전자 제출된 49쪽 분량의 가처분 신청서에 담긴 6가지 금지 요구 중 하나다. 6가지 요구 가운데 어느 것도 아직 법원의 판단을 받지 않았다.
어쩌다 이렇게 됐나
익스플로잇 체인을 만드는 작업은 보통 숙련된 전문가가 며칠에 걸쳐 수작업으로 해야 한다. 앤트로픽의 이번 테스트는 그 격차가 좁혀지고 있음을 보여준다. 이번에 사용된 결함 2건은 이미 공개돼 패치가 존재하는 것들이었는데도, 저렴한 모델이 이를 실제로 작동하는 공격으로 바꿔놓았다. 플로리다의 가처분 신청은 새로운 소송이 아니다. 주 법무장관이 OpenAI를 상대로 이미 제기한 소송 안에서, 본안 판결이 나오기 전에 미성년자의 접근을 일시 중단시켜 달라는 요청일 뿐이다. 두 사건 모두 아직 결론이 나지 않았다. 둘 다 이미 움직이고 있는 무언가를 뒤쫓는 제도의 모습을 보여준다.
이게 왜 중요한가
소프트웨어를 운영하는 입장에서는, 패치가 어딘가에 존재한다는 이유만으로 알려진 결함이 더 이상 안전하다고 할 수 없다. 저렴한 AI 도구 덕분에 공격자는 대다수 사용자가 업데이트를 마치기도 전에 움직일 수 있다. 개발자들에게 남는 교훈은 빠르게 패치하고, 누군가 이미 옛 결함을 테스트하고 있다고 가정하라는 것이다. 플로리다의 부모와 청소년들에게는 당장 달라지는 것이 없다. 이번 신청은 요청일 뿐 판결이 아니므로, 판사가 결정을 내릴 때까지 주 내 ChatGPT 이용 여건은 그대로 유지된다. 자녀를 위해 AI 제품을 쓰는 사람이라면, 규정이 정리되기 전까지 더 많은 주에서 비슷한 공방이 벌어질 것으로 예상해야 한다.
더 큰 질문
소프트웨어 보안은 오랫동안 알려진 결함을 패치하면 누군가 그것을 악용하기까지 시간을 벌 수 있다고 가정해왔다. 공개적으로 이용 가능한 모델이 이미 알려진 결함 2건을 20.40달러에 실제 작동하는 공격으로 바꿀 수 있다면, 그 가정은 얼마나 유효한가. 그리고 인터넷에 접속할 수 있는 거의 누구에게나 공격 비용이 이 정도까지 떨어진 지금, 그 격차를 메울 책임은 누구에게 있는가.
앞으로 지켜볼 것
플로리다의 가처분 신청에 대한 재판 일정은 아직 잡히지 않았다. 요청은 여전히 판결을 기다리고 있다. 앤트로픽의 보고서는 같은 익스플로잇 체인을 더 큰 모델이나 다른 업체의 모델에도 테스트할지 여부는 밝히지 않았다. 알려진 결함이 얼마나 빨리 실제 공격으로 이어지는지 지켜보는 독자라면, 앤트로픽의 다음 Frontier Red Team 업데이트와 플로리다 사건 판사의 결정 중 무엇이 먼저 나오는지 주목해야 한다.
