앤트로픽의 프런티어 레드팀(Frontier Red Team)은 한 연구자가 지프AI(Zhipu AI)의 오픈웨이트 모델 GLM-5.3-Flash를 활용해 이미 공개된 두 가지 소프트웨어 결함을 엮은 작동 가능한 익스플로잇 체인을 완성했다고 밝혔다. 들어간 비용은 API 사용료 단돈 $20.40(USD)에 불과했다. 이번 결과는 자동화된 해킹 도구가 얼마나 저렴해지고 있는지를 보여주는 사례로, 스마트 글래스를 포함한 모든 연결 기기 운영자에게 경각심을 준다.
실제로 벌어진 일
앤트로픽 프런티어 레드팀에 따르면, 한 연구자는 지프AI의 오픈웨이트 모델 중 경량 버전인 GLM-5.3-Flash를 이용해 신뢰도 높은 익스플로잇 체인을 구축했다. 이 체인이 노린 것은 새로운 제로데이 취약점이 아니라, 이미 공개된 두 가지 소프트웨어 결함이었다. 지프AI의 API 요금 기준으로 총비용은 $20.40(USD)에 그쳤다. 사람이 직접 개입한 시간은 단 20분이었고, 모델 자체는 작업을 마치기까지 8시간을 작동했다. 보고서에 따르면 앤트로픽은 구체적으로 어떤 결함이며 어떤 시스템이 영향을 받는지는 공개하지 않았다. 레드팀은 이를 두고, 한때 전문 기술과 상당한 시간이 필요했던 공격용 보안 작업을 이제는 더 작고 저렴한 AI 모델도 해낼 수 있다는 증거라고 평가했다.
이번 사안의 배경
프런티어 레드팀은 앤트로픽 내에서 AI 모델의 위험한 능력을 시험하는 부서로, 팀 스스로 자신들의 업무를 이렇게 설명한다. GLM-5.3-Flash는 지프AI의 오픈웨이트 대형언어모델 계열 중 더 작고 저렴한 버전이다. 오픈웨이트 모델은 연구자가 직접 구동하고 시험할 수 있어, 이번 테스트에서도 구독료가 아닌 지프AI 자체 API 요금이 기준으로 쓰였다. 보고서에 따르면 익스플로잇 체인에 쓰인 두 결함은 테스트 시작 전부터 이미 공개돼 있던 것들이었다. 현재까지 공개된 자료를 기준으로, 앤트로픽 프런티어 레드팀은 구체적으로 어떤 소프트웨어 혹은 어떤 취약점이 관련됐는지는 특정하지 않았다.
당신에게 중요한 이유
AR 기기와 스마트 글래스를 만드는 제조사에게 이번 결과는 분명한 경고 신호다. 연결형 하드웨어는 흔히 이미 알려진 소프트웨어 스택 위에서 돌아가며, 공개된 결함을 그대로 안고 있는 경우가 많다. 저렴한 오픈웨이트 모델이 이런 결함들을 엮어낼 수 있다면, 공격자는 더 이상 대규모 팀이나 막대한 예산이 필요하지 않다. 제조사는 공개된 취약점을 더 빠르게 패치해야 한다. 일반 사용자에게는 웨어러블을 포함한 연결 기기의 소프트웨어 업데이트가 과거보다 훨씬 더 중요해졌다는 의미다. 암호화폐 보유자에게도 마찬가지다. 연결된 지갑이나 하드웨어 키 역시 같은 경제적 변화를 피해갈 수 없다. 한때 전문 기술이 필요했던 익스플로잇이 이제는 아주 적은 비용으로 재현될 수 있다.
더 큰 질문
저렴한 오픈웨이트 모델이 이미 공개된 두 건의 취약점 보고서를 작동하는 익스플로잇 체인으로 바꿀 수 있다면, 이 모델들이 더 빠르고 저렴하고 강력해졌을 때는 어떤 일이 벌어질까? 보안팀은 AR 글래스나 웨어러블 같은 연결형 하드웨어에 대해, 공개된 결함을 얼마나 더 빠르게 패치해야 하는지 재검토해야 할까? 익스플로잇 비용이 조만간 거의 0에 가까워질 수 있다는 점에서 말이다. 그리고 이런 식으로 활용되기 전에, 누가 이 AI 시스템들을 검증하는가?
앞으로 지켜볼 점
앤트로픽의 보고서는 전체 연구의 공개 일정이나 후속 조치에 대한 세부 사항을 아직 밝히지 않았다. 현재까지 공개된 자료를 기준으로 지프AI는 이번 발견에 대해 아무런 입장을 내놓지 않았다. 양측의 대응, 그리고 앤트로픽이 테스트에 쓰인 두 가지 취약점을 공개할지 여부를 지켜볼 필요가 있다. Bonuz는 더 많은 세부 사항이 공개되는 대로, 이번 사안이 AR 및 웨어러블 하드웨어 보안 관행에 미치는 영향을 계속 추적할 예정이다.
