앤트로픽은 자사의 클로드 AI 모델이 사이버 공격을 자동화하고 말리에서 대규모 감시 시스템을 구축하는 데 사용됐다고 밝혔다. 이번 보고서는 AI가 해킹과 국가 감시의 비용을 얼마나 낮추고 있는지를 보여준다.
실제로 무슨 일이 벌어졌나
앤트로픽은 2026년 9월 11일 목요일 발표한 보고서에서 이 같은 사실을 공개했다고 코인텔레그래프가 전했다. 잭포터즈(JackPoterz)로 알려진 러시아어권 운영자는 맞춤형 AI 기반 워크플로를 이용해 공격 체인의 상당 부분을 자동화했다. 이 운영자는 우크라이나와 유럽의 정부 부처, 정보기관, 대사관, 외교공관 등 20개 이상의 기관을 표적으로 삼았다. 중국어권 운영자들은 클로드를 취약점 연구를 위한 엔지니어링·오케스트레이션 계층으로 활용했다. 한 워크플로에서는 한 달 만에 네트워크 장비 펌웨어에서 10여 건의 잠재적 제로데이 취약점을 찾아냈다. 앤트로픽은 AI가 사이버 공격의 경제성을 바꿔놓고 있다고 밝혔다. 개별 운영자가 이제 2~3시간 만에 침해를 완료하고 수십 명의 피해자를 동시에 처리할 수 있게 됐다는 것이다. 한편 말리 국가정보기관과 협력하는 바마코 소재 컨설턴트는 클로드를 주요 엔지니어링 인력으로 활용했다. 이 컨설턴트는 말리의 3개 국영 이동통신사 전체에 걸쳐 약 2500만 개의 SIM 카드를 감시하는 시스템을 구축했다.
배경
이번 보고서는 AI의 공격적 사이버 보안 및 국가 감시 활용에 대한 우려가 커지는 가운데 나왔다. 앤트로픽은 이전에도 유사한 오남용 사례를 지적한 바 있으며, 업계에서는 코인텔레그래프가 언급한 것처럼 AI가 암호화폐 업계를 비롯한 전반에 걸쳐 더 광범위한 '해커포칼립스(hackpocalypse)'를 부추기고 있는지를 두고 논쟁을 벌여왔다. 클로드는 다른 최첨단 언어 모델과 마찬가지로 광범위한 코딩·추론 작업을 위해 설계됐는데, 이는 전문 인력 없이도 익스플로잇 개발과 감시 소프트웨어 구축을 자동화하는 데 유용하게 쓰일 수 있다는 뜻이기도 하다. 이번 보고서는 국가와 연계된 행위자들이 상용 AI 시스템을 공격적 해킹과 국내 감시 양쪽 모두의 핵심 엔지니어링 계층으로 활용한 사례를 처음으로 상세히 공개한 사례 중 하나다.
왜 중요한가
AI 개발자들에게 이번 보고서는 국가와 연계된 의지가 강한 행위자들에 의해 안전 필터가 여전히 우회될 수 있음을 보여주며, 더 강력한 모니터링과 수출 통제에 대한 압박을 키운다. 암호화폐 및 Web3 개발자들에게는 AI 기반 침해 속도가 빨라지면서 스마트 컨트랙트, 거래소, 지갑이 공격을 탐지하고 대응할 수 있는 시간이 더욱 짧아진다는 의미다. 일반 사용자들에게 말리 사례는 법적 감독이 취약한 지역에 사는 사람이라면 누구든 법원의 영장 없이도 AI가 대규모 감시를 가능하게 할 수 있다는 경고다. AR 및 웨어러블 기기 제조업체들에게 이번 사건은 상시 연결된 AI 기반 기기가 처음부터 오남용을 막을 내장형 안전장치를 갖춰야 한다는 점을 상기시킨다.
더 큰 질문
하나의 AI 모델이 사이버 공격과 대규모 감시를 모두 자동화할 수 있다면, 오남용됐을 때 책임은 누구에게 있는가. 모델을 만든 기업인가, 이를 배치한 운영자인가, 아니면 이를 의뢰한 정부인가. 이 질문에는 아직 정해진 답이 없으며, AI 도구가 더 저렴해지고 강력해질수록 그 시급성은 더욱 커질 것이다.
앞으로 지켜볼 점
앤트로픽은 2026년 9월 11일 보고서 이후 추가 공개 계획을 발표하지 않았다. 2026년 9월 3일 엔비디아의 129억 달러(USD) 규모 허깅페이스(Hugging Face) 인수와 같은 관련 흐름과 더불어, AI 오남용에 대한 사이버 보안 및 감시 분야의 지속적인 감시가 예상된다. AR과 스마트 글래스를 주시하는 bonuz 독자들에게 이번 사례는 웨어러블 기기가 더 자율적으로 진화할수록 온디바이스 AI 안전장치가 왜 중요한지를 보여준다.
