실제로 무슨 일이 일어났나
Center for Democracy and Technology(민주주의와 기술 센터)의 조사에 따르면, 2024~2025년 미국 6~12학년 교사의 43%가 AI 탐지기를 정기적으로 사용한 것으로 나타났다고 The Verge가 보도했다. Turnitin은 자사 탐지기가 인간이 쓴 글을 AI로 잘못 판단할 확률이 1% 미만이라고 밝혔다. Pangram은 오탐률이 1만 건 중 1건에 불과하다고 주장한다. 2026년 7월, 출판사 Minotaur는 작가 Jerry Falade와 맺은 200만 달러(USD) 규모의 도서 계약을 AI 사용 의혹을 이유로 파기했으나, Falade는 이를 부인하고 있다. 예일대학교에 재학 중인 프랑스 국적의 Thierry Rignol은 한 교수가 GPTZero를 이용해 그를 낙제 처리하고 1년간 정학시킨 것에 반발해 소송을 제기했다. 2026년 2월에는 Adelphi University의 한 학생이 비슷한 혐의로 소송을 걸어 승소했다. OpenAI는 2023년 자사의 AI 탐지기를 낮은 정확도를 이유로 종료했다.
어떻게 이런 상황이 됐나
Turnitin과 같은 표절 방지 소프트웨어는 오랫동안 학생들의 글을 웹 데이터베이스와 대조해 유사도 점수를 매기는 방식으로 작동해왔다. 그러나 2022년 이후 생성형 AI 도구가 확산되자, 탐지기들은 문체의 리듬과 어조, 단어 선택을 분석해 AI 작성 여부를 추정하는 방향으로 전환했다. The Verge에 따르면 이는 기존의 텍스트 대조 방식보다 훨씬 불확실한 방법이다. 2023년 스탠퍼드 대학의 한 연구는 이러한 도구들이 비원어민 영어 사용자의 에세이를 AI 생성물로 잘못 판단하는 경우가 더 많다는 사실을 밝혀냈다. 이후 예일대(Yale), 존스홉킨스대(Johns Hopkins), 밴더빌트대(Vanderbilt), 조지타운대(Georgetown) 등 여러 대학이 정확도 문제를 이유로 AI 탐지 도구 사용을 중단하거나 제한했다.
이것이 당신에게 중요한 이유
학생과 취업 준비생에게 잘못된 AI 판정은 정학, 낙제, 혹은 기회 상실로 이어질 수 있지만 이를 되돌릴 방법은 거의 없다. 작가와 언론인에게는 사실 확인이 이뤄지기도 전에 소셜 플랫폼에서 비난이 퍼져 명성이 순식간에 훼손될 수 있다. 플랫폼과 개발자들에게는 Substack의 Pangram 연동, LinkedIn의 AI 표시 버튼 같은 사례에서 보듯 AI 탐지 기능이 선택이 아닌 기본값이 되어가고 있으며, 이는 이의제기 절차 마련에 대한 압박으로 이어지고 있다. 익명 활동과 AI 보조 글쓰기가 흔한 크립토 및 Web3 커뮤니티에서는, 신뢰할 수 없는 탐지기가 리뷰, 백서, 공지 등에 대한 허위 의혹을 부추길 수 있어 검증된 인간 저자 표시가 더욱 중요해지고 있다.
더 큰 질문
AI 탐지기 제작사들조차 완전한 정확성을 보장할 수 없다고 인정하는 상황에서, 기관과 플랫폼들이 여전히 이 도구를 근거로 사람을 판단한다면, 오판의 책임은 누가 져야 할까. 작가 본인일까, 도구 제작사일까, 아니면 그 도구를 신뢰한 기관일까.
앞으로 지켜볼 것
Thierry Rignol이 예일대를 상대로 제기한 소송은 여전히 진행 중이며, 학교 현장에서 AI 탐지 증거의 법적 효력을 둘러싼 더 큰 논쟁도 계속되고 있다. 예일, 존스홉킨스, 밴더빌트, 조지타운에 이어 더 많은 대학이 AI 탐지 도구 사용을 제한할지 지켜볼 만하다. Substack과 LinkedIn 등 플랫폼들은 내장형 AI 탐지 기능을 계속 확대하고 있으며, bonuz는 이러한 흐름이 Web3와 주류 미디어 전반의 콘텐츠 신뢰도에 어떤 영향을 미치는지 계속 추적할 예정이다.
