틱톡은 페레즈 힐튼이 자해 장면으로 보이는 모습을 방송한 라이브 스트림이 모더레이터의 실수로 약 15분간 그대로 노출됐다고 밝혔다. 이번 사건은 자동 탐지 시스템이 아무리 빨라도, 사람의 목숨이 걸린 순간에는 여전히 느린 인간의 대응 절차에 의존할 수밖에 없다는 점을 보여준다는 점에서 중요하다.
실제로 무슨 일이 있었나
해당 라이브 방송은 2026년 8월 초 화요일 밤에 진행됐다. 틱톡 미국 대변인 제이미 파바자(Jamie Favazza)는 더버지(The Verge)에 "자동 모더레이션 시스템이 몇 분 만에 해당 영상을 포착해 미국 모더레이션 팀으로 전달했지만, 모더레이터의 실수로 삭제가 지연됐다"고 밝혔다. 파바자는 방송이 30분 넘게 이어졌다는 주장에 대해서는 사실이 아니며 실제로는 약 15분간 지속됐다고 반박했다. 틱톡은 이후 힐튼이 다시 시작한 라이브 방송들은 90초 이내에 삭제했고, 커뮤니티 가이드라인 위반을 이유로 그의 계정을 정지시켰다. 틱톡은 또한 수사기관에도 이 사실을 통보했다. CNN에 따르면 마이애미데이드 보안관실은 자해 방송과 관련해 여러 건의 신고 전화를 받았으며 힐튼을 병원으로 이송했다고 밝혔다. 한편 뉴욕타임스는 별도로 틱톡 미국 법인이 250명을 감원하고, 모더레이션 팀 일부가 근무하던 내슈빌 사무소를 폐쇄한다고 보도했다.
사건의 배경
본명이 마리오 아르만도 라반데이라 주니어(Mario Armando Lavandeira Jr.)인 페레즈 힐튼은 2004년부터 유명인 사진 위에 외설적인 낙서를 덧입힌 것으로 유명한 가십 블로그를 운영하며 팬층을 쌓아왔다. 틱톡의 커뮤니티 가이드라인은 자살이나 자해를 묘사하거나 조장하는 콘텐츠를 엄격히 금지하고 있다. 하지만 크리에이터들은 오래전부터 이러한 규정이 일관되지 않게 적용된다고 지적해왔다. 이번 사건은 틱톡이 미국 모더레이션 인력과 관련된 감원과 사무소 폐쇄를 확정한 바로 그 주에 발생하면서, 하필 대형 사고가 불거진 시점에 처리 역량에 대한 의문을 키우고 있다.
왜 중요한가
이용자 입장에서 이번 사건은 자동 탐지가 곧 빠른 삭제를 의미하지 않는다는 사실을 다시 일깨워준다. 탐지와 조치 사이에는 여전히 사람이 개입하는 단계가 존재하며, 이번 경우 그 단계에서 문제가 발생했다. 크리에이터들에게는 규정 적용의 일관성에 대한 논쟁이 다시 불붙는 계기가 됐다. 웨어러블 카메라나 스마트 글라스를 활용한 라이브 영상을 개발 중인 플랫폼 개발자들에게는, 녹화 업로드뿐 아니라 상시 접속형 실시간 방송에 맞춰 검토 파이프라인을 확장해야 한다는 신호로 읽힌다.
더 큰 질문
스마트폰과 웨어러블 카메라를 통해 라이브 영상이 즉각적이고 상시적인 형태로 진화하는 상황에서, 플랫폼들은 자동화된 속도와 생명이 걸린 순간에 필요한 인간의 판단 사이에서 어떻게 균형을 맞춰야 할까?
앞으로 지켜봐야 할 것
틱톡은 모더레이터 관련 공백을 어떻게 개선할지에 대한 공개적인 일정을 아직 내놓지 않았다. 뉴욕타임스에 따르면 내슈빌 사무소 폐쇄와 250명 감원은 이미 진행 중이지만, 완료 시점은 확정되지 않았다. 미국 모더레이션 팀 인력 변화에 대한 추가 세부 사항도 아직 공개되지 않았다.
