바이트댄스가 최대 10조 개의 파라미터를 가진 AI 모델을 훈련하고 있다고 파이낸셜타임스가 보도했다. 이 정도 규모라면 앤스로픽의 최신 시스템에 근접한 수준이다. 글로벌 AI 경쟁을 지켜보는 사람이라면 주목할 만한 소식인데, 중국 연구소들이 얼마나 빠르게 미국 선두 기업들과의 격차를 좁히고 있는지를 보여주기 때문이다.
실제로 무슨 일이 있었나
이 모델은 지금까지 공개된 중국 모델 중 가장 큰 규모인 문샷의 Kimi K3보다 세 배 크다고, 사안에 정통한 세 명의 관계자가 Ars Technica에 전했다. 사전 훈련은 보통 3~6개월이 걸리며 최종 규모는 이후 결정될 예정이다. 앤스로픽은 파라미터 수를 공개하지 않지만, 업계에서는 Mythos 5가 약 8조 개, Fable 5가 약 5조 개의 파라미터를 가진 것으로 추정하고 있다. Mythos 5는 지난 6월 보안 문제로 인해 승인된 기관에만 제공이 제한된 상태다. 바이트댄스의 소비자용 앱 두바오(Doubao)는 월간 활성 사용자 3억 2,400만 명으로 중국 내 1위를 기록하고 있다. 전 구글 딥마인드 과학자였던 우융후이가 이끄는 시드(Seed) 연구팀은 약 2,000명 규모다. 창업자 장이밍은 2주 전 내부 회의에서 시드팀에 단기적인 부침에 신경 쓰지 말고 "세계 최고 수준의 모델 성능"을 목표로 삼으라고 지시했다.
여기까지 오게 된 배경
중국 연구소들은 올해 빠르게 격차를 좁혀왔다. 문샷과 알리바바의 모델들은 일부 영역에서 앤스로픽의 Fable 5에만 못 미치는 벤치마크 성적을 기록했다. 바이트댄스는 경쟁사들보다 대외적으로 조용한 행보를 보여왔으며, 대부분의 모델을 비공개로 유지한 채 볼케이노 엔진(Volcano Engine) 클라우드 사업부와 자체 AI 칩 개발 계획에 자원을 쏟아부었다. 다른 경쟁사들과 달리 바이트댄스의 시드팀은 1년 넘게 다른 연구소 모델로부터 지식을 증류하는 방식을 피해왔는데, 이는 더 느리지만 더 독립적인 경로다. 이런 방식이 바이트댄스가 서구 선도 연구소들을 따라잡는 데 시간을 허비하게 만든 것은 아닌지를 두고 내부 논쟁이 있었다.
당신에게 중요한 이유
개발자들에게는 바이트댄스의 더 큰 모델이 중국과 미국 AI 플랫폼 중 하나를 선택할 때 경쟁이 더 치열해진다는 의미다. 사용자들에게는 더 성능 좋은 중국 모델이 나오면, 특히 개방형으로 공개될 경우 첨단 AI 이용 비용이 낮아질 수 있다는 뜻이다. AI 인프라 제공업체와 반도체 기업들에게는 바이트댄스가 컴퓨팅 자원과 맞춤형 칩을 확보하려는 또 하나의 대형 구매자로 등장했다는 의미다. 다만 접근성 문제도 남아 있다. Mythos 5는 여전히 승인된 기관에만 제한적으로 제공되고 있어, 최첨단 기술의 상당 부분은 여전히 폐쇄적이다. 바이트댄스의 모델이 좋은 성능을 낸다면, 업계 전반의 반복 개발 주기가 빨라지고 앤스로픽을 비롯한 경쟁사들이 효율성만이 아니라 훈련 규모에서도 맞대응해야 한다는 압박을 받게 될 것으로 보인다.
더 근본적인 질문
바이트댄스의 모델이 앤스로픽 수준의 규모에 도달한다면, 파라미터 수가 여전히 어떤 AI 시스템이 세계를 선도하는지를 결정하는 요인일까, 아니면 데이터 품질과 훈련 방법이 더 중요한 요소가 된 것일까? 보도는 둘 다 중요하다고 지적하지만, 기업들은 여전히 규모 경쟁을 벌이고 있다. 더 많은 연구소가 10조 파라미터에 근접해 가는 가운데, 업계는 무엇이 진짜 선도 모델과 단순히 큰 모델을 가르는지에 대해 더 명확한 답을 내놓아야 할지도 모른다.
앞으로 지켜볼 점
바이트댄스의 사전 훈련 단계는 보통 3~6개월이 걸리므로, 모델의 미세조정 완료 및 최종 공개 시점은 실제로 이뤄진다면 2026년 말이나 2027년 초가 될 것으로 보인다. 최종 파라미터 수 확정 여부, 앤스로픽의 Mythos 5 및 Fable 5와의 벤치마크 비교, 그리고 바이트댄스가 모델을 공개형으로 내놓을지 비공개로 유지할지를 주목해야 한다. 보너즈(Bonuz)는 이번 소식이 웨어러블을 포함한 차세대 AI 기기를 구동하는 하드웨어 및 칩 시장에 미칠 영향을 계속 추적할 예정이다.
