ByteDance กำลังฝึกโมเดล AI ที่มีพารามิเตอร์มากถึง 10 ล้านล้านตัว ตามรายงานของ Financial Times ขนาดระดับนี้ทำให้โมเดลนี้เข้าใกล้ระบบล้ำสมัยที่สุดของ Anthropic เข้าไปทุกที ใครที่ติดตามการแข่งขัน AI ระดับโลกควรจับตาเรื่องนี้ไว้ให้ดี เพราะมันบอกได้ว่าห้องแล็บจีนกำลังไล่ตามผู้นำจากสหรัฐฯ เร็วขนาดไหน
สิ่งที่เกิดขึ้นจริง
โมเดลนี้มีขนาดใหญ่กว่า Kimi K3 ของ Moonshot ถึงสามเท่า ซึ่งเป็นโมเดลจีนที่ใหญ่ที่สุดที่เคยเปิดตัวมา ตามคำบอกเล่าของแหล่งข่าวสามคนที่รู้เรื่องนี้ ผ่านการรายงานของ Ars Technica โดยทั่วไปขั้นตอน pre-training จะใช้เวลาสามถึงหกเดือน และขนาดสุดท้ายจะถูกกำหนดในภายหลัง ทาง Anthropic ไม่เคยเปิดเผยจำนวนพารามิเตอร์ แต่การประเมินในอุตสาหกรรมคาดว่า Mythos 5 มีพารามิเตอร์ประมาณ 8 ล้านล้านตัว ส่วน Fable 5 อยู่ที่ประมาณ 5 ล้านล้านตัว ทั้งนี้ Mythos 5 ถูกจำกัดให้ใช้ได้เฉพาะองค์กรที่ได้รับการอนุมัติ นับตั้งแต่มีการแบนด้านความปลอดภัยในเดือนมิถุนายน
แอปพลิเคชันผู้บริโภคของ ByteDance อย่าง Doubao มีผู้ใช้งานรายเดือนถึง 324 ล้านคน มากที่สุดในจีน ส่วนทีมวิจัย Seed ที่นำโดย Wu Yonghui นักวิทยาศาสตร์เก่าจาก Google DeepMind มีสมาชิกประมาณ 2,000 คน โดย Zhang Yiming ผู้ก่อตั้งบริษัท ได้บอกกับทีม Seed ในการประชุมภายในเมื่อสองสัปดาห์ก่อนว่าให้มุ่งเป้าไปที่ "ศักยภาพโมเดลระดับแนวหน้าของโลก" โดยไม่ต้องกังวลกับความล้มเหลวในระยะสั้น
ที่มาที่ไป
ห้องแล็บจีนไล่ตามมาได้อย่างรวดเร็วในปีนี้ โมเดลจาก Moonshot และ Alibaba ทำคะแนนเบนช์มาร์กที่ตามหลังเพียง Fable 5 ของ Anthropic ในบางด้านเท่านั้น ByteDance เองเก็บตัวเงียบกว่าคู่แข่งมาตลอด โดยปิดโมเดลส่วนใหญ่ไม่ให้เข้าถึงได้สาธารณะ พร้อมทุ่มทรัพยากรให้กับหน่วยคลาวด์ Volcano Engine และแผนพัฒนาชิป AI ของตัวเอง ต่างจากคู่แข่งบางราย ทีม Seed ของ ByteDance หลีกเลี่ยงการทำ distillation ความรู้จากโมเดลของแล็บอื่นมานานกว่าหนึ่งปีแล้ว ซึ่งเป็นแนวทางที่ช้ากว่าแต่เป็นอิสระมากกว่า แนวทางนี้ก่อให้เกิดการถกเถียงภายในว่ามันทำให้ ByteDance เสียเวลาในการไล่ตามห้องแล็บชั้นนำของโลกตะวันตกหรือไม่
เรื่องนี้สำคัญกับคุณอย่างไร
สำหรับนักพัฒนา โมเดลขนาดใหญ่ขึ้นของ ByteDance อาจหมายถึงการแข่งขันที่ดุเดือดขึ้นระหว่างแพลตฟอร์ม AI จีนและสหรัฐฯ สำหรับผู้ใช้งานทั่วไป โมเดลจีนที่มีความสามารถสูงขึ้นอาจช่วยลดต้นทุนการเข้าถึง AI ระดับสูง โดยเฉพาะหากมีการเปิดให้ใช้งานแบบเปิด สำหรับผู้ให้บริการโครงสร้างพื้นฐาน AI และผู้ผลิตชิป การเดินหน้าของ ByteDance หมายถึงมีผู้ซื้อรายใหญ่อีกรายที่แข่งหาพลังประมวลผลและชิปเฉพาะทาง อย่างไรก็ตาม การเข้าถึงยังเป็นปัญหา เพราะ Mythos 5 ยังจำกัดเฉพาะองค์กรที่ได้รับอนุมัติ ทำให้เทคโนโลยีแนวหน้าส่วนใหญ่ยังถูกปิดกั้นอยู่ หากโมเดลของ ByteDance ทำงานได้ดี คาดว่าจะเห็นรอบการพัฒนาที่เร็วขึ้นทั่วอุตสาหกรรม และแรงกดดันที่มากขึ้นต่อ Anthropic และคู่แข่งให้แข่งขันด้านขนาดการฝึกโมเดล ไม่ใช่แค่ด้านความมีประสิทธิภาพเพียงอย่างเดียว
คำถามใหญ่ที่รออยู่
หากโมเดลของ ByteDance มีขนาดเทียบเท่า Anthropic คำถามคือจำนวนพารามิเตอร์ล้วนๆ ยังเป็นตัวกำหนดว่าระบบ AI ใดจะเป็นผู้นำโลกหรือไม่ หรือคุณภาพของข้อมูลและวิธีการฝึกโมเดลกลายเป็นปัจจัยที่สำคัญกว่ากันแล้ว รายงานระบุว่าทั้งสองอย่างมีความสำคัญ แต่บริษัทต่างๆ ก็ยังคงแข่งขันกันด้านขนาดอยู่ดี เมื่อห้องแล็บหลายแห่งเข้าใกล้ระดับ 10 ล้านล้านพารามิเตอร์มากขึ้น อุตสาหกรรมอาจต้องการคำตอบที่ชัดเจนกว่านี้ว่าอะไรที่แยกโมเดลชั้นนำออกจากโมเดลที่แค่มีขนาดใหญ่
สิ่งที่ต้องติดตาม
ขั้นตอน pre-training ของ ByteDance มักใช้เวลาสามถึงหกเดือน หมายความว่ารูปแบบที่ผ่านการปรับแต่งขั้นสุดท้ายและการเปิดตัวจริง หากเกิดขึ้น อาจมาถึงในช่วงปลายปี 2026 หรือต้นปี 2027 ควรจับตาการยืนยันจำนวนพารามิเตอร์สุดท้าย การเปรียบเทียบเบนช์มาร์กกับ Mythos 5 และ Fable 5 ของ Anthropic และว่า ByteDance จะเปิดหรือปิดโมเดลนี้ Bonuz จะติดตามว่าเรื่องนี้ส่งผลอย่างไรต่อฮาร์ดแวร์และชิปที่ขับเคลื่อนอุปกรณ์ AI ยุคใหม่ รวมถึงอุปกรณ์สวมใส่ด้วย
