OpenAI đã trình bày các số liệu benchmark tại hội nghị Hot Chips hôm thứ Ba, khẳng định chip Jalapeño mới của hãng vượt trội hơn GPU GB300 của Nvidia cả về tốc độ lẫn hiệu suất năng lượng. Đây là thông tin đáng chú ý với bất kỳ ai theo dõi mảng phần cứng AI: OpenAI giờ đây tự định vị mình như một nhà sản xuất chip, chứ không chỉ là khách hàng mua chip, điều có thể làm thay đổi chuỗi cung ứng cho AI và các thiết bị tương lai.
Điều gì đã thực sự xảy ra
Theo Tom's Hardware, OpenAI đã ra mắt con chip tự phát triển đầu tiên, mang tên mã Jalapeño, tại hội nghị Hot Chips. Công ty tuyên bố chip này mang lại thông lượng trên mỗi kilowatt cao gấp 1,9 lần so với GPU GB300 của Nvidia. OpenAI cũng khẳng định độ trễ thấp hơn 3,6 lần. Theo báo cáo, chip Jalapeño vận hành ở mức 700W, so với 1.400W của GB300 - dòng GPU chủ lực của Nvidia. Chip này được phát triển cùng Broadcom, một nhà sản xuất bán dẫn có tên tuổi. Đây là những số liệu benchmark đầu tiên OpenAI công bố cho một thiết kế chip nội bộ, theo trang tin trên. OpenAI chưa tiết lộ thời gian ra mắt hay mức giá cho chip Jalapeño, theo các thông tin hiện có.
Bối cảnh sự việc
Hot Chips là hội nghị thường niên nơi các công ty bán dẫn trình bày số liệu kỹ thuật cho giới kỹ sư và nhà nghiên cứu, theo báo cáo. OpenAI trước đây chưa từng công bố dữ liệu hiệu năng cho bất kỳ thiết kế chip nội bộ nào. Dự án chip Jalapeño có sự tham gia của Broadcom với vai trò đối tác phát triển. GB300 được mô tả là GPU chủ lực hiện tại của Nvidia dành cho các tác vụ AI. Đây là lần đầu tiên OpenAI công bố số liệu benchmark đối đầu trực tiếp giữa chip của chính mình với phần cứng hàng đầu của Nvidia - một tín hiệu cho thấy hãng đang mở rộng ra ngoài mảng phần mềm để bước vào lĩnh vực thiết kế chip.
Tại sao điều này quan trọng với bạn
Với những nhà phát triển đang tích hợp AI vào thiết bị, mức tiêu thụ điện thấp hơn trên mỗi đơn vị thông lượng có thể đồng nghĩa với phần cứng rẻ hơn, mát hơn cho AI trên thiết bị - điều liên quan trực tiếp đến các sản phẩm AR và kính thông minh tương lai vốn cần chip tiết kiệm năng lượng. Với các nhà đầu tư vào Nvidia, sự xuất hiện của một đối thủ đáng gờm làm tăng rủi ro cạnh tranh cho doanh số GB300. Với OpenAI, việc kiểm soát thiết kế chip có thể giúp giảm sự phụ thuộc vào Nvidia và hạ chi phí tính toán về lâu dài, từ đó có thể ảnh hưởng đến giá API cũng như các sản phẩm tiêu dùng của OpenAI. Người dùng các ứng dụng AI có thể sẽ thấy tốc độ phản hồi nhanh hơn nếu OpenAI triển khai Jalapeño ở quy mô lớn.
Câu hỏi lớn hơn
Các số liệu benchmark này đến từ chính OpenAI, chứ không phải từ các phòng thí nghiệm kiểm định độc lập bên thứ ba. Nếu các nhà nghiên cứu bên ngoài xác nhận mức tăng hiệu suất 1,9 lần và giảm độ trễ 3,6 lần như OpenAI tuyên bố, liệu các công ty AI khác có đẩy nhanh chương trình phát triển chip riêng của họ hay không? Và nếu vị thế thống trị của Nvidia trong ngành chip AI suy yếu theo thời gian, ai sẽ là bên hưởng lợi nhiều nhất: các nhà sản xuất chip, các nhà cung cấp dịch vụ đám mây, hay các nhà phát triển đang xây dựng thế hệ phần cứng AI và thiết bị tiếp theo?
Những điều cần theo dõi
Hãy theo dõi các kiểm chứng độc lập đối với những tuyên bố benchmark này từ các nhà nghiên cứu bên ngoài hoặc các đối thủ sản xuất chip. Cũng cần chú ý phản ứng từ phía Nvidia. Hiện chưa có ngày ra mắt công khai hay mức giá nào được công bố cho chip Jalapeño. Bonuz sẽ tiếp tục theo dõi cách các chip AI tiết kiệm năng lượng có thể tác động đến hoạt động tính toán trên thiết bị trong tương lai, bao gồm cả phần cứng AR và kính thông minh.
