OpenAI và Broadcom công bố chip AI Jalapeño

Theo 2 công ty, Jalapeño là thế hệ chip đầu tiên trong dự án hợp tác dài hạn và sẽ tiếp tục được cải tiến trong những năm tới. Quá trình thiết kế và sản xuất mẫu chip này kéo dài 9 tháng.

Jalapeño thuộc nhóm chip chuyên dụng, được phát triển từ đầu nhằm phục vụ quá trình xử lý yêu cầu của các mô hình ngôn ngữ lớn. Broadcom cho biết thiết kế của chip dựa trên những trao đổi chuyên sâu với các nhà nghiên cứu OpenAI, đồng thời tính đến kế hoạch phát triển các mô hình và sản phẩm tương lai của công ty.

OpenAI cho biết các thử nghiệm ban đầu cho thấy Jalapeño có thể đạt hiệu suất xử lý trên mỗi đơn vị điện năng cao hơn đáng kể so với những sản phẩm hàng đầu hiện nay. Tuy nhiên, quá trình đánh giá vẫn chưa hoàn tất và báo cáo kỹ thuật chi tiết dự kiến được công bố trong những tháng tới.

Hiện 2 công ty chưa tiết lộ nhiều thông số cụ thể của sản phẩm. Jalapeño được kỳ vọng sẽ phù hợp hơn với nhu cầu vận hành các mô hình AI so với những loại chip đa dụng đang được sử dụng tại nhiều trung tâm dữ liệu.

Việc phát triển chip riêng cũng nằm trong kế hoạch giúp OpenAI kiểm soát đầy đủ hơn hạ tầng phục vụ các mô hình và sản phẩm như ChatGPT, Codex. Điều này có thể giúp công ty giảm phụ thuộc vào các nhà cung cấp bên ngoài như Nvidia, đồng thời cải thiện hiệu suất và mức tiêu thụ năng lượng.

Trong bối cảnh nhu cầu tính toán AI trên toàn cầu đang tăng nhanh, nhiều công ty công nghệ đã đẩy mạnh phát triển chip chuyên dụng để tận dụng tốt hơn năng lực hạn chế của các trung tâm dữ liệu.

Broadcom gần đây cũng mở rộng hoạt động cung cấp chip tùy chỉnh cho các tập đoàn công nghệ lớn và những đơn vị phát triển mô hình AI tiên tiến. OpenAI và Broadcom dự kiến đưa chip Jalapeño vào sử dụng tại các trung tâm dữ liệu trước cuối năm 2026.