Broadcom gần đây đã bắt đầu giao hàng cho chip chuyển mạch trung tâm dữ liệu mới nhất Tomahawk 6, sẽ được cung cấp rộng rãi trong tháng 7, với mục tiêu tăng tốc hoạt động trí tuệ nhân tạo (AI).
Phó chủ tịch cao cấp của Broadcom, Ram Velaga, cho biết trong cuộc phỏng vấn với Reuters vào ngày 2 rằng hiệu suất của chip Tomahawk 6 gấp đôi thế hệ trước và đã tích hợp nhiều tính năng kiểm soát lưu lượng, giúp nâng cao hiệu quả của chip mạng, điều này có nghĩa là cùng một nhiệm vụ có thể được hoàn thành bằng ít chuyển mạch mạng hơn.
Tomahawk 6 được sản xuất bởi TSMC với quy trình 3 nanomet và chip mới tiếp tục sử dụng công nghệ quang học tích hợp (CPO), tích hợp chức năng phát và nhận trực tiếp vào bộ xử lý chuyển mạch, giúp giảm chi phí phần cứng và tiêu thụ năng lượng.
Nói chung, khi xây dựng trung tâm dữ liệu AI, cứ mỗi 10 GPU cần trang bị một chuyển mạch. Để xây dựng một cụm với 100.000 GPU, sẽ cần khoảng 10.000 chip chuyển mạch. Đồng thời, khi siêu máy tính trang bị hơn 100.000 GPU hoạt động, nút thắt hiệu suất thường không nằm ở chip xử lý mà là tốc độ truyền thông giữa các GPU. Do đó, để kết nối các chip này thành một khối duy nhất và hình thành một cụm chip quy mô lớn, cần thiết bị và chip mạng chuyên dụng, điều đó làm cho chip chuyển mạch của Broadcom ngày càng quan trọng.
Một trong những giải pháp mà Velaga đưa ra là tốc độ và tính năng của Tomahawk 6 đã được cải thiện đáng kể, đủ để xây dựng trung tâm dữ liệu AI lớn thế hệ tiếp theo, quy mô có thể vượt qua 100.000 GPU kết nối với nhau. “Chỉ sau vài năm nữa, bạn sẽ thấy một tòa nhà chứa hàng triệu GPU.”
Chip mạng của Broadcom sử dụng giao thức Ethernet, trong khi đó, NVIDIA tập trung vào công nghệ cạnh tranh InfiniBand và cũng ra mắt một số sản phẩm dựa trên Ethernet. Velaga cho rằng tất cả các kiến trúc mạng này có thể dễ dàng thực hiện qua Ethernet, không cần những kỹ thuật phức tạp.
Đáng chú ý, chip này lập kỷ lục ngành với khả năng chuyển mạch 102,4 Tbps trên mỗi chip, gấp đôi băng thông chuyển mạch Ethernet hiện có. Tomahawk 6 là sản phẩm đầu tiên trong series sử dụng mô hình multi-chip package (chiplets). Velaga cho biết, với thiết kế chip nhỏ, diện tích silicon sử dụng trong chip có thể tăng gấp đôi.
Về giá cả, Broadcom không tiết lộ mức giá cụ thể nhưng nhấn mạnh rằng đơn giá thấp hơn 20.000 USD, một số khách hàng mua số lượng lớn có thể nhận được chiết khấu. Các tổ chức phân tích dự đoán, Tomahawk 6 có thể giúp giảm chi phí đào tạo AI từ 30% đến 40%.
(Hình ảnh đầu tiên nguồn: Broadcom)