ZTE ra mắt máy chủ GPU hàng đầu đầu tiên dành cho Trung Quốc, sử dụng GPU AI H800 của NVIDIA và CPU Xeon Scalable của Intel

ZTE đã ra mắt máy chủ GPU hàng đầu đầu tiên dành cho Trung Quốc, R6900 G5, sử dụng GPU AI H800 của NVIDIA và CPU Xeon Scalable của Intel. Máy chủ này được thiết kế dành riêng cho việc huấn luyện mô hình quy mô lớn, với hiệu suất tính toán tuyệt vời, khả năng giao tiếp mạng tốc độ cao và hiệu suất tiết kiệm năng lượng sáng tạo, đã mang lại những bước đột phá mới trong các lĩnh vực như trí tuệ nhân tạo và học sâu.

TSMC hợp tác với Broadcom và Nvidia để phát triển silicon photonics

TSMC được cho là đã tiếp cận hai nhân vật nặng ký trong ngành để khám phá silicon photonics, theo UDN.com. Động thái này giải quyết nhu cầu ngày càng tăng về tốc độ truyền dữ liệu được nâng cao, đặc biệt là với sự phổ biến của các công nghệ AI và các mô hình ngôn ngữ lớn chạy trên nhiều máy. Các báo cáo chỉ ra rằng TSMC đã tập hợp một nhóm R&D chuyên biệt gồm khoảng 200 chuyên gia, tập trung vào việc khai thác sức mạnh của silicon photonics cho các chip trong tương lai. Tin đồn cho rằng TSMC đang đàm phán với các nhà đầu tư lớn như Broadcom và Nvidia để đồng phát triển các ứng dụng tập trung vào công nghệ này. Sự hợp tác này nhằm sản xuất chip thế hệ tiếp theo với silicon photonics, và các đơn đặt hàng lớn được dự kiến ​​sẽ bắt đầu từ nửa cuối năm 2024.

Intel PUMA: Chip 8 lõi 528 luồng với kết nối quang học

Intel ra mắt mô-đun quang học mesh-to-mesh đầu tiên tại hội nghị chip Hot Chips 2023, cho thấy sự tiến bộ của họ trong tương lai của các kết nối chip-to-chip quang học cũng được các công ty như Nvidia và Ayar Labs ủng hộ. Tuy nhiên, chip 8 lõi 528 luồng mà Intel sử dụng cho bài trình diễn đã chiếm spotlight do kiến ​​trúc độc đáo của nó với 66 luồng mỗi lõi để cho phép truyền dữ liệu lên đến 1TB/s. Đáng ngạc nhiên, chip chỉ tiêu thụ 75W điện, với ~60% điện năng được sử dụng bởi các kết nối quang học, nhưng thiết kế cuối cùng có thể cho phép các hệ thống với hai triệu lõi được kết nối trực tiếp với độ trễ dưới 400ns.

ZTE ra mắt máy chủ GPU hàng đầu đầu tiên dành cho Trung Quốc, sử dụng GPU AI H800 của NVIDIA và CPU Xeon Scalable của Intel

ZTE đã ra mắt máy chủ GPU hàng đầu đầu tiên dành cho Trung Quốc, R6900 G5, sử dụng GPU AI H800 của NVIDIA và CPU Xeon Scalable của Intel. Máy chủ này được thiết kế dành riêng cho việc huấn luyện mô hình quy mô lớn, với hiệu suất tính toán tuyệt vời, khả năng giao tiếp mạng tốc độ cao và hiệu suất tiết kiệm năng lượng sáng tạo, đã mang lại những bước đột phá mới trong các lĩnh vực như trí tuệ nhân tạo và học sâu.

TSMC hợp tác với Broadcom và Nvidia để phát triển silicon photonics

TSMC được cho là đã tiếp cận hai nhân vật nặng ký trong ngành để khám phá silicon photonics, theo UDN.com. Động thái này giải quyết nhu cầu ngày càng tăng về tốc độ truyền dữ liệu được nâng cao, đặc biệt là với sự phổ biến của các công nghệ AI và các mô hình ngôn ngữ lớn chạy trên nhiều máy. Các báo cáo chỉ ra rằng TSMC đã tập hợp một nhóm R&D chuyên biệt gồm khoảng 200 chuyên gia, tập trung vào việc khai thác sức mạnh của silicon photonics cho các chip trong tương lai. Tin đồn cho rằng TSMC đang đàm phán với các nhà đầu tư lớn như Broadcom và Nvidia để đồng phát triển các ứng dụng tập trung vào công nghệ này. Sự hợp tác này nhằm sản xuất chip thế hệ tiếp theo với silicon photonics, và các đơn đặt hàng lớn được dự kiến ​​sẽ bắt đầu từ nửa cuối năm 2024.

Intel PUMA: Chip 8 lõi 528 luồng với kết nối quang học

Intel ra mắt mô-đun quang học mesh-to-mesh đầu tiên tại hội nghị chip Hot Chips 2023, cho thấy sự tiến bộ của họ trong tương lai của các kết nối chip-to-chip quang học cũng được các công ty như Nvidia và Ayar Labs ủng hộ. Tuy nhiên, chip 8 lõi 528 luồng mà Intel sử dụng cho bài trình diễn đã chiếm spotlight do kiến ​​trúc độc đáo của nó với 66 luồng mỗi lõi để cho phép truyền dữ liệu lên đến 1TB/s. Đáng ngạc nhiên, chip chỉ tiêu thụ 75W điện, với ~60% điện năng được sử dụng bởi các kết nối quang học, nhưng thiết kế cuối cùng có thể cho phép các hệ thống với hai triệu lõi được kết nối trực tiếp với độ trễ dưới 400ns.