AMD tung ra 6 SKU Milan mới, đáp ứng nhu cầu thị trường

AMD đã ra mắt kiến ​​trúc Zen 4 được một thời gian; tuy nhiên, vẫn có nhu cầu về bộ xử lý Zen 3 - ít nhất là trong không gian máy chủ và trung tâm dữ liệu. Cách đây một tuần, nhà sản xuất chip đã âm thầm mở rộng dòng sản phẩm EPYC 7003 (Milan) thế hệ thứ 3 của công ty với sáu SKU mới.

TSMC hợp tác với Broadcom và Nvidia để phát triển silicon photonics

TSMC được cho là đã tiếp cận hai nhân vật nặng ký trong ngành để khám phá silicon photonics, theo UDN.com. Động thái này giải quyết nhu cầu ngày càng tăng về tốc độ truyền dữ liệu được nâng cao, đặc biệt là với sự phổ biến của các công nghệ AI và các mô hình ngôn ngữ lớn chạy trên nhiều máy. Các báo cáo chỉ ra rằng TSMC đã tập hợp một nhóm R&D chuyên biệt gồm khoảng 200 chuyên gia, tập trung vào việc khai thác sức mạnh của silicon photonics cho các chip trong tương lai. Tin đồn cho rằng TSMC đang đàm phán với các nhà đầu tư lớn như Broadcom và Nvidia để đồng phát triển các ứng dụng tập trung vào công nghệ này. Sự hợp tác này nhằm sản xuất chip thế hệ tiếp theo với silicon photonics, và các đơn đặt hàng lớn được dự kiến ​​sẽ bắt đầu từ nửa cuối năm 2024.

Nvidia TensorRT-LL tăng gấp đôi hiệu suất LLM trên GPU H100

Nvidia cho biết phần mềm mã nguồn mở TensorRT-LL mới của họ có thể tăng hiệu suất đáng kể của các mô hình ngôn ngữ lớn (LLM) trên GPU của họ. Theo công ty, khả năng của TensorRT-LL của Nvidia cho phép họ tăng hiệu suất của GPU H100 của họ lên hai lần trong LLM GPT-J với sáu tỷ tham số. Quan trọng là phần mềm có thể cho phép cải thiện hiệu suất này mà không cần đào tạo lại mô hình.

AMD EPYC thế hệ thứ 6: Sử dụng socket SP7 mới, hỗ trợ tối đa 16 kênh bộ nhớ

AMD's 6th Generation EPYC processors, được codenamed Venice và dựa trên Zen 6, có thể sẽ sử dụng socket SP7 mới, theo leaker nổi tiếng YuuKi_AnS, người dường như đã xem roadmap của một nhà sản xuất máy chủ. Nền tảng mới này sẽ cho phép hỗ trợ tối đa 16 kênh bộ nhớ, ông khẳng định, điều này sẽ đảm bảo đủ băng thông bộ nhớ cho CPU có hàng trăm lõi.

AMD tung ra 6 SKU Milan mới, đáp ứng nhu cầu thị trường

AMD đã ra mắt kiến ​​trúc Zen 4 được một thời gian; tuy nhiên, vẫn có nhu cầu về bộ xử lý Zen 3 - ít nhất là trong không gian máy chủ và trung tâm dữ liệu. Cách đây một tuần, nhà sản xuất chip đã âm thầm mở rộng dòng sản phẩm EPYC 7003 (Milan) thế hệ thứ 3 của công ty với sáu SKU mới.

TSMC hợp tác với Broadcom và Nvidia để phát triển silicon photonics

TSMC được cho là đã tiếp cận hai nhân vật nặng ký trong ngành để khám phá silicon photonics, theo UDN.com. Động thái này giải quyết nhu cầu ngày càng tăng về tốc độ truyền dữ liệu được nâng cao, đặc biệt là với sự phổ biến của các công nghệ AI và các mô hình ngôn ngữ lớn chạy trên nhiều máy. Các báo cáo chỉ ra rằng TSMC đã tập hợp một nhóm R&D chuyên biệt gồm khoảng 200 chuyên gia, tập trung vào việc khai thác sức mạnh của silicon photonics cho các chip trong tương lai. Tin đồn cho rằng TSMC đang đàm phán với các nhà đầu tư lớn như Broadcom và Nvidia để đồng phát triển các ứng dụng tập trung vào công nghệ này. Sự hợp tác này nhằm sản xuất chip thế hệ tiếp theo với silicon photonics, và các đơn đặt hàng lớn được dự kiến ​​sẽ bắt đầu từ nửa cuối năm 2024.

Nvidia TensorRT-LL tăng gấp đôi hiệu suất LLM trên GPU H100

Nvidia cho biết phần mềm mã nguồn mở TensorRT-LL mới của họ có thể tăng hiệu suất đáng kể của các mô hình ngôn ngữ lớn (LLM) trên GPU của họ. Theo công ty, khả năng của TensorRT-LL của Nvidia cho phép họ tăng hiệu suất của GPU H100 của họ lên hai lần trong LLM GPT-J với sáu tỷ tham số. Quan trọng là phần mềm có thể cho phép cải thiện hiệu suất này mà không cần đào tạo lại mô hình.

AMD EPYC thế hệ thứ 6: Sử dụng socket SP7 mới, hỗ trợ tối đa 16 kênh bộ nhớ

AMD's 6th Generation EPYC processors, được codenamed Venice và dựa trên Zen 6, có thể sẽ sử dụng socket SP7 mới, theo leaker nổi tiếng YuuKi_AnS, người dường như đã xem roadmap của một nhà sản xuất máy chủ. Nền tảng mới này sẽ cho phép hỗ trợ tối đa 16 kênh bộ nhớ, ông khẳng định, điều này sẽ đảm bảo đủ băng thông bộ nhớ cho CPU có hàng trăm lõi.