Công cụ TensorRT của NVIDIA tăng hiệu suất cho các tác vụ AI như Stable Diffusion và Llama 2

NVIDIA đã và đang nỗ lực cải tiến bộ công cụ AI/ML (trí tuệ nhân tạo/học máy) và LLM (mô hình ngôn ngữ lớn) của mình. Bổ sung mới nhất là TensorRT và TensorRT-LLM, được thiết kế để tối ưu hóa hiệu suất của GPU tiêu dùng và nhiều card đồ họa tốt nhất để chạy các tác vụ như Stable Diffusion và tạo văn bản Llama 2. Chúng tôi đã thử nghiệm một số GPU mới nhất của NVIDIA bằng TensorRT và nhận thấy hiệu suất trong Stable Diffusion được cải thiện tới 70%. TensorRT hiện có sẵn để tải xuống tại trang GitHub của NVIDIA, mặc dù chúng tôi đã có quyền truy cập sớm cho mục đích của cái nhìn ban đầu này.

Bản cập nhật trình điều khiển GeForce mới của NVIDIA bổ sung hỗ trợ VSR cho GPU RTX 20-Series và DLSS 3 cho Naraka: Bladepoint và Warhammer: Vermintide 2

NVIDIA hôm nay đã phát hành phiên bản 545.84 mới nhất của trình điều khiển đồ họa GeForce Game Ready của họ, mang đến bản cập nhật chất lượng cuộc sống hữu ích cho người dùng GPU RTX 20-series dưới dạng hỗ trợ siêu phân giải video (VSR). Bên cạnh phần mở rộng hỗ trợ cho dòng GeForce, trình điều khiển mới cũng mang đến hỗ trợ tạo khung hình dựa trên DLSS 3 cho cả Naraka: Bladepoint và Warhammer: Vermintide 2.

Nintendo Switch 2 sẽ tương thích ngược và có tính năng học máy?

Một trong những tính năng được yêu cầu nhiều nhất cho chiếc Nintendo Switch 2 sắp ra mắt là khả năng tương thích ngược với các trò chơi trên Switch đời đầu. Mặc dù cho đến nay đã có nhiều tin đồn trái chiều, nhưng có vẻ như chiếc console mới này sẽ thực sự có thể chơi các trò chơi được phát hành trên Switch hiện tại.

Nvidia TensorRT-LL tăng gấp đôi hiệu suất LLM trên GPU H100

Nvidia cho biết phần mềm mã nguồn mở TensorRT-LL mới của họ có thể tăng hiệu suất đáng kể của các mô hình ngôn ngữ lớn (LLM) trên GPU của họ. Theo công ty, khả năng của TensorRT-LL của Nvidia cho phép họ tăng hiệu suất của GPU H100 của họ lên hai lần trong LLM GPT-J với sáu tỷ tham số. Quan trọng là phần mềm có thể cho phép cải thiện hiệu suất này mà không cần đào tạo lại mô hình.

Công cụ TensorRT của NVIDIA tăng hiệu suất cho các tác vụ AI như Stable Diffusion và Llama 2

NVIDIA đã và đang nỗ lực cải tiến bộ công cụ AI/ML (trí tuệ nhân tạo/học máy) và LLM (mô hình ngôn ngữ lớn) của mình. Bổ sung mới nhất là TensorRT và TensorRT-LLM, được thiết kế để tối ưu hóa hiệu suất của GPU tiêu dùng và nhiều card đồ họa tốt nhất để chạy các tác vụ như Stable Diffusion và tạo văn bản Llama 2. Chúng tôi đã thử nghiệm một số GPU mới nhất của NVIDIA bằng TensorRT và nhận thấy hiệu suất trong Stable Diffusion được cải thiện tới 70%. TensorRT hiện có sẵn để tải xuống tại trang GitHub của NVIDIA, mặc dù chúng tôi đã có quyền truy cập sớm cho mục đích của cái nhìn ban đầu này.

Bản cập nhật trình điều khiển GeForce mới của NVIDIA bổ sung hỗ trợ VSR cho GPU RTX 20-Series và DLSS 3 cho Naraka: Bladepoint và Warhammer: Vermintide 2

NVIDIA hôm nay đã phát hành phiên bản 545.84 mới nhất của trình điều khiển đồ họa GeForce Game Ready của họ, mang đến bản cập nhật chất lượng cuộc sống hữu ích cho người dùng GPU RTX 20-series dưới dạng hỗ trợ siêu phân giải video (VSR). Bên cạnh phần mở rộng hỗ trợ cho dòng GeForce, trình điều khiển mới cũng mang đến hỗ trợ tạo khung hình dựa trên DLSS 3 cho cả Naraka: Bladepoint và Warhammer: Vermintide 2.

Nintendo Switch 2 sẽ tương thích ngược và có tính năng học máy?

Một trong những tính năng được yêu cầu nhiều nhất cho chiếc Nintendo Switch 2 sắp ra mắt là khả năng tương thích ngược với các trò chơi trên Switch đời đầu. Mặc dù cho đến nay đã có nhiều tin đồn trái chiều, nhưng có vẻ như chiếc console mới này sẽ thực sự có thể chơi các trò chơi được phát hành trên Switch hiện tại.

Nvidia TensorRT-LL tăng gấp đôi hiệu suất LLM trên GPU H100

Nvidia cho biết phần mềm mã nguồn mở TensorRT-LL mới của họ có thể tăng hiệu suất đáng kể của các mô hình ngôn ngữ lớn (LLM) trên GPU của họ. Theo công ty, khả năng của TensorRT-LL của Nvidia cho phép họ tăng hiệu suất của GPU H100 của họ lên hai lần trong LLM GPT-J với sáu tỷ tham số. Quan trọng là phần mềm có thể cho phép cải thiện hiệu suất này mà không cần đào tạo lại mô hình.