Thông số kỹ thuật của NVIDIA GeForce RTX 4080 Super, 4070 Ti Super và 4070 Super được tiết lộ

Theo leaker Kopite7kimi, NVIDIA GeForce RTX 4080 Super sẽ sử dụng GPU AD103-400 với đầy đủ 10240 nhân CUDA, 320 TMU, 112 ROP và 64MB bộ nhớ cache L2. Chip sẽ sử dụng giao diện bus 256-bit, có thể đi kèm với bộ nhớ 16GB GDDR6X, tương tự như RTX 4080 không phải Super. Điều này cho thấy NVIDIA có cả SKU 20GB (AD102 / 320-bit) và SKU 16GB (AD103 / 256-bit) nhưng SKU nào được bán lẻ vẫn còn phải xem.

Công cụ TensorRT của NVIDIA tăng hiệu suất cho các tác vụ AI như Stable Diffusion và Llama 2

NVIDIA đã và đang nỗ lực cải tiến bộ công cụ AI/ML (trí tuệ nhân tạo/học máy) và LLM (mô hình ngôn ngữ lớn) của mình. Bổ sung mới nhất là TensorRT và TensorRT-LLM, được thiết kế để tối ưu hóa hiệu suất của GPU tiêu dùng và nhiều card đồ họa tốt nhất để chạy các tác vụ như Stable Diffusion và tạo văn bản Llama 2. Chúng tôi đã thử nghiệm một số GPU mới nhất của NVIDIA bằng TensorRT và nhận thấy hiệu suất trong Stable Diffusion được cải thiện tới 70%. TensorRT hiện có sẵn để tải xuống tại trang GitHub của NVIDIA, mặc dù chúng tôi đã có quyền truy cập sớm cho mục đích của cái nhìn ban đầu này.

Thông số kỹ thuật của NVIDIA GeForce RTX 4080 Super, 4070 Ti Super và 4070 Super được tiết lộ

Theo leaker Kopite7kimi, NVIDIA GeForce RTX 4080 Super sẽ sử dụng GPU AD103-400 với đầy đủ 10240 nhân CUDA, 320 TMU, 112 ROP và 64MB bộ nhớ cache L2. Chip sẽ sử dụng giao diện bus 256-bit, có thể đi kèm với bộ nhớ 16GB GDDR6X, tương tự như RTX 4080 không phải Super. Điều này cho thấy NVIDIA có cả SKU 20GB (AD102 / 320-bit) và SKU 16GB (AD103 / 256-bit) nhưng SKU nào được bán lẻ vẫn còn phải xem.

Công cụ TensorRT của NVIDIA tăng hiệu suất cho các tác vụ AI như Stable Diffusion và Llama 2

NVIDIA đã và đang nỗ lực cải tiến bộ công cụ AI/ML (trí tuệ nhân tạo/học máy) và LLM (mô hình ngôn ngữ lớn) của mình. Bổ sung mới nhất là TensorRT và TensorRT-LLM, được thiết kế để tối ưu hóa hiệu suất của GPU tiêu dùng và nhiều card đồ họa tốt nhất để chạy các tác vụ như Stable Diffusion và tạo văn bản Llama 2. Chúng tôi đã thử nghiệm một số GPU mới nhất của NVIDIA bằng TensorRT và nhận thấy hiệu suất trong Stable Diffusion được cải thiện tới 70%. TensorRT hiện có sẵn để tải xuống tại trang GitHub của NVIDIA, mặc dù chúng tôi đã có quyền truy cập sớm cho mục đích của cái nhìn ban đầu này.