Siêu máy tính AI bỏ túi Project Digits của NVIDIA: Sức mạnh khủng khiếp trong lòng bàn tay

NVIDIA vừa gây ấn tượng mạnh tại sự kiện CES với một sản phẩm đột phá: siêu máy tính AI Project Digits. Với kích thước nhỏ gọn, vừa vặn trong lòng bàn tay của CEO Jensen Huang, Project Digits mang trong mình sức mạnh xử lý đáng kinh ngạc. Dự kiến ra mắt vào tháng 5, cỗ máy này có thể đạt hiệu năng 1 petaflop, tương đương một nghìn tỷ phép tính dấu phẩy động mỗi giây. Project Digits được thiết kế theo triết lý của dòng máy chủ DGX 100, cung cấp giải pháp siêu máy tính AI hoàn chỉnh, sẵn sàng sử dụng cho người dùng cuối mà không cần lo lắng về cơ sở hạ tầng phức tạp. Nếu DGX 100 phù hợp với các tủ máy chủ, thì Project Digits có thể đặt gọn gàng trên bàn làm việc, tương tự như một chiếc Mac Mini. Sức mạnh của Project Digits đến từ chip siêu vi GB10 Grace Blackwell, sự hợp tác giữa NVIDIA và MediaTek. Chip này tích hợp GPU Blackwell hiệu năng cao, CPU Grace 20 nhân và bộ nhớ LPDDR5X 128GB từ Micron, cùng ổ cứng SSD NVMe 4TB. Ngoài ra, nó còn có bộ điều hợp mạng thông minh NVIDIA ConnectX, hỗ trợ các công nghệ mạng tiên tiến. Sự kết hợp giữa NVIDIA và ARM trong chip Grace Blackwell được đánh giá rất cao. ARM cho biết chip này sử dụng công nghệ Cortex-X và Cortex-A hàng đầu của họ. Đại diện NVIDIA cũng khẳng định sự hợp tác này sẽ thúc đẩy những đổi mới tiếp theo trong lĩnh vực AI. Với sức mạnh khủng khiếp trong kích thước nhỏ bé, Project Digits có thể chạy các mô hình ngôn ngữ lớn AI với 200 tỷ tham số. Để dễ hình dung, mô hình GPT-4o của OpenAI chỉ có 12 tỷ tham số. Điều này có nghĩa, người dùng có thể chạy và tùy chỉnh ChatGPT ngay trên thiết bị của mình. Nếu kết hợp hai máy Project Digits, số lượng tham số mô hình có thể nâng lên tới 405 tỷ. Project Digits nhắm đến người dùng cần truy cập cục bộ vào các giải pháp điện toán AI mạnh mẽ. Thiết bị được tối ưu hóa cho AI, cả về phần cứng lẫn phần mềm. Nó được cài đặt sẵn bộ phần mềm AI Enterprise của NVIDIA, bao gồm các thư viện, framework và công cụ quản lý cơ sở hạ tầng. Người dùng có thể sử dụng Project Digits để kết nối với các giải pháp AI trên đám mây thông qua PC hoặc dùng như một máy trạm Linux trên hệ điều hành DGX OS của NVIDIA. Theo NVIDIA, Project Digits phù hợp với các doanh nghiệp, nhà nghiên cứu và sinh viên. Theo NVIDIA, giá khởi điểm của Project Digits là 3.000 USD. Project Digits được đánh giá là một thiết bị phần cứng ấn tượng với kích thước nhỏ gọn, tiếp nối sứ mệnh dân chủ hóa việc đào tạo AI. NVIDIA cũng nhấn mạnh rằng AI sẽ trở thành xu hướng chủ đạo trong mọi ứng dụng và ngành công nghiệp. Project Digits sẽ giúp hàng triệu nhà phát triển, nhà nghiên cứu và sinh viên có thể tham gia và định hình kỷ nguyên AI.