Apple M3 Ultra: "Quái vật" AI tiết kiệm điện, bỏ xa đối thủ

Apple vừa ra mắt Mac Studio mới với chip M3 Ultra cực mạnh, phá vỡ mọi kỷ lục hiệu năng trước đó của hãng. Con chip này có CPU lên đến 32 nhân và GPU 80 nhân, mang lại hiệu suất tính toán và đồ họa vượt trội so với M2 Ultra. Điều đáng nói, M3 Ultra còn chứng minh khả năng "gánh" mô hình AI khổng lồ Deepseek R1 với 671 tỷ tham số, bỏ xa các thế hệ chip Apple Silicon trước đây.
Mô hình Deepseek R1 nặng tới 404GB và đòi hỏi băng thông bộ nhớ cực lớn, thường chỉ có ở VRAM của GPU. Nhờ kiến trúc bộ nhớ hợp nhất (Unified Memory), M3 Ultra có lợi thế độc đáo, cho thấy kết quả ấn tượng với mức tiêu thụ điện năng tối thiểu. Kênh YouTube Dave2D đã so sánh hiệu năng của M3 Ultra khi chạy Deepseek R1 với các chip Apple trước, và kết quả rất bất ngờ.
Để chạy mượt mà mô hình R1 khổng lồ, các hệ thống PC thông thường cần nhiều GPU, đẩy mức tiêu thụ điện lên rất cao. Nhưng M3 Ultra lại xử lý hiệu quả hơn nhiều. Kiến trúc bộ nhớ hợp nhất cho phép các mô hình AI sử dụng chung một "bể" bộ nhớ băng thông rộng, tương tự như VRAM.
Các mô hình AI nhỏ hơn chạy mượt mà mà không cần dùng hết tài nguyên, nhưng Deepseek R1 với 671 tỷ tham số cần cấu hình M3 Ultra cao nhất, với 512GB RAM. Tuy nhiên, macOS giới hạn dung lượng VRAM mặc định, và Dave Lee đã phải can thiệp vào cài đặt để tăng lên 448GB.
Deepseek R1 chạy thành công và mượt mà trên Mac Studio M3 Ultra. Dù là phiên bản lượng tử hóa 4-bit (giảm độ chính xác), mô hình vẫn giữ nguyên 671 tỷ tham số và hoạt động đáng ngạc nhiên. Các hệ thống khác có thể đạt hiệu năng tương đương với nhiều GPU, nhưng M3 Ultra vượt trội về mức tiêu thụ điện. Toàn bộ hệ thống chỉ tốn chưa đến 200W khi chạy Deepseek R1. Mức này chỉ bằng một phần nhỏ so với các PC có cấu hình tương đương. Dave cho biết, cấu hình đa GPU truyền thống có thể tốn gấp 10 lần điện năng.
Điều thú vị là, phiên bản R1 671 tỷ tham số lại chạy tốt hơn phiên bản 70 tỷ tham số, có thể do tối ưu hóa kiến trúc. Nhìn chung, chip M3 Ultra của Apple có thể xử lý các mô hình AI vượt xa khả năng vốn có. Chúng tôi sẽ tiếp tục cập nhật thông tin chi tiết về hiệu năng và hiệu quả của con chip này, hãy theo dõi nhé!