Startup AI 'chơi lớn' với phần cứng giá rẻ, 'hạ gục' các đối thủ sừng sỏ

Trái tim của một hệ thống AI tốt chính là một mô hình được đào tạo bài bản. Để làm được điều này, người ta cần rất nhiều tài nguyên và sức mạnh tính toán, điều này có thể đội chi phí lên rất cao cho các nhà đầu tư và tất cả những người liên quan. Tuy nhiên, một startup mới nổi đang làm xôn xao thị trường khi đào tạo mô hình AI của mình bằng phần cứng giá rẻ hơn. Fastino, cái tên được nhắc đến, được cho là chỉ sử dụng card đồ họa chơi game trị giá dưới 100.000 USD để đáp ứng nhu cầu đào tạo. Điều này hoàn toàn trái ngược với các "ông lớn" như XAI của Elon Musk, vốn có yêu cầu về sức mạnh tính toán cực kỳ lớn. Theo TechCrunch, Fastino đã đạt được thành công này bằng cách phát triển kiến trúc cho mô hình AI của mình, tập trung vào "từng tác vụ cụ thể" và được thiết kế để hoạt động ở quy mô nhỏ hơn. Sự thay đổi này đã tạo ra một mô hình nhanh hơn và có độ chính xác đáng kể. Tuy nhiên, điểm nổi bật nhất chính là lợi ích về chi phí khi đào tạo hệ thống trên phần cứng chơi game rẻ tiền. Mặc dù Fastino chỉ đầu tư chưa đến 100.000 USD vào GPU, họ đã bắt đầu thu hút được tiền từ các nhà đầu tư nhìn thấy tiềm năng. Gần đây nhất, Fastino đã nhận được 17,5 triệu USD từ Khosla Ventures sau khi đã huy động được 7 triệu USD vào cuối năm ngoái từ M12, quỹ đầu tư mạo hiểm của Microsoft, cũng như Insight Partners. Fastino không phải là công ty duy nhất đổi mới trong lĩnh vực phần cứng AI với các lựa chọn phát triển tương đối phải chăng. Tiny Corp đã tung ra sản phẩm Tinybox vào năm ngoái, với sáu card đồ họa AMD Radeon 7900 XTX được tái sử dụng, chuyên dụng cho xử lý AI. Hiện tại, Fastino vẫn chưa chia sẻ bất kỳ dữ liệu hiệu năng nào, vì vậy chúng ta không thể xác nhận chính xác kiến trúc mới của họ so với các hệ thống AI khác. Nhóm phát triển đã đưa ra các tuyên bố cho thấy hiệu năng đáng chú ý, cho biết khả năng cung cấp câu trả lời phức tạp chỉ trong vài mili giây. Tuy nhiên, nếu không có thêm thông tin, chúng ta khó có thể đánh giá được hiệu suất của họ so với các "đại gia" trong lĩnh vực AI.