AMD Ryzen AI Halo ra mắt: Mini PC AI chạy mô hình 200B, cạnh tranh NVIDIA DGX Spark
AMD Ryzen AI Halo chính thức ra mắt với Ryzen AI Max+ Strix Halo, RAM hợp nhất 128GB, chạy mô hình AI 200B tham số, hỗ trợ Windows và Linux, cạnh tranh NVIDIA DGX Spark.
AMD vừa chính thức giới thiệu Ryzen AI Halo, nền tảng mini PC AI mới dành cho lập trình viên, doanh nghiệp và các nhà phát triển AI muốn triển khai mô hình ngay trên máy cục bộ (Local AI). Đây được xem là câu trả lời trực tiếp của AMD trước NVIDIA DGX Spark và Apple Mac Studio, nhưng nổi bật hơn nhờ hỗ trợ đồng thời cả Windows lẫn Linux. Trong bối cảnh doanh nghiệp ngày càng ưu tiên AI nội bộ để giảm chi phí API và bảo vệ dữ liệu, Ryzen AI Halo mở ra thêm một lựa chọn đáng chú ý cho các hệ thống AI tại chỗ. Ryzen AI Halo là nền tảng mini workstation AI được AMD xây dựng trên vi xử lý Ryzen AI Max+ "Strix Halo", hướng đến các tác vụ: Khác với nhiều hệ thống AI yêu cầu kết nối Cloud, Ryzen AI Halo cho phép toàn bộ mô hình được xử lý ngay trên máy. Điều này giúp: Một điểm đáng chú ý là AMD không khóa hệ sinh thái. Ryzen AI Halo hỗ trợ đầy đủ: đồng thời tương thích với hệ sinh thái ROCm của AMD. Máy được cài sẵn Ryzen AI Halo Developer Center, đóng vai trò trung tâm quản lý dành cho lập trình viên AI. Nền tảng hỗ trợ nhiều framework phổ biến như: Nhờ đó, quá trình triển khai mô hình AI trở nên nhanh hơn mà không cần cấu hình quá phức tạp. Phiên bản đầu tiên sử dụng: AMD cũng xác nhận sẽ có phiên bản Ryzen AI Max+ PRO 495 hỗ trợ bộ nhớ hợp nhất lên tới 192GB, phục vụ các mô hình AI lớn hơn. Kiến trúc bộ nhớ hợp nhất giúp CPU, GPU và NPU cùng truy cập một vùng nhớ chung, giảm đáng kể thời gian truyền dữ liệu trong quá trình suy luận AI. Theo AMD, Ryzen AI Halo được thiết kế để chạy các mô hình AI có quy mô lên tới 200B tham số. Đây là mức rất cao đối với một hệ thống mini PC, cho phép xử lý: mà không cần phụ thuộc vào dịch vụ Cloud. Đối với doanh nghiệp muốn triển khai AI nội bộ, đây là lợi thế đáng kể về bảo mật và khả năng kiểm soát dữ liệu. Theo các số liệu benchmark nội bộ do AMD công bố: Ryzen AI Halo có thể nhanh hơn Apple M4 Pro từ khoảng 3,3 đến 7,3 lần trong một số tác vụ AI như: Ngoài ra, khi so sánh với NVIDIA DGX Spark, AMD cho biết Ryzen AI Halo đạt tốc độ xử lý token cao hơn từ khoảng 4% đến 14% trên một số mô hình như: Lưu ý đây là kết quả benchmark do AMD thực hiện trong các điều kiện thử nghiệm riêng. Một điểm AMD nhấn mạnh là tổng chi phí sở hữu (TCO). Theo mô phỏng của hãng, sử dụng Ryzen AI Halo liên tục trong 3 năm có thể giúp tổng chi phí thấp hơn tới 6 lần so với việc gọi API AI trên nền tảng Cloud với cùng khối lượng xử lý. Nếu xu hướng Local AI tiếp tục phát triển, đây có thể là yếu tố khiến nhiều doanh nghiệp chuyển dần từ AI thuê theo token sang AI vận hành tại chỗ. Song song với phần cứng, AMD còn giới thiệu: Bộ công cụ này cung cấp: Nhờ đó, ngay cả những người mới làm quen với AI cũng có thể nhanh chóng xây dựng môi trường phát triển. Sự xuất hiện của Ryzen AI Halo cho thấy AMD đang muốn mở rộng cuộc cạnh tranh từ CPU truyền thống sang thị trường AI workstation. Việc hỗ trợ đồng thời Windows và Linux, bộ nhớ hợp nhất dung lượng lớn cùng khả năng chạy mô hình AI lên tới 200B tham số giúp nền tảng này trở thành lựa chọn đáng chú ý cho doanh nghiệp, nhà phát triển và các tổ chức muốn xây dựng hạ tầng AI nội bộ. Trong bối cảnh chi phí AI trên Cloud ngày càng tăng và nhu cầu bảo vệ dữ liệu ngày càng được ưu tiên, các giải pháp Local AI như Ryzen AI Halo được dự báo sẽ đóng vai trò quan trọng trong giai đoạn phát triển AI tiếp theo.
Ryzen AI Halo là gì?
Chạy được cả Windows và Linux
Cấu hình phần cứng mạnh cho Local AI
Có thể chạy mô hình AI tới 200 tỷ tham số
AMD công bố hiệu năng cạnh tranh Apple và NVIDIA
Chi phí AI thấp hơn Cloud?
AMD AI Playbooks hỗ trợ người mới
Ryzen AI Halo có thể thay đổi cuộc chơi Local AI
