Một thành viên trên diễn đàn r/StableDiffusion vừa gây chú ý khi vận hành thành công mô hình video MiniMax H3 dưới dạng một avatar tương tác thời gian thực trên card đồ họa Intel Arc Pro B70. Điểm đáng nói không nằm ở việc Intel đã tung ra một con chip có tốc độ xử lý vượt trội, mà nằm ở một kỹ thuật phần mềm khéo léo: thay vì chờ đợi video hoàn tất, hệ thống được thiết kế để không bao giờ phải dừng lại. MiniMax H3, ra mắt vào ngày 31/7, là một hệ thống đa phương thức có khả năng xử lý đồng thời văn bản, hình ảnh, video và âm thanh để xuất ra video 2K với âm thanh nổi bản địa.
Tuy nhiên, bản thân H3 không hề nhanh; việc tạo ra một đoạn clip 5 giây thường mất vài phút thay vì vài mili giây. Để giải quyết rào cản này, người dùng Reddit đã chia nhỏ quy trình: một mô hình ngôn ngữ đảm nhiệm việc đối thoại, một công cụ giọng nói riêng biệt tạo âm thanh, và H3 chỉ tập trung dựng khuôn mặt cũng như chuyển động của avatar. Dữ liệu được truyền phát và lưu vào bộ nhớ đệm (streaming and buffering), giúp người xem luôn thấy avatar chuyển động trong khi các phân đoạn tiếp theo đang được xử lý ngầm. Đây là một giải pháp kỹ thuật thông minh nhằm biến một mô hình vốn chậm chạp trở nên khả dụng trong thực tế.
Bài toán dung lượng bộ nhớ và chiến lược cạnh tranh của Intel
Yếu tố thực sự khiến dự án này trở nên nổi bật không phải là thủ thuật phần mềm, mà là phần cứng bên dưới. Intel Arc Pro B70 là dòng card đồ họa chuyên dụng được trang bị 32GB bộ nhớ GDDR6, băng thông 608GB/s và hiệu suất suy luận INT8 đạt mức 367 TOPS. Với mức giá niêm yết ban đầu khoảng 949,99 USD, đây là một lựa chọn kinh tế hơn nhiều so với Nvidia RTX Pro 4000 (giá gần 1.800 USD nhưng ít bộ nhớ hơn) hay RTX Pro 6000 Blackwell (giá khoảng 13.250 USD). Intel không cố gắng chạy đua về tốc độ dựng hình với Nvidia; thay vào đó, họ tập trung vào việc cung cấp dung lượng VRAM lớn với chi phí thấp nhất có thể.
Thực tế, các thử nghiệm từ GIGAZINE cho thấy Arc Pro B70 mất từ 302 đến 351 giây để tạo một đoạn video 5 giây và tiêu tốn tới 28,3GB VRAM. Tốc độ này chậm hơn so với Nvidia RTX 5070 Ti trên cùng một khối lượng công việc, một khoảng cách được cho là do sự tối ưu hóa phần mềm của Nvidia tốt hơn chứ không phải do thiếu hụt tài nguyên phần cứng. Tuy nhiên, với 32GB VRAM, người dùng có thể chạy các mô hình lớn như Qwen 27B tại chỗ (locally) với tốc độ 23,4 token mỗi giây ở mức định lượng 4-bit. Đây là con số hoàn toàn khả thi cho các công cụ nội bộ của một đội ngũ nhỏ, dù nó không thể thắng trong các bài kiểm tra tốc độ so với các cụm máy chủ H100.
Việc Intel thúc đẩy OneAPI như một giải pháp thay thế mở cho CUDA cho thấy nỗ lực phá vỡ thế độc tôn của Nvidia. Mặc dù hệ thống trình điều khiển và hỗ trợ khung phần mềm của Intel vẫn còn đi sau CUDA và AMD ROCm, nhưng những người xây dựng hệ thống trên B70 đang chấp nhận sự thiếu hoàn thiện đó để đổi lấy dung lượng VRAM mà họ không thể tìm thấy ở bất kỳ đâu trong cùng tầm giá. Dự án avatar trên Reddit là minh chứng rõ nét cho sự đánh đổi này: khả năng thực thi thực tế được bao bọc trong những rào cản kỹ thuật, nhưng được gắn kết bởi những kỹ sư sẵn sàng tùy chỉnh hệ thống thay vì phụ thuộc hoàn toàn vào hệ sinh thái của Nvidia.
Dự án avatar thời gian thực này chứng minh rằng tốc độ không phải là rào cản duy nhất trong việc triển khai AI, mà dung lượng VRAM mới là yếu tố quyết định khả năng vận hành các mô hình phức tạp tại chỗ. Intel Arc Pro B70 đang mở ra một lộ trình mới cho các nhà phát triển: chấp nhận đầu tư thêm kỹ thuật để tối ưu hóa trên một phần cứng giá rẻ nhưng có bộ nhớ dồi dào. Nếu bạn đang xây dựng hạ tầng cho các công cụ AI nội bộ hoặc thử nghiệm các mô hình mã nguồn mở quy mô lớn, việc cân nhắc các dòng card có VRAM cao từ Intel thay vì chạy đua theo các dòng chip cao cấp của Nvidia có thể là một chiến lược tối ưu về chi phí để duy trì quyền kiểm soát dữ liệu và mô hình.
Liên hệ qua Zalo
