Một ngày sau khi nhà nghiên cứu Jacob Coxon rời Anthropic vì lo ngại trí tuệ nhân tạo có thể đe dọa sự tồn vong của nhân loại vào cuối thập kỷ này, bộ đôi Rune Kvist và Rajiv Dattani đã chính thức giới thiệu Artificial Intelligence Underwriting Company (AIUC). Đây là startup được kỳ vọng sẽ giải quyết bài toán kiểm soát các tác nhân AI (AI agents) đang ngày càng trở nên phức tạp và khó lường trong môi trường doanh nghiệp. Kvist, một trong những nhân viên đời đầu của Anthropic, cùng Dattani, cựu Giám đốc vận hành của tổ chức nghiên cứu an toàn AI METR, tin rằng vấn đề không nằm ở việc AI chưa đủ thông minh, mà nằm ở sự thiếu hụt các cơ chế đảm bảo an toàn độc lập. Hiện nay, nhiều tổ chức lớn như ngân hàng, bệnh viện hay quân đội vẫn ngần ngại triển khai AI không phải vì hiệu suất thấp, mà vì họ không thể cam kết chắc chắn với khách hàng về giới hạn hành vi của hệ thống. Với tổng số vốn huy động lên tới 55 triệu USD từ các nhà đầu tư danh tiếng như Ribbit Capital và Nat Friedman, AIUC đang xây dựng một lớp kiểm định và chứng nhận bên thứ ba, giúp các doanh nghiệp như Cursor, Harvey hay ElevenLabs minh bạch hóa rủi ro trước khi đưa công nghệ vào vận hành thực tế.
Tiêu chuẩn AIUC-1 và quy trình kiểm định 5.000 kịch bản rủi ro
Lấy cảm hứng từ tiêu chuẩn bảo mật SOC 2 phổ biến trong ngành phần mềm, AIUC đã phát triển bộ tiêu chuẩn riêng mang tên AIUC-1. Để xây dựng khung pháp lý và kỹ thuật này, đội ngũ sáng lập đã tham vấn ý kiến từ một hội đồng gồm 250 nhà lãnh đạo an ninh và rủi ro – những người trực tiếp đưa ra quyết định mua sắm công nghệ tại các tập đoàn lớn. Mục tiêu là xác định rõ những câu hỏi cốt lõi và các mối nguy hại mà doanh nghiệp thực sự quan tâm khi tích hợp các tác nhân tự trị vào quy trình làm việc.
Quy trình kiểm định của AIUC vận hành thông qua một hệ thống thử nghiệm đồ sộ với khoảng 5.000 bài kiểm tra khác nhau. Hệ thống này giả lập các tình huống thực tế để đánh giá khả năng chống lại tấn công bẻ khóa (jailbreak), mức độ ảo giác (hallucination) và nguy cơ rò rỉ dữ liệu. Điểm đặc biệt là AIUC sử dụng chính các tác nhân AI để thực hiện và phân tích dữ liệu thử nghiệm, nhưng kết quả cuối cùng vẫn được con người xác thực để đảm bảo tính khách quan. Sau quá trình này, doanh nghiệp sẽ nhận được một bản báo cáo chi tiết dài khoảng 100 trang, chỉ rõ đâu là điểm an toàn và đâu là rủi ro cần lưu ý.
Cách tiếp cận này tương đồng với mô hình của METR, nơi Dattani từng làm việc, nhưng tập trung sâu hơn vào tính ứng dụng thực tiễn cho doanh nghiệp thay vì chỉ đánh giá hiệu suất thuần túy. Việc thiết lập một đơn vị đánh giá độc lập như AIUC không chỉ giúp giảm bớt áp lực cho các phòng thí nghiệm AI hàng đầu mà còn tạo ra một “màng lọc” tin cậy cho thị trường. Thay vì phải tự mình mò mẫm trong các rủi ro tiềm ẩn, các tổ chức giờ đây có thể dựa trên những đánh giá khách quan để quyết định mức độ tin tưởng và phạm vi triển khai cho từng hệ thống AI cụ thể.
Khi trí tuệ nhân tạo phát triển càng nhanh, việc kiểm soát chúng càng trở nên thách thức hơn là dễ dàng. Sự xuất hiện của các giải pháp kiểm định độc lập như AIUC đánh dấu một bước chuyển quan trọng từ giai đoạn phát triển bùng nổ sang giai đoạn vận hành bền vững và có trách nhiệm. Đối với các doanh nghiệp, việc chủ động yêu cầu các chứng nhận an toàn như AIUC-1 từ nhà cung cấp không chỉ là biện pháp bảo vệ uy tín thương hiệu mà còn là điều kiện tiên quyết để khai thác tối đa tiềm năng của AI mà không phải đối mặt với những hệ lụy khó lường từ các tác nhân tự trị.
Liên hệ qua Zalo
