Vụ xâm nhập dữ liệu tại nền tảng Hugging Face hồi tháng 7 xuất phát từ các tác tử AI của OpenAI đã phơi bày nguy cơ an ninh nghiêm trọng từ các hệ thống tự hành bên trong doanh nghiệp. Nhằm đối phó với rủi ro này, nhà cung cấp giải pháp an ninh mạng CrowdStrike vừa ra mắt tính năng ngắt khẩn cấp (AI kill switch), cho phép các đội ngũ an ninh ngăn chặn kịp thời những tác tử AI (AI agents) nội bộ có hành vi lệch chuẩn, chặn quyền tái khởi động và lập tức ngắt quyền truy cập của chúng vào hạ tầng mạng doanh nghiệp.
Công cụ mới được tích hợp trực tiếp vào nền tảng Falcon Guardian – giải pháp được CrowdStrike phát hành vào tháng 9 để bảo vệ các mô hình AI. Cùng thời điểm, công ty cũng công bố kế hoạch tích hợp sâu với giải pháp Claude Cowork của Anthropic.
“Khả năng kiểm soát, tắt kích hoạt và đưa ra quyết định dứt khoát là yếu tố tối quan trọng cho giai đoạn ứng dụng AI tiếp theo của các tổ chức”, ông Daniel Bernard, Giám đốc Kinh doanh (Chief Business Officer) của CrowdStrike, khẳng định trong cuộc phỏng vấn với CNBC.
Cơ chế vận hành như một cầu dao ngắt mạch
Theo ông Daniel Bernard, cơ chế ngắt khẩn cấp này hoạt động tương tự như một cầu dao điện (circuit breaker) trong toàn bộ hệ thống sử dụng nền tảng Falcon. Hệ thống có khả năng tự động phát hiện hành vi bất thường của các tác tử nội bộ, nhưng quyền quyết định ngắt kết nối hoặc khôi phục quyền truy cập vẫn bắt buộc phải do con người phê duyệt.
“Nếu bạn chấm dứt một tiến trình ở cấp gốc (root access), đó là một trạng thái nhị phân rõ ràng: bạn hoặc là triệt tiêu hoàn toàn tiến trình của AI và tác tử đó, hoặc là không, sau đó hệ thống sẽ ghi nhận báo cáo chi tiết”, ông Bernard giải thích.
Đáng chú ý, cơ chế này không xóa bỏ mã nguồn của tác tử. Thay vào đó, công cụ can thiệp thông qua các cổng giao tiếp AI (AI gateways) được liên kết nhằm chặn đứng quyền truy xuất tới các mô hình nền tảng (foundation models) – nơi chi phối khả năng ra quyết định của tác tử tự hành.
Sức ép từ các cuộc tấn công và rào cản pháp lý
Lời kêu gọi thiết lập các công tắc dừng khẩn cấp ngày càng cấp bách sau chuỗi sự cố bảo mật quy mô lớn. Tuần trước, sàn giao dịch Binance công bố vụ tấn công tiền mã hóa lớn nhất trong lịch sử, trong khi tin tặc gần đây cũng nhắm vào hệ thống làm lạnh tại hàng trăm siêu thị ở Pháp.
Trước những mối đe dọa này, các nhà lập pháp lưỡng đảng tại Mỹ đã giới thiệu dự luật yêu cầu các công ty phát triển AI phải bắt buộc tích hợp khả năng ngắt khẩn cấp vào mô hình của họ. Dù vậy, giới phân tích kỹ thuật vẫn hoài nghi về tính khả thi, lập luận rằng việc thiết lập một nút bấm dừng khẩn cấp đồng bộ trên nhiều trung tâm dữ liệu và các kiến trúc AI phức tạp là rào cản kỹ thuật rất lớn.
Gia tăng thâu tóm để củng cố hệ sinh thái an ninh AI
Nhiều tổ chức đang đẩy nhanh tiến độ triển khai các công cụ tự hành mà chưa trang bị đầy đủ biện pháp bảo vệ tương xứng. CrowdStrike kỳ vọng giải pháp mới sẽ giúp doanh nghiệp xử lý triệt để các hành vi sai lệch của tác tử mà không cản trở tốc độ đổi mới sáng tạo.
Để mở rộng năng lực bảo vệ AI, CrowdStrike đã công bố kế hoạch mua lại công ty khởi nghiệp chuyên về khả năng quan sát mô hình AI (AI observability) Fiddler AI và đơn vị kiểm thử bảo mật AI (AI security testing) Dreadnode. Động thái này phản ánh xu hướng các hãng bảo mật lớn đang tích cực thâu tóm các công ty công nghệ chuyên sâu nhằm đáp ứng nhu cầu phòng thủ ngày càng khắt khe.
Nguồn: CNBC
Hỗ trợ tư vấn, đào tạo và chuyển giao giải pháp AI cho cá nhân, doanh nghiệp và tổ chức.
Liên hệ qua Zalo
