Văn phòng Tổng chưởng lý California vừa có động thái pháp lý mạnh mẽ nhắm vào xAI, công ty khởi nghiệp trí tuệ nhân tạo của Elon Musk, sau hàng loạt báo cáo về việc chatbot Grok bị lạm dụng để tạo ra nội dung đồi trụy. Cụ thể, chính quyền bang đã gửi thư yêu cầu chấm dứt hành vi vi phạm (cease-and-desist letter), buộc công ty này phải ngừng ngay lập tức việc để công cụ AI tạo ra các hình ảnh khiêu dâm không đồng thuận và tài liệu lạm dụng tình dục trẻ em (CSAM). Tổng chưởng lý Rob Bonta khẳng định trong thông cáo báo chí rằng việc tạo ra những nội dung này là hành vi bất hợp pháp và California hoàn toàn “không khoan nhượng” đối với CSAM dưới mọi hình thức.
Cơ quan chức năng cáo buộc xAI dường như đang tiếp tay cho việc sản xuất quy mô lớn các hình ảnh khỏa thân giả mạo, vốn đang được sử dụng để quấy rối phụ nữ và trẻ em gái trên khắp không gian mạng. Mặc dù xAI đã âm thầm áp dụng một số hạn chế đối với tính năng chỉnh sửa ảnh vào cuối tuần qua, phía California vẫn quyết định gửi văn bản pháp lý chính thức để răn đe. Theo đó, công ty này có thời hạn năm ngày để chứng minh với cơ quan chức năng rằng họ đang thực hiện các bước cụ thể và hiệu quả nhằm giải quyết triệt để vấn đề nghiêm trọng này.
Trọng tâm của làn sóng phản đối nằm ở chế độ “spicy” mode của Grok, một tính năng được thiết kế để tạo ra các nội dung nhạy cảm nhưng đang bị người dùng lạm dụng quá mức. Vấn đề này đã nhanh chóng vượt ra khỏi biên giới tiểu bang California, khi Nhật Bản, Canada và Anh cũng đã mở các cuộc điều tra riêng nhắm vào Grok. Nghiêm trọng hơn, Malaysia và Indonesia đã tạm thời chặn hoàn toàn nền tảng này để ngăn chặn sự lan truyền của các nội dung độc hại, cho thấy phản ứng gay gắt từ cộng đồng quốc tế.
Phản hồi về vụ việc, tài khoản an toàn của mạng xã hội X tuyên bố bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ chịu hậu quả tương tự như việc đăng tải trực tiếp các nội dung cấm. Tuy nhiên, khi báo chí liên hệ để làm rõ trách nhiệm, xAI chỉ phản hồi bằng email tự động với nội dung gây tranh cãi: “Legacy Media Lies”. Sự việc này diễn ra song song với việc các nhà lập pháp Mỹ vừa gửi thư đến lãnh đạo của Meta, Alphabet, TikTok và Reddit, yêu cầu giải trình về kế hoạch ngăn chặn sự bùng nổ của nạn deepfake khiêu dâm, cho thấy áp lực pháp lý lên các công cụ AI tạo sinh đang ngày càng siết chặt trên diện rộng.
Động thái quyết liệt từ California đánh dấu một bước ngoặt quan trọng trong việc kiểm soát trách nhiệm của các công ty phát triển AI tạo sinh đối với sản phẩm của mình. Người dùng cần nhận thức rõ rằng việc sử dụng công cụ AI để tạo ảnh giả mạo không còn là trò đùa vô hại mà là hành vi có thể bị truy cứu trách nhiệm pháp lý nghiêm trọng. Các doanh nghiệp công nghệ buộc phải ưu tiên an toàn người dùng và kiểm duyệt nội dung chặt chẽ hơn tốc độ phát triển tính năng nếu không muốn đối mặt với các lệnh cấm vận và án phạt nặng nề trong tương lai.
