YouTube vừa công bố triển khai chính thức công nghệ phát hiện nội dung AI giả mạo hình ảnh cho các nhà sáng tạo đủ điều kiện tham gia Chương trình Đối tác YouTube (YouTube Partner Program), sau giai đoạn thử nghiệm. Công nghệ này cho phép người sáng tạo yêu cầu gỡ bỏ nội dung do AI tạo ra sử dụng hình ảnh hoặc giọng nói của họ mà không có sự cho phép.
Đây là đợt triển khai đầu tiên, với các nhà sáng tạo đủ điều kiện đã nhận được thông báo qua email. Công nghệ của YouTube có khả năng nhận diện và quản lý các nội dung được tạo bởi AI có sử dụng hình ảnh chân thực của người sáng tạo, bao gồm khuôn mặt và giọng nói.
Mục tiêu chính của công cụ này là ngăn chặn việc lạm dụng hình ảnh cá nhân, ví dụ như sử dụng để quảng bá sản phẩm, dịch vụ mà người sáng tạo chưa đồng ý, hoặc để lan truyền thông tin sai lệch. Những trường hợp như công ty Elecrow sử dụng giọng nói AI của YouTuber Jeff Geerling để quảng bá sản phẩm là minh chứng cho sự cần thiết của công nghệ này.
Để bắt đầu quy trình đăng ký, các nhà sáng tạo cần truy cập mục “Likeness” (Hình ảnh cá nhân), đồng ý với việc xử lý dữ liệu và sử dụng điện thoại thông minh để quét mã QR hiển thị trên màn hình. Mã này sẽ dẫn đến một trang web để xác minh danh tính, yêu cầu giấy tờ tùy thân và một đoạn video selfie ngắn.
Sau khi YouTube cấp quyền sử dụng công cụ, nhà sáng tạo có thể xem tất cả các video bị phát hiện và gửi yêu cầu gỡ bỏ theo nguyên tắc bảo mật của YouTube, hoặc có thể đưa ra yêu cầu về bản quyền. Một tùy chọn khác là lưu trữ video vi phạm.
Các nhà sáng tạo hoàn toàn có thể hủy đăng ký sử dụng công nghệ bất cứ lúc nào, và YouTube sẽ ngừng quét các video liên quan trong vòng 24 giờ sau khi nhận được yêu cầu. Công nghệ phát hiện hình ảnh cá nhân đã được thử nghiệm từ đầu năm nay, sau khi YouTube công bố hợp tác với Creative Artists Agency (CAA) để hỗ trợ người nổi tiếng, vận động viên và nhà sáng tạo xác định nội dung sử dụng hình ảnh AI của họ.
Vào tháng 4, YouTube cũng đã bày tỏ sự ủng hộ đối với dự luật NO FAKES Act, nhằm giải quyết vấn đề các bản sao AI bắt chước hình ảnh hoặc giọng nói của một người để lừa dối và tạo ra nội dung gây hại.
Việc YouTube chủ động ra mắt công nghệ phát hiện nội dung AI giả mạo hình ảnh là một bước đi quan trọng, thể hiện cam kết bảo vệ quyền lợi của người sáng tạo và duy trì một môi trường trực tuyến an toàn, minh bạch hơn. Các nhà sáng tạo nên chủ động tìm hiểu và đăng ký sử dụng công cụ này để bảo vệ bản quyền và uy tín cá nhân trước những nguy cơ tiềm ẩn từ công nghệ AI ngày càng phát triển.
