YouTube vừa chính thức triển khai chương trình thử nghiệm công nghệ nhận diện hình ảnh mô phỏng cho một nhóm đối tượng đặc thù bao gồm các quan chức chính phủ, ứng cử viên chính trị và nhà báo. Công cụ này cho phép những người trong danh sách bảo vệ phát hiện các nội dung do trí tuệ nhân tạo (AI) tạo ra mà không có sự đồng ý của họ, từ đó gửi yêu cầu gỡ bỏ nếu nhận thấy nội dung đó vi phạm các chính sách về quyền riêng tư của nền tảng.
Hệ thống hoạt động dựa trên nguyên lý tương tự như Content ID – giải pháp quản lý bản quyền vốn đã rất thành công của YouTube. Thay vì quét mã định danh âm thanh hay hình ảnh thông thường, công nghệ mới tập trung vào việc phát hiện các khuôn mặt được mô phỏng bằng AI. Điều này nhằm ngăn chặn các chiến dịch thông tin sai lệch hoặc hành vi thao túng nhận thức công chúng thông qua việc khiến các nhân vật quan trọng nói hoặc làm những điều không có thật ngoài đời.
Mục tiêu cốt lõi của YouTube là bảo vệ tính toàn vẹn của các cuộc thảo luận công khai, đặc biệt là trong không gian dân sự nơi rủi ro giả mạo danh tính rất cao. Tuy nhiên, đại diện nền tảng nhấn mạnh rằng không phải mọi yêu cầu gỡ bỏ đều được thực hiện ngay lập tức. YouTube sẽ đánh giá kỹ lưỡng dựa trên các nguyên tắc về quyền riêng tư để phân biệt giữa hành vi giả mạo độc hại và các hình thức châm biếm, hài hước hoặc phê bình chính trị, vốn là những nội dung được bảo vệ bởi quyền tự do biểu đạt.
Để sử dụng công cụ, các cá nhân đủ điều kiện phải thực hiện quy trình xác minh danh tính nghiêm ngặt bằng cách tải lên ảnh chân dung tự chụp và giấy tờ tùy thân. Sau khi thiết lập hồ sơ, họ có thể theo dõi các kết quả trùng khớp và chủ động quản lý sự xuất hiện của mình trên nền tảng. Trong tương lai, YouTube dự kiến sẽ cho phép người dùng ngăn chặn tải lên các nội dung vi phạm ngay từ đầu hoặc thậm chí là kiếm tiền từ các video đó, tương tự như cách vận hành của hệ thống bản quyền hiện nay.
Bên cạnh việc cung cấp công cụ kỹ thuật, YouTube cũng áp dụng cơ chế gắn nhãn nội dung AI để tăng tính minh bạch cho người xem. Đối với các chủ đề nhạy cảm, nhãn cảnh báo sẽ được hiển thị nổi bật ngay phía trước video thay vì chỉ nằm trong phần mô tả. Động thái này nằm trong nỗ lực rộng lớn hơn của Google khi ủng hộ đạo luật NO FAKES, một dự luật nhằm quy định chặt chẽ việc sử dụng AI để tái tạo giọng nói và hình ảnh cá nhân trái phép ở cấp độ liên bang.
Hiện tại, số lượng video bị gỡ bỏ thông qua công nghệ này vẫn ở mức thấp do phần lớn nội dung AI hiện nay được đánh giá là vô hại hoặc mang tính giải trí. Tuy nhiên, YouTube kỳ vọng việc mở rộng đối tượng bảo vệ sang giới chính trị và báo chí sẽ tạo ra một lá chắn công nghệ vững chắc hơn. Nền tảng cũng đang lên kế hoạch mở rộng khả năng nhận diện sang cả giọng nói và các tài sản trí tuệ khác như các nhân vật hoạt hình nổi tiếng trong thời gian tới.
