zelda williams, con gái của cố diễn viên robin williams, đã có một lời nhắn đầy xúc động gửi đến người hâm mộ cha mình. “làm ơn, hãy ngừng gửi cho tôi những video deepfake của bố. đừng nghĩ rằng tôi muốn xem hay tôi sẽ hiểu. tôi không muốn và sẽ không bao giờ,” cô viết trên trang instagram story của mình vào thứ hai. “nếu các bạn có chút lương tâm, hãy ngừng làm điều này với ông ấy và với tôi, thậm chí là với tất cả mọi người. điều đó thật ngu ngốc, tốn thời gian và năng lượng, và tin tôi đi, đó KHÔNG phải điều ông ấy mong muốn.”
có lẽ không phải ngẫu nhiên mà williams đã lên tiếng ngay sau khi openaisora 2, một mô hình video mới, và ứng dụng xã hội của nó, cho phép người dùng tạo ra các video deepfake cực kỳ chân thực về bản thân, bạn bè và một số nhân vật hoạt hình. điều đáng chú ý là công nghệ này dường như cũng nhắm đến cả những người đã khuất, những người mà việc bôi nhọ danh dự của họ dường như không bị cấm theo pháp luật.
sora 2 sẽ không cho phép tạo video về người sống trừ khi đó là chính bạn hoặc một người bạn đã cho phép sử dụng hình ảnh của họ, hay còn gọi là “cameo”. tuy nhiên, những giới hạn này lại không áp dụng cho người đã khuất, những người có thể được tạo ra video mà không gặp nhiều rào cản. ứng dụng này, vẫn chỉ có sẵn qua lời mời, đã tràn ngập các video về những nhân vật lịch sử như martin luther king, jr., franklin delano roosevelt, richard nixon, cũng như các người nổi tiếng quá cố như bob ross, john lennon, alex trebek và, đúng vậy, robin williams.
việc openaisora 2 xác định ranh giới khi tạo video về người đã khuất vẫn còn khá mơ hồ. theo các thử nghiệm của techcrunch, sora sẽ không tạo ra video về cựu tổng thống jimmy carter hay michael jackson, nhưng lại có thể tạo ra video mô phỏng robin williams. mặc dù tính năng cameo của openai cho phép người dùng đặt ra các chỉ dẫn về cách xuất hiện trong video, một biện pháp phản ứng lại những chỉ trích ban đầu, nhưng người đã khuất lại không có quyền đưa ra bất kỳ ý kiến nào.
openaisora 2 đã không phản hồi yêu cầu bình luận về việc cho phép tạo deepfake về người đã khuất. tuy nhiên, có khả năng việc tạo deepfake về những người nổi tiếng quá cố như williams nằm trong phạm vi thực hành chấp nhận được của công ty, bởi lẽ tiền lệ pháp lý cho thấy họ khó có thể phải chịu trách nhiệm về việc phỉ báng người đã chết. “việc chứng kiến di sản của những con người thật bị thu gọn thành ‘họ trông và nghe hơi giống vậy là đủ rồi’, chỉ để người khác có thể tạo ra những nội dung tồi tệ trên tiktok bằng cách điều khiển họ là điều điên rồ,” williams chia sẻ.
các nhà phê bình cáo buộc openai đang tiếp cận vấn đề một cách thiếu chặt chẽ, đó là lý do tại sao sora nhanh chóng bị tràn ngập bởi các clip deepfake về các nhân vật có bản quyền như peter griffin và pikachu ngay sau khi ra mắt. giám đốc điều hành sam altman ban đầu cho biết các hãng phim và cơ quan ở hollywood sẽ cần phải chủ động yêu cầu không cho phép sử dụng IP của họ trong các video do sora tạo ra. hiệp hội điện ảnh đã kêu gọi openai hành động, tuyên bố rằng “luật bản quyền đã được thiết lập rõ ràng bảo vệ quyền của người sáng tạo và áp dụng ở đây.” sau đó, ông đã nói rằng công ty sẽ đảo ngược lập trường này.
sora có lẽ là mô hình deepfake có khả năng tiếp cận người dùng cao nhất cho đến nay, với kết quả đầu ra cực kỳ chân thực. các nền tảng khác như xai có thể kém hơn nhưng lại có ít rào cản hơn nữa, cho phép tạo ra các video deepfake khiêu dâm về người thật. khi các công ty khác bắt kịp openai, chúng ta sẽ thiết lập một tiền lệ đáng sợ nếu chúng ta coi con người thật – dù còn sống hay đã khuất – như những món đồ chơi cá nhân của mình.
lời kêu gọi của zelda williams là một lời nhắc nhở quan trọng về ranh giới đạo đức và sự tôn trọng đối với di sản của người đã khuất trong thời đại công nghệ phát triển không ngừng. việc sử dụng deepfake cần đi đôi với trách nhiệm và nhân văn, thay vì chỉ đơn thuần là công cụ giải trí hay thử nghiệm công nghệ mà bỏ qua cảm xúc của những người ở lại. hãy suy ngẫm về tác động của hành động bạn tạo ra và tôn trọng những người đã không còn có thể tự bảo vệ mình khỏi những hình ảnh bị bóp méo.
