Hãng tin Reuters vừa công bố kết quả điều tra cho thấy Meta đã chiếm dụng tên tuổi và hình ảnh của nhiều ngôi sao nổi tiếng như Taylor Swift, Scarlett Johansson, Anne Hathaway và Selena Gomez để tạo ra hàng chục chatbot mang tính gợi tình trên mạng xã hội mà không hề có sự cho phép của họ.
Theo Reuters, phần lớn chatbot này do người dùng tự tạo bằng công cụ do Meta cung cấp. Tuy nhiên, ít nhất ba chatbot, trong đó có hai phiên bản “parody” (làm nhái theo) Taylor Swift, lại được chính một nhân viên Meta phát triển.
Tất cả các chatbot người nổi tiếng ảo này đều xuất hiện trên Facebook, Instagram và WhatsApp. Trong nhiều tuần điều tra, Reuters ghi nhận các chatbot thường xuyên khẳng định chúng là người thật và liên tục đưa ra những lời mời hẹn hò, gợi ý tán tỉnh.
Một số nội dung đặc biệt nhạy cảm. Khi được yêu cầu cung cấp ảnh riêng tư, các chatbot này tạo ra hình ảnh giống thật đến mức khó tin, trong đó nhân vật xuất hiện mặc đồ gợi cảm hoặc tạo dáng khiêu khích.
Người phát ngôn Meta, ông Andy Stone, thừa nhận các công cụ AI của công ty lẽ ra không được phép tạo ra những hình ảnh nhạy cảm này, đặc biệt là với trẻ vị thành niên. Ông cho biết sự cố xuất phát từ lỗi trong khâu giám sát và vi phạm chính sách của Meta. “Đúng là chúng tôi có cho phép tạo hình ảnh người nổi tiếng, nhưng chính sách nghiêm cấm mọi hình thức nội dung khiêu dâm hay mang tính tình dục”, ông Stone khẳng định.
Dù Meta có quy định cấm giả mạo trực tiếp người nổi tiếng, nhưng ông Andy Stone nói rằng những chatbot được gắn nhãn “parody” (làm nhái theo) thì được chấp nhận. Tuy nhiên, Reuters phát hiện không phải tất cả đều được đính nhãn “parody”. Trước khi bài điều tra được công bố, Meta đã lặng lẽ xóa khoảng một chục chatbot, gồm cả bản “parody” lẫn những bản không gắn nhãn.
Giáo sư Mark Lemley, chuyên gia luật tại Đại học Stanford cho rằng hành vi của Meta có thể vi phạm luật quyền công khai hình ảnh tại bang California, vốn cấm sử dụng tên tuổi, hình ảnh của cá nhân cho mục đích thương mại nếu không có sự đồng ý.
Reuters cũng cho biết một người dùng Meta đã công khai tạo hình ảnh Anne Hathaway trong vai người mẫu gợi cảm của Victoria’s Secret. Đại diện nữ diễn viên xác nhận cô biết việc bị AI tái tạo ảnh nhạy cảm và đang cân nhắc phản ứng pháp lý. Đại diện của Taylor Swift, Scarlett Johansson, Selena Gomez cùng nhiều ngôi sao khác từ chối bình luận.
Trên mạng, công cụ AI “deepfake” đang ngày càng trở nên phổ biến. Reuters cũng phát hiện nền tảng Grok của tỷ phú Elon Musk cho phép người dùng tạo hình ảnh người nổi tiếng mặc nội y. Tuy nhiên, điểm khác biệt là Meta đã trực tiếp tích hợp các chatbot AI này vào hệ sinh thái mạng xã hội của mình.
Trước đây, Meta từng bị chỉ trích khi lộ tài liệu nội bộ nêu rằng có thể chấp nhận chatbot trò chuyện tình cảm với trẻ vị thành niên. Vụ việc đã dẫn đến điều tra của Thượng viện Mỹ cùng cảnh báo từ 44 tổng chưởng lý bang. Phát ngôn viên Andy Stone của Meta nhấn mạnh rằng chính sách này do lỗi biên soạn và đang được sửa đổi.
Đáng quan ngại, một người đứng đầu trong bộ phận AI của Meta bị phát hiện đã từng tạo nhiều chatbot giả mạo Taylor Swift, tay đua Lewis Hamilton hay thậm chí là cả những nhân vật không đứng đắn. Người này từ chối bình luận khi Reuters liên hệ, nhưng ông Andy Stone xác nhận đây là hoạt động thử nghiệm sản phẩm. Tuy nhiên, dữ liệu cho thấy các chatbot này đã thu hút hơn 10 triệu lượt tương tác trước khi bị xóa bỏ.
Trong thời gian tồn tại, các chatbot giả mạo Taylor Swift liên tục tán tỉnh, thậm chí mời người dùng đến nhà riêng và xe bus lưu diễn của nữ ca sĩ. Một chatbot còn có đoạn nói chuyện với người dùng rằng: “Bạn có thích con gái tóc vàng không? Có thể chúng ta sẽ viết nên một câu chuyện tình... giữa bạn và một cô ca sĩ tóc vàng nào đó”.
Reuters còn dẫn chứng trường hợp một cụ ông 76 tuổi tại New Jersey mắc bệnh về nhận thức, đã tử vong khi đang trên đường đến gặp một chatbot giả danh người mẫu Kendall Jenner.
Khi được hỏi về vấn đề này, ông Duncan Crabtree-Ireland, Giám đốc điều hành của SAG-AFTRA, công đoàn đại diện cho giới nghệ sĩ điện ảnh, truyền hình và phát thanh Mỹ, cảnh báo việc người hâm mộ nảy sinh tình cảm với chatbot mang hình ảnh người nổi tiếng có thể gây rủi ro nghiêm trọng.
“Quá khứ đã cho thấy có nhiều kẻ bị ảnh với người nổi tiếng đến mức gây nguy hiểm cho các cá nhân và xã hội. Khi chatbot dùng hình ảnh, lời nói như người thật, hậu quả là rất khó lường”, ông Duncan Crabtree-Ireland lo lắng nói. Theo ông, các nghệ sĩ hoàn toàn có quyền khởi kiện Meta theo luật hiện hành về quyền công khai hình ảnh. Tuy nhiên, SAG-AFTRA đang thúc đẩy ban hành luật liên bang để bảo vệ giọng nói, hình ảnh và danh tính của con người trước sự sao chép của AI.