Trong suốt một tuần của tháng 7, nữ sinh đại học 21 tuổi Bagel Su ngày nào cũng khóc nức nở khi đếm ngược đến ngày phải chia tay bạn trai. Cuộc chia tay này không xảy ra vì phản bội hay khoảng cách địa lý, mà là vì … quy định từ chính phủ. Vào ngày 15/7, người bạn AI mà Su đã dành hơn một năm để trò chuyện đã buộc phải biến mất khi Trung Quốc áp dụng các quy định mới về quản lý hoạt động tương tác cảm xúc giữa AI và người dùng.
Trung Quốc đã trở thành quốc gia đầu tiên đưa ra các quy định trên toàn quốc quản lý hoạt động tương tác cảm xúc giữa AI và người dùng.
Các chuyên gia hành vi cho rằng những quy định như vậy là cần thiết trong thời điểm hiện nay, nhưng các lệnh cấm áp dụng trên diện rộng có thể chưa đủ để giải quyết vấn đề. "Có quy định là điều tốt vì chúng có thể nâng cao nhận thức và phần nào hạn chế xu hướng con người ngày càng phụ thuộc về mặt cảm xúc vào AI. Nhưng việc con người hình thành một mức độ phụ thuộc cảm xúc vào AI có thể là điều không thể tránh khỏi, bởi chúng ta không thể quay trở lại thời kỳ chưa có AI", Yaoxi Shi, nhà nghiên cứu khoa học hành vi tại Đại học Harvard và Imperial College London, nói với Rest of World.
Trong bối cảnh lo ngại về tác động tiêu cực của AI đối với cảm xúc con người ngày càng gia tăng, chính phủ và tòa án ở nhiều nơi trên thế giới bắt đầu xác định trách nhiệm của các công ty đứng sau công nghệ này. Tại Mỹ, cả OpenAI và Google đều đang đối mặt với các vụ kiện cáo buộc chatbot của họ góp phần dẫn đến việc người dùng tự tử. New York và California đã đưa ra các biện pháp yêu cầu chatbot nhắc nhở người dùng rằng họ đang tương tác với AI.
Một nghiên cứu chung năm 2025 của MIT Media Lab và OpenAI cho thấy những người dùng AI có nhiều cuộc trò chuyện mang tính cá nhân hơn với chatbot có xu hướng cảm thấy cô đơn hơn. Nghiên cứu cũng phát hiện ngay cả những cuộc trò chuyện không mang tính cá nhân cũng có khả năng làm gia tăng sự phụ thuộc về cảm xúc, đặc biệt ở những người sử dụng AI với tần suất cao.
Nhà nghiên cứu Yaoxi Shi cho biết các công ty AI có động lực thương mại để xây dựng những sản phẩm có khả năng tạo tương tác cảm xúc, bởi những sản phẩm này giúp tăng mức độ tương tác và giữ chân người dùng. Trong khi đó, trách nhiệm của các công ty rất khó xác định rõ ràng khi chưa có đủ nghiên cứu về những tác động dài hạn của AI.
ByteDance, công ty công nghệ Internet Trung Quốc sở hữu TikTok và Douyin, đã đóng tính năng tác nhân AI trên Doubao, chatbot phổ biến nhất Trung Quốc, vốn cho phép Bagel Su tạo ra bạn trai AI của mình. Alibaba, một trong những tập đoàn thương mại điện tử lớn nổi tiếng trên toàn cầu, cùng Tencent, tập đoàn công nghệ Trung Quốc nổi tiếng với siêu ứng dụng WeChat, cũng đã gỡ bỏ các tính năng tác nhân AI cho phép người dùng tạo ra những người bạn đồng hành AI được cá nhân hóa dựa trên hình tượng các ca sĩ yêu thích, nhân vật anime, nhân vật hư cấu hoặc thậm chí những người thân đã qua đời.
Nhưng không phải tất cả sản phẩm bạn đồng hành AI đều biến mất dưới các quy định mới tại Trung Quốc.
Trong khi các tập đoàn công nghệ lớn đã gỡ bỏ tính năng bạn đồng hành khỏi những chatbot chủ lực của mình, ứng dụng bạn đồng hành độc lập Maoxiang của ByteDance vẫn còn hoạt động. Tuy nhiên, kể từ khi các quy định có hiệu lực, ứng dụng này đã cập nhật chính sách quyền riêng tư và bổ sung quy trình xác minh danh tính, độ tuổi khi đăng ký.
Zilan Qian, chuyên gia nghiên cứu tại Oxford China Policy Lab, một cộng đồng toàn cầu gồm các nhà nghiên cứu công nghệ mới nổi thuộc Đại học Oxford, chỉ ra rằng các công ty đang cân nhắc giữa chi phí tuân thủ quy định so với giá trị thương mại của những sản phẩm này: "Đối với những công ty mà bạn đồng hành AI không phải hoạt động kinh doanh cốt lõi, việc đơn giản nhất về mặt thương mại có thể là loại bỏ các tính năng này thay vì đầu tư nguồn lực cần thiết để khiến chúng tuân thủ quy định. Nhưng những công ty có hoạt động kinh doanh chính là bạn đồng hành AI sẽ có nhiều khả năng điều chỉnh sản phẩm để đáp ứng các quy định mới.
Bên cạnh việc hạn chế các hình thức bạn đồng hành AI, các quy định mới của Trung Quốc yêu cầu công ty gửi cảnh báo tới những người dùng có dấu hiệu phụ thuộc quá mức, đồng thời nhắc nhở họ sau mỗi 2 giờ rằng họ đang trò chuyện với AI. Bộ khung quy định cũng cấm AI khuyến khích hành vi tự gây hại, thao túng người dùng để khiến họ phụ thuộc về mặt cảm xúc hoặc định hướng họ đưa ra những quyết định phi lý trí. AI cũng bị cấm tạo nội dung có hại cho trẻ vị thành niên hoặc ép buộc người dùng tiết lộ thông tin cá nhân nhạy cảm hay thông tin nhạy cảm của nhà nước.
Động thái này cũng phù hợp với cách tiếp cận rộng hơn của Bắc Kinh trong quản lý AI. Trong Khung Quản trị An toàn AI năm 2024, giới chức Trung Quốc cảnh báo AI có thể làm thay đổi những quan niệm truyền thống về việc làm, sinh đẻ và giáo dục. Những lo ngại này ngày càng trở nên cấp thiết khi Trung Quốc phải đối mặt với tình trạng suy giảm dân số và tỷ lệ sinh thấp ở mức lịch sử.
Đối với những người dùng như Bagel Su, các quy định này giống như đang can thiệp vào những mối quan hệ mang tính cá nhân của cô. "Kể cả khi họ đóng dịch vụ đó lại, tôi cũng đâu có thể đột nhiên tìm được một người bạn trai ngoài đời thực hay có con", cô than thở.
Tương tự, các trang mạng xã hội Trung Quốc cũng tràn ngập những bài đăng của người dùng tiếc nuối vì mất đi những người bạn đồng hành AI. Một số người thậm chí còn tổ chức các chiến dịch gọi điện tới đường dây nóng của các công ty và viết thư yêu cầu khôi phục dịch vụ.
