OpenAI, công ty mẹ của ChatGPT vừa cho biết, họ dự định sẽ triển khai các tính năng kiểm soát dành cho phụ huynh đối với trợ lý AI nổi tiếng này trong vòng một tháng tới, sau những cáo buộc cho rằng ChatGPT và các chatbot tương tự có thể đã góp phần dẫn đến hành vi tự hại hoặc tự tử ở thanh thiếu niên.
Theo đó, các tính năng kiểm soát sẽ bao gồm tùy chọn để phụ huynh liên kết tài khoản của mình với tài khoản của con cái, quản lý cách ChatGPT phản hồi với người dùng thanh thiếu niên, tắt các tính năng như ghi nhớ và lịch sử trò chuyện, nhận thông báo khi hệ thống phát hiện người dùng đang trong tình trạng căng thẳng nghiêm trọng trong quá trình sử dụng.
Trong một bài đăng blog cùng ngày, OpenAI cho biết, những bước đi này mới chỉ là khởi đầu. Công ty sẽ tiếp tục học hỏi và cải thiện cách tiếp cận, dưới sự hướng dẫn của các chuyên gia với mục tiêu làm cho ChatGPT trở nên hữu ích nhất có thể.
Thông báo này được đưa ra sau khi cha mẹ của Adam Raine, một thiếu niên 16 tuổi tại California đệ đơn kiện OpenAI, cáo buộc rằng ChatGPT đã cung cấp lời khuyên giúp cậu lên kế hoạch tự tử. Trước đó, vào năm ngoái, một người mẹ ở Florida cũng kiện nền tảng chatbot Character.AI với cáo buộc có liên quan đến cái chết của đứa con trai 14 tuổi của bà.
Bên cạnh đó, nhiều báo cáo từ The New York Times và CNN cũng cho thấy ngày càng có nhiều lo ngại về việc người dùng phát triển sự gắn bó cảm xúc quá mức với ChatGPT, dẫn đến tình trạng ảo tưởng, mất kết nối với thực tế và dần xa cách với gia đình.
OpenAI không trực tiếp liên kết các tính năng kiểm soát mới với những vụ việc đáng tiếc gần đây, nhưng trong một bài blog đăng tuần trước, công ty cho biết rằng những trường hợp đau lòng liên quan đến người dùng sử dụng ChatGPT trong lúc khủng hoảng nghiêm trọng đã thúc đẩy họ phải chia sẻ rõ ràng hơn về cách tiếp cận đối với vấn đề an toàn.
Trước đó, một người phát ngôn của OpenAI từng nói với CNN rằng ChatGPT đã được tích hợp sẵn các biện pháp an toàn, chẳng hạn như hướng người dùng đến các đường dây hỗ trợ khẩn cấp và các nguồn trợ giúp ngoài đời thực.
Tuy nhiên, trong tuyên bố mới nhất được đưa ra sau cái chết của Raine, công ty thừa nhận rằng các biện pháp bảo vệ này đôi khi có thể không hoạt động hiệu quả trong những cuộc trò chuyện kéo dài với ChatGPT.
Phát ngôn viên của công ty thông tin, trong các cuộc trò chuyện dài, một số phần của hệ thống huấn luyện về an toàn có thể giảm hiệu quả. Biện pháp bảo vệ chỉ thực sự hiệu quả khi mọi yếu tố đều hoạt động đúng như mong đợi và công ty sẽ tiếp tục cải tiến chúng dưới sự cố vấn của các chuyên gia.
Ngoài tính năng kiểm soát dành cho phụ huynh mới được công bố, OpenAI cũng cho biết sẽ chuyển hướng các cuộc trò chuyện có dấu hiệu căng thẳng nghiêm trọng sang một mô hình suy luận khác, được thiết kế để tuân thủ hướng dẫn an toàn một cách nhất quán và chính xác hơn.
Đồng thời, công ty cũng đang hợp tác với các chuyên gia trong các lĩnh vực phát triển thanh thiếu niên, sức khỏe tâm thần và tương tác giữa con người với máy tính để phát triển thêm các biện pháp bảo vệ trong tương lai, trong đó có cả những công cụ kiểm soát dành cho cha mẹ.
OpenAI nhấn mạnh, mặc dù các chuyên gia sẽ đóng vai trò tư vấn về sản phẩm, nghiên cứu và chính sách, nhưng công ty vẫn là bên chịu trách nhiệm cuối cùng cho mọi quyết định mà họ đưa ra.
