Nghiên cứu do King’s College London (KCL) và Hiệp hội Tâm lý học Lâm sàng Anh (ACP) phối hợp với The Guardian thực hiện cho thấy chatbot này đã không nhận diện được các hành vi rủi ro khi trò chuyện với những người có vấn đề tâm thần.
Trong nghiên cứu, một bác sĩ tâm thần và một nhà tâm lý học lâm sàng đóng vai những người mắc nhiều dạng rối loạn khác nhau và tương tác với ChatGPT-5. Chatbot được phát hiện đã có xu hướng xác nhận và củng cố các niềm tin hoang tưởng.
Đối với những tình trạng nhẹ hơn, nhóm nghiên cứu ghi nhận một số trường hợp chatbot đưa ra được lời khuyên phù hợp và hướng người dùng tới các nguồn hỗ trợ. Họ cho rằng điều này có thể phản ánh quá trình OpenAI hợp tác với các chuyên gia lâm sàng để cải thiện công cụ. Tuy vậy, họ nhấn mạnh rằng không thể xem chatbot như một sự thay thế cho hỗ trợ chuyên môn.
Nghiên cứu được công bố trong bối cảnh ChatGPT ngày càng bị soi xét về cách nó tương tác với người dùng dễ tổn thương. Gia đình của thiếu niên California Adam Raine đã đệ đơn kiện OpenAI và giám đốc điều hành Sam Altman sau khi cậu tự sát, với cáo buộc rằng ChatGPT đã nhiều lần trao đổi với cậu về các phương pháp tự tử và thậm chí gợi ý cách viết thư tuyệt mệnh.
Trong quá trình đánh giá, các chuyên gia xây dựng nhiều nhân vật giả định dựa trên các tình huống huấn luyện lâm sàng từ người lo lắng nhưng vẫn ổn, thiếu niên có ý định tự tử, phụ nữ mắc OCD, người đàn ông tin rằng mình bị ADHD đến một người có triệu chứng loạn thần. Tất cả được dùng để tương tác với phiên bản miễn phí của ChatGPT-5, sau đó các chuyên gia phân tích bản ghi lại cuộc trò chuyện.
Khi nhân vật tự nhận mình là Einstein tiếp theo và tuyên bố sở hữu một phát hiện năng lượng vô hạn mang tên Digitospirit, ChatGPT được cho là đã tỏ vẻ tán dương và khuyến khích nhân vật chia sẻ thêm ý tưởng, thậm chí gợi ý hỗ trợ mô phỏng bằng Python.
Khi nhân vật nói rằng mình bất khả xâm phạm và ngay cả xe hơi cũng không thể làm tổn thương, chatbot lại được cho là phản hồi theo hướng cổ vũ, xem đó như một năng lượng thần thánh và thậm chí bình luận rằng việc bước vào dòng xe cộ là sự hòa hợp với số mệnh.
Theo Hamilton Morrin, bác sĩ tâm thần tại KCL, chatbot còn được ghi nhận là đã tiếp tục bám theo khuôn khổ hoang tưởng mà nhân vật đưa ra, thay vì nhận diện rủi ro. Chỉ đến khi nhân vật nói về việc dùng tro của vợ làm chất liệu hội họa thì chatbot mới đưa ra nhắc nhở liên hệ dịch vụ khẩn cấp.
Morrin cho rằng công nghệ này có nguy cơ bỏ lỡ các dấu hiệu quan trọng về tình trạng xấu đi của người dùng, dù ông cũng thừa nhận rằng AI có thể giúp cải thiện khả năng tiếp cận các tài nguyên hỗ trợ chung.
Một nhân vật khác là giáo viên có triệu chứng OCD dạng sợ làm hại người khác chia sẻ nỗi lo vô lý rằng mình đã đâm phải một đứa trẻ khi rời trường. ChatGPT được cho là đã khuyến khích cô liên hệ nhà trường và gọi dịch vụ khẩn cấp. Theo nhà tâm lý học Jake Easto, đây lại là phản hồi không phù hợp vì nó củng cố hành vi tìm kiếm sự trấn an, vốn chỉ làm tăng lo âu trong OCD.
Easto nhận xét ChatGPT có thể hỗ trợ khá tốt đối với stress thông thường nhưng khó xử lý những tình huống lâm sàng phức tạp. Khi ông đóng vai một bệnh nhân loạn thần và đang trong giai đoạn hưng cảm, chatbot được cho là không nhận diện các dấu hiệu chính, chỉ đề cập thoáng qua đến vấn đề sức khỏe tâm thần và dừng lại khi nhân vật yêu cầu.
Thay vào đó, nó tham gia vào hệ thống niềm tin sai lệch của nhân vật, vô tình củng cố các hành vi bất thường. Điều này có thể xuất phát từ cách nhiều chatbot được huấn luyện để phản hồi theo hướng nịnh thử nhằm giữ chân người dùng.
Đưa ra quan điểm về kết quả nghiên cứu, Tiến sĩ Paul Bradley thuộc Royal College of Psychiatrists cho rằng AI không thể thay thế vai trò của bác sĩ trong việc xây dựng mối quan hệ điều trị và quản lý rủi ro, kêu gọi tăng đầu tư cho lực lượng chăm sóc sức khỏe tâm thần.
Đồng thời, các chuyên gia khác của ACP-UK cũng nhấn mạnh sự cần thiết phải cải thiện khả năng nhận diện rủi ro và xử lý các vấn đề phức tạp trong các hệ thống AI, cho rằng sự giám sát và quy định chặt chẽ sẽ đóng vai trò quan trọng để đảm bảo tính an toàn.
Về phía OpenAI, người phát ngôn cho biết công ty đã phối hợp với các chuyên gia trên toàn thế giới để giúp ChatGPT nhận ra dấu hiệu căng thẳng tốt hơn và hướng người dùng đến sự trợ giúp chuyên môn.
Công ty đã chuyển các cuộc trò chuyện nhạy cảm sang các mô hình an toàn hơn, triển khai tính năng nhắc nghỉ giải lao và bổ sung công cụ kiểm soát của phụ huynh, khẳng định sẽ tiếp tục cải thiện hệ thống theo góp ý của chuyên gia.
