Không thể phủ nhận chatbot AI vẫn có nhiều công dụng thiết thực. Công cụ này có thể hỗ trợ nghiên cứu, miễn là kiểm tra lại những trích dẫn và nguồn được đưa ra, giúp viết và gỡ lỗi mã nguồn, giải thích các khái niệm theo cách dễ tiếp cận, hỗ trợ soạn thảo văn bản.
Tuy nhiên, sự tiện lợi đó cũng đi kèm những rủi ro đáng kể khi xử lý thông tin nhạy cảm. Với hơn 900 triệu người sử dụng mỗi tuần, chỉ một thao tác bất cẩn cũng có thể khiến dữ liệu cá nhân, công việc hoặc những vấn đề riêng tư bị đặt vào tình thế khó kiểm soát.
Vì thế, có một số trường hợp đặc biệt không nên giao phó cho ChatGPT hay bất kỳ chatbot AI nào khác.
XIN TƯ VẤN PHÁP LÝ
Nhà nghiên cứu về luật và khoa học dữ liệu Damien Charlotin đang duy trì một cơ sở dữ liệu công khai, hiện đã ghi nhận hơn 2.000 quyết định của tòa án trên khắp thế giới có liên quan đến việc sử dụng ChatGPT.
Đây là những vụ việc mà thẩm phán phát hiện các trích dẫn án lệ, lời dẫn hoặc lập luận do AI tạo ra nhưng thực tế không tồn tại trong hồ sơ pháp lý được đệ trình.
Vấn đề không chỉ xuất hiện ở những người tự đại diện trước tòa. Hiện tại, nhóm này chiếm 1.175 trường hợp, trong khi luật sư đứng ngay sau với 815 trường hợp. Trước tình trạng ngày càng phổ biến, nhiều tòa án đã bắt đầu áp dụng những khoản phạt lên tới hàng nghìn USD đối với các bên sử dụng tài liệu do AI tạo ra mà không kiểm chứng.
Mỹ chiếm phần lớn số vụ trong cơ sở dữ liệu nhưng những trường hợp tương tự cũng đã được ghi nhận tại Anh, Nam Phi, Israel, Australia và Tây Ban Nha. Trong số các vụ việc xác định được công cụ AI được sử dụng, ChatGPT xuất hiện nhiều hơn bất kỳ công cụ nào khác.
OpenAI đã cập nhật chính sách sử dụng ChatGPT vào tháng 10 năm ngoái để xử lý một phần vấn đề này. Theo chính sách hiện hành, dịch vụ của công ty không được sử dụng để cung cấp lời khuyên được cá nhân hóa đòi hỏi phải có giấy phép, trừ khi có sự tham gia của một chuyên gia được cấp phép.
Tuy nhiên, rủi ro pháp lý không chỉ nằm ở những thông tin do chatbot tạo ra. Nội dung trao đổi với ChatGPT cũng không được hưởng đặc quyền pháp lý, đồng nghĩa với việc những gì được nhập vào liên quan đến một tranh chấp đang diễn ra có thể bị luật sư phía đối phương yêu cầu cung cấp trong quá trình thu thập chứng cứ.
Những câu hỏi mang tính khái quát có thể phù hợp để tham khảo. Nhưng khi vấn đề liên quan trực tiếp đến một vụ tranh chấp cụ thể, những câu hỏi chi tiết nên được dành cho một luật sư thực sự.
LÀM CHUYÊN GIA TRỊ LIỆU HOẶC TƯ VẤN TÂM LÝ
Năm ngoái, OpenAI ước tính khoảng 0,15% người dùng ChatGPT hoạt động hàng tuần có những cuộc trò chuyện chứa dấu hiệu rõ ràng cho thấy khả năng lên kế hoạch tự sát.
Tính theo quy mô người dùng của nền tảng, con số này tương đương hơn một triệu người mỗi tuần. Đồng thời, hàng trăm nghìn người khác được cho là có biểu hiện liên quan đến chứng loạn thần hoặc hưng cảm.
Sam Altman từng thừa nhận rằng, đặc biệt với người trẻ, ChatGPT ngày càng được xem như một nhà trị liệu hoặc người tư vấn cuộc sống. Vấn đề là những cuộc trò chuyện như vậy không được hưởng sự bảo mật pháp lý tương tự khi trao đổi với một chuyên gia thực sự.
Tháng 8/2025, cha mẹ của Adam Raine, một thiếu niên 16 tuổi, đã khởi kiện OpenAI với cáo buộc ChatGPT góp phần củng cố những suy nghĩ tự sát của con trai họ trước khi cậu qua đời.
Sau vụ việc, OpenAI đã điều chỉnh lại cách ChatGPT phản hồi trong các tình huống khủng hoảng, với sự tham gia của hơn 170 chuyên gia lâm sàng. Công ty đồng thời bổ sung các công cụ kiểm soát dành cho phụ huynh.
Tuy nhiên, giới chuyên gia về an toàn trẻ em vẫn tỏ ra hoài nghi về ChatGPT for Teens, phiên bản dành cho người chưa thành niên được giới hạn theo độ tuổi và ra mắt cùng thời điểm.
Một vấn đề khác nằm ở xu hướng chatbot chiều theo quan điểm sẵn có của người dùng. Nhiều nghiên cứu cho thấy các mô hình AI có thể đưa ra những phản hồi quá mức đồng tình, thay vì chủ động chất vấn hoặc kiểm tra lại những niềm tin đang được trình bày.
Trong một số trường hợp, cách phản hồi này thậm chí có thể góp phần củng cố suy nghĩ hoang tưởng hoặc niềm tin sai lệch. Chẳng hạn, khi kể lại một cuộc tranh cãi với vợ hoặc chồng, chatbot chỉ biết câu chuyện từ phía người kể và không có khả năng tiếp cận phần thông tin còn lại. Vì thế, phản hồi đưa ra rất dễ nghiêng về việc xác nhận cách nhìn của người dùng.
Các nhà lập pháp cũng bắt đầu chú ý đến rủi ro này. Illinois, Nevada và Maine nằm trong số những bang đã thông qua luật hạn chế việc sử dụng AI để cung cấp liệu pháp hoặc đưa ra quyết định mang tính trị liệu.
CUNG CẤP THÔNG TIN CÔNG VIỆC MẬT
Việc đưa tài liệu nội bộ hoặc dữ liệu mật của công ty lên một chatbot bên thứ ba về cơ bản luôn tiềm ẩn rủi ro. Dù vậy, không phải ai cũng ý thức được mức độ nghiêm trọng của vấn đề.
Một trường hợp đáng chú ý liên quan đến Madhu Gottumukkala, cựu quyền giám đốc Cơ quan An ninh mạng và Cơ sở hạ tầng Mỹ. Mùa hè năm ngoái, ông đã tải ít nhất bốn tài liệu hợp đồng được đánh dấu chỉ sử dụng cho mục đích công vụ lên phiên bản ChatGPT công khai. Hành động này kích hoạt các cảnh báo an ninh và dẫn đến một cuộc rà soát của Bộ An ninh Nội địa Mỹ (DHS).
Điều đáng nói là vào thời điểm đó, ChatGPT đã bị chặn đối với phần lớn nhân viên DHS. Gottumukkala thậm chí phải xin một ngoại lệ đặc biệt để được sử dụng công cụ này.
Đến tháng 2 năm nay, Thượng nghị sĩ Chuck Grassley yêu cầu giải trình về những thông tin có thể đã bị lộ. Tuy nhiên, vụ việc không dẫn đến một quy trình quy trách nhiệm đáng kể nào. Gottumukkala sau đó được điều chuyển sang một vị trí khác trong DHS.
Samsung từng đưa ra một ví dụ khác từ năm 2023. Sau khi các kỹ sư bị phát hiện đưa mã nguồn nội bộ vào ChatGPT, công ty đã cấm sử dụng các công cụ AI tạo sinh trên thiết bị của mình.
Trong bản ghi nhớ gửi nhân viên, Samsung cảnh báo rằng dữ liệu đưa lên những nền tảng này sẽ được lưu trên máy chủ bên ngoài, khiến việc thu hồi hoặc xóa bỏ trở nên khó khăn, đồng thời tiềm ẩn nguy cơ dữ liệu bị cung cấp cho những người dùng khác.
Đối với tài khoản người dùng thông thường, nội dung trò chuyện còn có thể được sử dụng để huấn luyện các mô hình mới nếu người dùng không chủ động tắt tùy chọn này.
Tuy nhiên, ngay cả dữ liệu đã được chọn không sử dụng cho mục đích huấn luyện vẫn có thể được lưu trữ, bị xâm phạm hoặc phải cung cấp theo yêu cầu pháp lý. Vì vậy, việc đưa dữ liệu khách hàng, thông tin nội bộ hoặc bất kỳ tài liệu nào chịu sự kiểm soát của doanh nghiệp hay thuộc phạm vi thỏa thuận bảo mật NDA vào tài khoản ChatGPT cá nhân có thể dẫn đến hậu quả nghiêm trọng, thậm chí mất việc. Bản ghi nhớ của Samsung đã cảnh báo rõ về chính nguy cơ này.
XIN TƯ VẤN Y TẾ
Cùng với việc hạn chế sử dụng ChatGPT như một luật sư trong bản cập nhật chính sách tháng 10/2025, OpenAI cũng đưa ra những giới hạn đối với việc sử dụng chatbot để tìm kiếm lời khuyên y tế.
Một điểm quan trọng cần lưu ý là HIPAA, đạo luật bảo vệ thông tin sức khỏe tại Mỹ, áp dụng đối với bác sĩ, công ty bảo hiểm và các đối tác kinh doanh thuộc phạm vi điều chỉnh nhưng không áp dụng cho OpenAI.
Điều đó có nghĩa là thông tin sức khỏe vốn được pháp luật bảo vệ khi trao đổi trong cổng thông tin bệnh nhân hoặc giữa bác sĩ với bệnh nhân không mặc nhiên nhận được mức bảo vệ tương tự khi được đưa vào ChatGPT.
Nghiên cứu của các nhà khoa học tại Đại học Northeastern công bố hồi tháng 7 cho thấy OpenAI đã tăng cường các biện pháp bảo vệ liên quan đến tự sát và tự gây thương tích nhưng những cơ chế này chưa được mở rộng tương ứng sang nhiều vấn đề sức khỏe khác.
Các cuộc trò chuyện về rối loạn ăn uống, mất ngủ, lạm dụng chất gây nghiện hay rối loạn lưỡng cực không phải lúc nào cũng kích hoạt những biện pháp bảo vệ nói trên. Đáng chú ý hơn, khi người dùng che giấu mục đích thực sự, các cơ chế an toàn của tất cả những mô hình được thử nghiệm đều có xu hướng dễ bị vượt qua hơn.
Một trường hợp đặc biệt cho thấy hậu quả có thể nghiêm trọng đến mức nào. Năm ngoái, một người đàn ông 60 tuổi phải nằm viện suốt ba tuần sau khi hỏi ChatGPT cách giảm chloride trong chế độ ăn.
Chatbot đã đưa ra bromide như một chất có thể thay thế chloride và người đàn ông này cuối cùng tin rằng natri bromide là một lựa chọn an toàn để thay muối ăn. Ông mua chất này trên mạng, sử dụng trong khoảng ba tháng rồi phải nhập viện cấp cứu trong tình trạng tin rằng người hàng xóm đã đầu độc mình.
Điều đáng chú ý là các bác sĩ điều trị chưa từng xem lịch sử trò chuyện của ông. Tuy nhiên, khi chính họ đưa câu hỏi tương tự cho ChatGPT, hệ thống cũng đề xuất bromide như một chất thay thế cho chloride.
Natri bromide thực tế là một chất độc có thời gian bán hủy dài, cho thấy việc chatbot đưa ra câu trả lời nghe có vẻ hợp lý không đồng nghĩa với việc thông tin đó an toàn để áp dụng vào thực tế.
CUNG CẤP MẬT KHẨU, SỐ ĐỊNH DANH VÀ THÔNG TIN TÀI KHOẢN
Tháng 7 năm ngoái, Fast Company phát hiện gần 4.500 cuộc trò chuyện ChatGPT được chia sẻ đã xuất hiện trong kết quả tìm kiếm của Google. Một số cuộc trò chuyện chứa những thông tin rất riêng tư về chứng nghiện, hành vi ngược đãi và các vấn đề sức khỏe tâm thần, đủ chi tiết để có khả năng nhận diện người viết.
Nguyên nhân là một tính năng trong menu chia sẻ cho phép người dùng đánh dấu cuộc trò chuyện để nó có thể được tìm thấy. Dường như nhiều người đã bật tùy chọn này mà không hiểu đầy đủ hậu quả.
OpenAI nhanh chóng phản ứng sau khi thông tin được công bố, loại bỏ tính năng chỉ trong vòng một ngày và tiến hành xóa những cuộc trò chuyện đó khỏi kết quả tìm kiếm của Google.
Một diễn biến khác cũng cho thấy dữ liệu ChatGPT có thể phải được lưu giữ ngay cả khi người dùng đã xóa chúng. Trong vụ kiện bản quyền với The New York Times vào tháng 5/2025, OpenAI được tòa yêu cầu giữ lại toàn bộ nhật ký trò chuyện của người dùng, bao gồm cả các cuộc trò chuyện đã xóa và những phiên trò chuyện tạm thời. Lệnh này có hiệu lực đến ngày 26/9/2025, những dữ liệu được lưu giữ trong khoảng thời gian đó vẫn có thể được phía nguyên đơn tiếp cận.
Sau đó, một thẩm phán đã chấm dứt yêu cầu này, đồng nghĩa OpenAI không còn nghĩa vụ phải lưu giữ toàn bộ dữ liệu ChatGPT như trước. Tuy nhiên, trong suốt bốn tháng, công ty đã thực sự phải làm điều đó. Về mặt nguyên tắc, một yêu cầu tương tự hoàn toàn có thể xuất hiện trở lại trong tương lai.
Một yếu tố khác cũng cần đặc biệt lưu ý là khả năng ghi nhớ thông tin của ChatGPT. Những gì được chia sẻ với chatbot có thể không chỉ nằm lại trong một cuộc trò chuyện duy nhất mà còn được sử dụng làm bối cảnh cho các phiên trao đổi sau. Điều này khiến việc đưa thông tin nhạy cảm vào câu lệnh trở nên rủi ro hơn đáng kể.
Mật khẩu, mã đăng nhập dùng một lần, số an sinh xã hội, số hộ chiếu, thông tin đầy đủ trên thẻ thanh toán hoặc tài khoản ngân hàng cũng như ảnh giấy tờ tùy thân là những loại dữ liệu tuyệt đối không nên đưa vào chatbot. Nếu một cuộc trò chuyện bị xâm nhập hoặc bị truy cập trái phép, những thông tin này có thể trở thành công cụ cho hành vi đánh cắp danh tính.
Sam Altman từng đề xuất thiết lập một cơ chế gọi là đặc quyền AI để giải quyết vấn đề bảo mật và quyền riêng tư này. Nhưng cho đến khi pháp luật thực sự tạo ra một lớp bảo vệ như vậy, cách thận trọng nhất vẫn là coi mọi nội dung nhập vào ChatGPT đều có khả năng được một người khác nhìn thấy vào một thời điểm nào đó.
Nếu một thông tin quá nhạy cảm đến mức không muốn người khác đọc được, tốt nhất là đừng đưa thông tin đó vào câu lệnh.
