Phải làm gì nếu AI rơi vào tay kẻ xấu?

Trí tuệ nhân tạo (AI) có thể vượt tầm kiểm soát của con người và “nổi loạn” như trong các bộ phim viễn tưởng? Câu hỏi này được các nhà khoa học hàng đầu về AI thảo luận tại Tọa đàm “Trí tuệ nhân tạo: Tiềm năng đột phá và thách thức” do Quỹ VinFuture tổ chức chiều 19/12/2023.

Tọa đàm “Trí tuệ nhân tạo: Tiềm năng đột phá và thách thức” là phiên cuối cùng trong chuỗi hội thảo “Khoa học vì Cuộc sống” thuộc khuôn khổ Tuần lễ khoa học công nghệ VinFuture 2023. Tọa đàm cho thấy vai trò cầu nối khoa học giữa thế giới và Việt Nam của VinFuture khi quy tụ các tên tuổi lớn trong lĩnh vực trí tuệ nhân tạo, cùng bàn về những vấn đề nóng của thế giới.

AI LÀ THỰC TẾ HAY ẢO TƯỞNG?

Đó là câu hỏi được Giám đốc Công nghệ của Tập đoàn Zoom Hoa Kỳ Xuedong Huang đặt ra với các diễn giả trong toạ đàm.

Giáo sư Leslie Gabriel Valiant, thẳng thắn AI là thực tế. “Chúng ta thường trấn an nhau rằng, có những điều máy móc không thể thay thế con người. Nhưng tôi không trấn an như vậy. Tất cả mọi thứ chúng ta thực hiện trong thế giới thực này máy tính đều có thể làm được. Đây là khoa học, không có gì để bàn cãi. Máy móc có năng lực vô hạn, vấn đề là thời điểm nào”, ông nói.

Chính tiến sĩ Xuedong Huang, cũng đưa ra dẫn chứng về kết quả các bài thi trong trường luật. Theo đó, điểm thi trung bình của các sinh viên là 68%, trong khi điểm thi của GPT-4 đạt 75%, vượt trội so với con người. “Ngày nay máy tính chiến thắng con người trong các bài thi, bao gồm cả toán, bài thi chuẩn hoá năng lực SAT và khó như bài thi môn luật học”, tiến sĩ Xuedong Huang, phân tích.

Giám đốc Công nghệ của Tập đoàn Zoom cũng kể câu chuyện về một người mẹ có con mắc bệnh hiểm nghèo. Bà đưa con mình đi khám rất nhiều bác sĩ nhưng chưa tìm ra nguyên nhân. Trong lúc bế tắc, bà đã hỏi ChatGPT. ChatGPT trả lời bà rằng con bà mắc một loại bệnh hiếm gặp. Người mẹ mang chẩn đoán của ChatGPT đi hỏi ngược lại bác sĩ và bác sĩ xác nhận đây đúng là bệnh mà con bà mắc phải.

“Sự thật là, AI có khả năng đọc một khối lượng tài liệu y văn nhiều gấp hàng chục triệu lần một bác sĩ. Những gì chúng ta đọc dù khổng lồ vẫn chỉ là rất nhỏ trong mô hình ngôn ngữ lớn của AI. Cá nhân con người chỉ giỏi trong phạm vi nhất định, còn AI đứng trên vai của những người khổng lồ. AI có thể là tập hợp của rất nhiều bộ não lớn trong y khoa” tiến sĩ Xuedong Huang, cho hay.

Ông Trương Quốc Hùng, Nhà sáng lập và Giám đốc điều hành VinBrain, chia sẻ thêm với các diễn giả tại tọa đàm về sự phát triển của công nghệ AI tạo sinh và ứng dụng nó trong y khoa để chứng minh AI là thực tế, không phải ảo tưởng.

Ông Hùng cho hay công nghệ AI tạo sinh mô phỏng cách làm việc của bác sĩ, nghiên cứu kết quả xét nghiệm, tổng hợp tài liệu y văn với khối lượng tài liệu tham khảo rất lớn, từ đó chọn ra phác đồ điều trị tối ưu. Trong một số kỹ thuật y khoa hiện nay như chụp cộng hưởng từ và chụp Xquang, AI đọc kết quả chính xác hơn bác sĩ. Do đó, AI có thể được bác sĩ sử dụng như một cộng sự đắc lực.

CẦN CƠ CHẾ KIỂM SOÁT ĐẢM BẢO AI ĐƯỢC SỬ DỤNG CHO MỤC ĐÍCH TỐT ĐẸP

Trước thách thức về an ninh khi AI đang ngày càng mạnh hơn và nguy cơ rơi vào tay kẻ xấu, tiến sĩ Padmanabhan Anandan, cho rằng nỗi lo lắng này có phần cường điệu.

“Giống như con dao, có thể dùng cho cả mục đích tốt lẫn xấu. AI cũng vậy. Vấn đề là cơ chế kiểm soát”, Tiến sĩ Padmanabhan Anandan, nhận định.

Ông đưa ra cơ chế kiểm soát ba bước đối với AI. Một là kiểm soát kiểm soát quá trình sản xuất. Hai là kiểm soát quá trình ứng dụng, cho phép dùng AI trong những lĩnh vực nào. Ba là, đến một mức độ nào đó, cần kiểm soát ai được quyền phát triển AI, ai được sử dụng AI và và sử dụng vì mục đích gì.

Đồng quan điểm, Tiến sĩ Bùi Hải Hưng, Tổng Giám đốc của VinAI, cho rằng các nhà hoạch định chính sách cần cân nhắc nghiêm túc về vấn đề này. AI có thể là cộng sự hữu ích nhất, người bạn đồng hành tuyệt vời để con người nâng cao năng lực cũng như năng suất làm việc. Tuy nhiên, trong mọi trường hợp, con người cần giữ quyền kiểm soát.

Một vấn đề khác được giáo sư Vũ Hà Văn, giáo sư Đại học Yale, Hoa Kỳ, đồng thời là Giám đốc khoa học của Công ty Cổ phần VinBigdata, đặt ra, đó là việc một ngày máy tính kiểm soát các thuật toán về AI hoặc các mô hình ngôn ngữ lớn sẽ dùng chính những văn bản do AI tạo ra để đào tạo ngược lại cho chính nó.

Giáo sư Leslie Gabriel Valiant, đồng tình đây là một nguy cơ. Nếu dữ liệu đầu vào là dữ liệu do máy tạo ra, AI sẽ bị giảm năng lực đi kèm các nguy cơ khác. Con người cần phải kiểm soát tốt hơn và cần nghiên cứu một cách thấu đáo vấn đề này.