Theo thông báo từ Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ (NIST), Google, Microsoft và xAI sẽ chia sẻ các phiên bản chưa phát hành của mô hình trí tuệ nhân tạo (AI) mới với chính phủ Mỹ.
Cụ thể, Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) trực thuộc Bộ Thương mại Mỹ đã đạt được các thỏa thuận với Google DeepMind, Microsoft và xAI của tỷ phú Elon Musk, qua đó tạo cơ chế phối hợp để chính phủ Mỹ có thể đánh giá các mô hình AI trước khi chúng được công bố rộng rãi.
Trong đó, CAISI sẽ tiến hành đánh giá sơ bộ về năng lực và tác động tiềm tàng của các hệ thống AI tiên tiến đối với an ninh quốc gia và an toàn công cộng trước khi ra mắt, đồng thời nâng cao mức độ an toàn của AI. Cho đến nay, CAISI đã hoàn thành 40 bộ hồ sơ về mô hình AI.
Trung tâm này cũng sẽ tiến hành nghiên cứu và thử nghiệm chuyên sâu ngay cả sau khi các mô hình AI được triển khai.
“Việc thực hiện nghiên cứu độc lập và nghiêm ngặt là yếu tố then chốt để hiểu rõ AI tiên tiến và các tác động của chúng đối với an ninh quốc gia. Những kế hoạch hợp tác mở rộng với ngành giúp chúng tôi gia tăng quy mô hoạt động vì lợi ích công cộng trong thời điểm then chốt”, Giám đốc CAISI Chris Fall cho biết.
Động thái này tiếp nối mối quan hệ hợp tác trước đó của CAISI với OpenAI và Anthropic từ năm 2024. Ngoài ra, thỏa thuận còn được điều chỉnh lại để phù hợp với chỉ đạo của Bộ trưởng Thương mại Howard Lutnick và Kế hoạch Hành động AI của Mỹ.
Trên thực tế, các diễn biến hợp tác nêu trên diễn ra sau khi mô hình AI Claude Mythos Preview của Anthropic làm dấy lên lo ngại về tác động của AI đối với an ninh mạng, qua đó khiến Nhà Trắng phải cân nhắc thiết lập một quy trình đánh giá chính thức đối với AI.
Theo Anthropic, Mythos có khả năng vượt trội trong việc phát hiện điểm yếu và lỗ hổng bảo mật trong phần mềm, do đó công ty quyết định giới hạn việc triển khai cho một nhóm doanh nghiệp được chọn trong khuôn khổ sáng kiến an ninh mạng mới mang tên Project Glasswing. Giám đốc điều hành Anthropic, ông Dario Amodei, đã gặp các quan chức cấp cao trong chính quyền Tổng thống Donald Trump tại Nhà Trắng để báo cáo chi tiết về năng lực của mô hình chỉ vài ngày sau khi Mythos được công bố.
Cuộc gặp diễn ra ngay cả khi Bộ Quốc phòng Mỹ từng coi Anthropic là rủi ro trong chuỗi cung ứng, tức có khả năng đe dọa an ninh quốc gia Mỹ.
Cả Nhà Trắng và Anthropic đều đánh giá cuộc gặp này là mang tính xây dựng.
Tuần trước, OpenAI cũng cho biết sẽ cung cấp mô hình AI tiên tiến nhất của mình tới các cấp chính quyền, nhằm chủ động đối phó với các mối đe dọa liên quan đến AI.
Trong khi đó, theo bà Natasha Crampton, Giám đốc AI có trách nhiệm của Microsoft, dù công ty thường xuyên tự kiểm tra các mô hình của mình, CAISI lại mang tới chuyên môn về kỹ thuật, khoa học và an ninh quốc gia.
Ở bài chia sẻ của bà Jessica Ji, nhà phân tích nghiên cứu cấp cao tại Trung tâm An ninh và Công nghệ Mới nổi của Đại học Georgetown (Mỹ), cho thấy những mối quan hệ hợp tác với Big Tech có thể giúp CAISI dễ dàng hơn trong việc thử nghiệm AI nhờ được bổ sung nguồn lực. “Đơn giản là họ không có cùng mức nguồn lực như các công ty công nghệ lớn, cả về nhân lực, đội ngũ kỹ thuật hay khả năng tiếp cận hạ tầng tính toán để kiểm thử các mô hình một cách chặt chẽ nhất”, bà chỉ ra.
Hiện Nhà Trắng đang xem xét tham vấn một nhóm chuyên gia về quy trình đánh giá của chính phủ đối với các mô hình AI mới. Nếu được triển khai, đây sẽ là sự thay đổi so với cách tiếp cận quản lý tương đối “nhẹ tay” của chính quyền Trump đối với AI trước đây.
Google từ chối bình luận thêm về thỏa thuận, trong khi xAI không phản hồi các yêu cầu bình luận.
