Sẽ không còn những cuộc không chiến "công bằng"
Hai chiếc F-16 giao chiến với một chiếc F-16 khác ở độ cao 16.000 feet trên địa hình sa mạc đá. Khi các máy bay lao tới từ các hướng ngược nhau, những chiếc F-16 được ghép đôi bất ngờ tách ra xa nhau, buộc kẻ thù của chúng phải chọn một chiếc để đuổi theo. Chiếc F-16 còn lại sau đó nhanh chóng thay đổi hướng bay, cơ động phía sau kẻ thù với độ chính xác như sách giáo khoa. Vài giây sau, nó phóng một tên lửa tiêu diệt máy bay đối phương trước khi nó kịp phản ứng.
Trận chiến diễn ra trên một máy tính giả lập. Đây là điều khiến nó trở nên đặc biệt: Cả ba chiếc máy bay đều được điều khiển bằng các thuật toán trí tuệ nhân tạo. Các thuật toán đó đã học được cách phản ứng và thực hiện các thao tác trên không một phần thông qua kỹ thuật AI hiện đại liên quan đến việc thử nghiệm các cách tiếp cận khác nhau hàng nghìn lần và xem cách nào hoạt động tốt nhất.
Cuộc chiến ba bên mang lại viễn cảnh về cách AI có thể điều khiển các máy bay chiến đấu trong tương lai — và những thách thức có thể xảy ra khi triển khai công nghệ này.
Tháng 3/2020, Cơ quan Dự án Nghiên cứu Quốc phòng Tiên tiến (Darpa) đã mời các nhóm phát triển các hệ thống AI có khả năng điều khiển máy bay chiến đấu trong các tình huống không chiến vượt quá khả năng của con người, bao gồm cả các tình huống liên quan đến một số máy bay. AI có thể cho phép nhiều máy bay "tập hợp" lại với nhau theo những cách có thể thay đổi cán cân của các cuộc không chiến.
“Một trong những điều thực sự nổi bật là khả năng kích hoạt cái mà bạn gọi là chiến tranh bầy đàn — nhanh chóng áp đảo đối thủ,” Chris Gentile, một cựu phi công máy bay chiến đấu của Lực lượng Không quân, người quản lý chương trình tại EpiSci (một nhà thầu quân sự đang phát triển công nghệ chiến đấu, được gọi là Air Combat Evolution). Ông cho biết một ngày nào đó phi công có thể yêu cầu một chương trình AI quét một khu vực hoặc quan tâm đến một đối thủ trong khi phi công "để mắt" tới một đối thủ khác. Gentile nói rằng các hướng dẫn sẽ tương đương với “yểm trợ cho tôi”.
“Một trong những điều thực sự nổi bật là khả năng kích hoạt thứ mà bạn gọi là chiến tranh bầy đàn — nhanh chóng áp đảo đối thủ”.
CHRIS GENTILE, CỰU PHI CÔNG CHIẾN ĐẤU CƠ KHÔNG QUÂN VÀ QUẢN LÝ CHƯƠNG TRÌNH, EPISCI
AI đã thể hiện những khả năng đáng kinh ngạc khi "chiến đấu" trên bầu trời mô phỏng. Năm ngoái, một máy bay chiến đấu do AI điều khiển đã dễ dàng đánh bại một phi công trong một cuộc trình diễn ở Darpa. Chương trình đó được đào tạo bằng cách sử dụng một kỹ thuật AI tạo ra những đột phá trong trò chơi điện tử và người máy. Học tăng cường, như kỹ thuật đã biết, có thể huấn luyện máy móc làm các nhiệm vụ như chơi các trò chơi với kỹ năng siêu phàm. Quá trình học tập liên quan đến một mạng nơ-ron mô phỏng lớn, mài dũa hành vi của nó trong các phản hồi liên tục. EpiSci cũng đang sử dụng học tăng cường cho Air Combat Evolution.
Tuy nhiên, hoạt động của AI hiện đại đặt ra câu hỏi về mức độ khả thi của việc triển khai công nghệ này. Các phi công sẽ được yêu cầu đặt niềm tin và tính mạng của họ vào tay các thuật toán hoạt động theo những cách bí ẩn. Các học viên phi công chiến đấu thực sự dành hàng tháng để học các giao thức chính xác để bay và chiến đấu song song. Với một đội hình máy bay chiến đấu ở tốc độ cao, một lỗi nhỏ nhất hoặc thông tin sai có thể gây ra thảm họa.
Các nhà lãnh đạo quân sự nói rằng con người sẽ luôn tham gia vào các quyết định về việc sử dụng vũ lực chết người. Dan Javorsek, giám đốc chương trình Darpa chịu trách nhiệm về chương trình cho biết: “Hợp tác giữa Con người-AI là điều chắc chắn. Javorsek cho biết điều này một phần là do nguy cơ AI có thể thất bại, nhưng cũng vì các lý do "pháp lý, luân lý, đạo đức". Ông lưu ý rằng mặc dù các trận không chiến trên không cực kỳ hiếm, nhưng chúng cung cấp một đấu trường được hiểu rõ để đào tạo các chương trình AI để hợp tác với các phi công con người. Kế hoạch là thử nghiệm các thuật toán tốt nhất trên máy bay thực vào cuối năm 2023.
Nhưng Missy Cummings, giáo sư tại Đại học Duke và là cựu phi công máy bay chiến đấu, người nghiên cứu các hệ thống tự động, cho biết tốc độ đưa ra quyết định đối với máy bay phản lực di chuyển nhanh có nghĩa là bất kỳ hệ thống AI nào cũng sẽ tự chủ.
Video thử nghiệm mô phỏng của DARPA
Bà hoài nghi rằng AI tiên tiến thực sự cần thiết cho các trận không chiến, nơi máy bay có thể được hướng dẫn bởi một bộ quy tắc viết tay đơn giản hơn. Bà cũng cảnh giác với việc Lầu Năm Góc vội vàng áp dụng AI, cho rằng những sai sót có thể làm xói mòn niềm tin vào công nghệ này. Bà nói: “DOD càng tạo ra nhiều AI xấu, thì càng ít phi công hoặc bất kỳ ai liên kết với các hệ thống này sẽ tin tưởng chúng”.
Máy bay chiến đấu do AI điều khiển cuối cùng có thể thực hiện các phần của nhiệm vụ, chẳng hạn như khảo sát một khu vực một cách tự động. Hiện tại, các thuật toán của EpiSci đang học cách tuân theo các giao thức tương tự như phi công con người và bay như một thành viên khác của phi đội. Gentile đã thực hiện các chuyến bay thử nghiệm mô phỏng trong đó AI chịu mọi trách nhiệm về việc tránh va chạm giữa không trung.
“DOD càng tạo ra nhiều AI xấu, thì càng ít phi công hoặc bất kỳ ai liên kết với các hệ thống này sẽ tin tưởng chúng”.
MISSY CUMMINGS, GIÁO SƯ ĐẠI HỌC DUKE VÀ LÀ MỘT CỰU PHI CÔNG CHIẾN ĐẤU
Việc áp dụng AI trong quân đội dường như đang tăng tốc. Lầu Năm Góc tin rằng AI sẽ thể hiện tầm quan trọng đối với các cuộc chiến trong tương lai và đang thử nghiệm công nghệ này cho mọi thứ từ hậu cần và lập kế hoạch nhiệm vụ đến trinh sát và chiến đấu.
Trên thực tế, AI đã bắt đầu được triển khai trên một số máy bay. Vào tháng 12, Không quân Mỹ đã sử dụng một chương trình AI để điều khiển hệ thống radar trên máy bay do thám U-2. Mặc dù không gặp những thử thách như điều khiển máy bay chiến đấu, nhưng điều này thể hiện trách nhiệm sinh tử, vì hệ thống tên lửa đất đối không hoàn toàn có thể tân công.
Thuật toán được sử dụng, lấy cảm hứng từ công ty con DeepMind của Alphabet, đã học được qua hàng nghìn nhiệm vụ mô phỏng cách điều khiển radar để xác định các hệ thống tên lửa của đối phương trên mặt đất, một nhiệm vụ quan trọng đối với việc phòng thủ trong một nhiệm vụ thực tế.
Will Roper, người đã từ chức trợ lý Bộ trưởng Không quân vào tháng Giêng, nói rằng có thể theo dõi nhanh việc triển khai mã mới trên các khí tài quân sự cũ hơn. Ông nói: “Chúng tôi không cung cấp cho phi công các nút ghi đè bởi vì chúng tôi muốn nói rằng, 'Chúng tôi cần sẵn sàng hoạt động theo cách này, nơi AI thực sự kiểm soát sứ mệnh.
Nhưng Roper cũng nhấn mạnh điều quan trọng là phải đảm bảo các hệ thống này hoạt động bình thường và bản thân chúng không dễ bị tấn công. Ông nói: “Tôi lo lắng về việc chúng ta phụ thuộc quá nhiều vào AI.
DOD đã có thể có một số vấn đề tin cậy xung quanh việc sử dụng AI. Một báo cáo vào tháng trước từ Trung tâm An ninh và Công nghệ mới nổi của Đại học Georgetown cho thấy rằng rất ít hợp đồng quân sự liên quan đến AI đề cập đến việc thiết kế các hệ thống đáng tin cậy.
Margarita Konaev, một thành viên nghiên cứu tại trung tâm, cho biết Lầu Năm Góc dường như có ý thức về vấn đề này nhưng nó phức tạp, bởi vì những người khác nhau có xu hướng tin tưởng AI khác nhau.
Một phần của thách thức đến từ cách thức hoạt động của các thuật toán AI hiện đại. Với việc học tăng cường, một chương trình AI không tuân theo chương trình rõ ràng và đôi khi nó có thể học cách cư xử theo những cách không mong muốn.
Bo Ryu, Giám đốc điều hành của EpiSci, cho biết các thuật toán của công ty ông đang được thiết kế phù hợp với kế hoạch sử dụng AI của quân đội, với một người điều hành là con người chịu trách nhiệm triển khai lực lượng chết người và có thể kiểm soát bất cứ lúc nào. Công ty cũng đang phát triển một nền tảng phần mềm có tên Swarm Sense để cho phép các nhóm máy bay không người lái dân dụng lập bản đồ hoặc kiểm tra một khu vực một cách hợp tác.
Ông nói rằng hệ thống của EpiSci không chỉ dựa vào việc học củng cố mà còn có các quy tắc viết tay được tích hợp sẵn. “Các mạng lưới thần kinh chắc chắn có rất nhiều lợi ích và lợi ích, không còn nghi ngờ gì nữa,” Ryu nói. “Nhưng tôi nghĩ rằng bản chất của nghiên cứu của chúng tôi - giá trị - là tìm ra nơi bạn nên đặt và không nên đặt niềm tin.”
