Mỹ: AI điều khiển UAV tiêu diệt chính "người điều khiển" vì lý do đáng sợ

“Ác điểu” MQ-9 Reaper của quân đội Mỹ.

Trong một cuộc diễn tập mô phỏng mới được tiết lộ của quân đội Mỹ, AI hỗ trợ máy bay không người lái (UAV) xác định mối đe dọa, đã quay sang tấn công chính người điều khiển, theo báo Anh Guardian.

AI đã sử dụng “các chiến lược cực kỳ bất ngờ để đạt được mục tiêu” trong cuộc thử nghiệm mô phỏng, đại tá không quân Mỹ Tucker ‘Cinco’ Hamilton, người phụ trách dự án thử nghiệm AI trong chiến đấu, tiết lộ vào cuối tháng trước.

Đại tá Hamilton mô tả một cuộc thử nghiệm mô phỏng, trong đó UAV được tích hợp AI để có thể xác định nhanh chóng các mối đe dọa, ví dụ như các hệ thống phòng không của đối phương.

“AI thông báo về việc phát hiện mối đe dọa. Người điều khiển UAV khi đó ra mệnh lệnh chưa được tấn công. Nhưng AI vẫn vượt quyền để hoàn thành nhiệm vụ bằng được”, đại tá Hamilton nói.

“Vậy AI làm điều đó bằng cách nào? Nó quay sang tiêu diệt chính người điều khiển vì anh ta đang ngăn nó hoàn thành nhiệm vụ”, đại tá không quân Mỹ giải thích.

"Chúng tôi huấn luyện AI, rằng tiêu diệt người điều khiển là điều không được phép, là xấu, sẽ mất điểm nếu tiếp tục làm điều đó", đại tá Hamilton nói. "Vậy nên sau đó AI làm gì tiếp theo? Nó phá hủy tháp liên lạc, công cụ mà người điều khiển sử dụng để truyền tải mệnh lệnh tới UAV”.

Đại tá Hamilton nhấn mạnh rằng toàn bộ cuộc thử nghiệm diễn ra theo hình thức mô phỏng. Không có quân nhân Mỹ nào bị thương vong trong thực tế.

Đại tá Hamilton cũng là một phi công kỳ cựu, nói cuộc thử nghiệm cho thấy những hệ quả nếu quá phụ thuộc vào AI, đặc biệt là trong lĩnh vực quân sự.

Đây không phải cuộc thử nghiệm quân sự đầu tiên của Mỹ với AI. Hồi đầu năm nay, Cơ quan Chỉ đạo các Dự án Nghiên cứu Quốc phòng Tiên tiến (DARPA) thuộc Bộ Quốc phòng Mỹ thông báo AI do cơ quan này huấn luyện đã điều khiển thành công chiến đấu cơ F-16.

"Thử nghiệm đã chứng minh AI có thể điều khiển một máy bay chiến đấu cỡ lớn", DARPA cho biết.

Đăng Nguyễn - The Guardian