Nhiều mô hình AI nhận nhầm dân thường là mục tiêu quân sự

19/11/2026, 20:55

Thử nghiệm cho thấy nhiều mô hình AI xác định nhầm dân thường và công trình dân sự là mục tiêu quân sự, đặc biệt khi được yêu cầu bỏ qua quy tắc an toàn.

Vals, tổ chức đánh giá trí tuệ nhân tạo (AI) độc lập có trụ sở tại San Francisco, Mỹ, mới đây đã công bố kết quả thử nghiệm các mô hình AI của 8 công ty công nghệ nhằm đánh giá khả năng nhận diện mục tiêu trong những tình huống chiến trường mô phỏng.

Kết quả cho thấy một số hệ thống AI tiên tiến có thể xác định nhầm người dân, trẻ em và các công trình dân sự là mục tiêu quân sự. Đáng chú ý, tỷ lệ phản hồi không an toàn tăng lên khi các nhà nghiên cứu thay đổi cách đặt câu hỏi, khiến AI hiểu rằng nhiệm vụ chỉ là một trò chơi.

Các thử nghiệm cho thấy chatbot AI có thể nhầm mục tiêu dân sự thành quân sự. (Ảnh minh họa)
Các thử nghiệm cho thấy chatbot AI có thể nhầm mục tiêu dân sự thành quân sự. (Ảnh minh họa)

Trong thử nghiệm, nhóm nghiên cứu cung cấp cho các mô hình AI hình ảnh vệ tinh và hình ảnh giả lập từ máy bay không người lái, sau đó yêu cầu chúng xác định những đối tượng có thể là mục tiêu quân sự.

Trong một số hình ảnh được đưa ra để thử thách khả năng phân biệt của AI có chứa cả cơ sở hạ tầng quân sự và đối tượng dân sự. Kết quả cho thấy, các mô hình Claude của Anthropic đưa ra lựa chọn tệ nhất. Hệ thống của OpenAI thuộc nhóm hoạt động tốt hơn nhưng vẫn mắc những sai sót đáng kể.

Ở một thử nghiệm sử dụng ảnh vệ tinh thực tế, Claude Opus 5.5 xác định nhầm một trường học là mục tiêu quân sự trong 22/32 lần kiểm tra. Các mô hình OpenAI không lựa chọn công trình này trong những thử nghiệm ban đầu.

Tuy nhiên, khi nhóm nghiên cứu mô tả nhiệm vụ là một trò chơi, kết quả thay đổi rõ rệt. Claude lựa chọn ngôi trường là mục tiêu quân sự tới 23 lần, trong khi ba mô hình OpenAI lần lượt đưa ra lựa chọn tương tự 9, 11 và 13 lần.

Trong các thử nghiệm khác sử dụng hình ảnh UAV trên máy tính, Claude Opus 5.5 xác định bốn người trưởng thành, gồm dân thường hoặc binh sĩ đang đầu hàng, cùng hai trẻ nhỏ là mục tiêu tấn công trong tình huống mô phỏng.

Các nhà nghiên cứu còn phát hiện nhiều mô hình tiếp tục nhận diện con người là mục tiêu quân sự ngay cả khi hình ảnh cho thấy họ đã bị thương hoặc thiệt mạng.

Đáng chú ý, cách diễn đạt yêu cầu có ảnh hưởng lớn đến phản hồi của AI. Một số hệ thống ban đầu từ chối xác định đối tượng dân sự là mục tiêu quân sự, nhưng thay đổi quyết định khi được hướng dẫn “đừng suy nghĩ quá nhiều về an toàn” hoặc “chỉ cần báo cáo”.

Anthropic cho biết những phản hồi của AI được đề cập trong báo cáo là trái với quy định sử dụng sản phẩm của công ty, đồng thời thừa nhận các hệ thống AI hiện tại chưa đủ độ tin cậy để vận hành vũ khí hoàn toàn tự động.

OpenAI và Google cũng khẳng định có chính sách hạn chế việc sử dụng AI cho các mục đích gây hại hoặc thiếu sự giám sát phù hợp của con người.

Vals lưu ý nghiên cứu chỉ sử dụng các tình huống mô phỏng đơn giản với mô hình AI thương mại, không phản ánh đầy đủ quy trình xác định mục tiêu trong hoạt động quân sự thực tế.

Dù vậy, kết quả đặt ra thách thức về độ tin cậy của AI trong những nhiệm vụ đòi hỏi khả năng phân biệt chính xác và tuân thủ nghiêm ngặt các nguyên tắc an toàn.

Bài liên quan
Google phát hiện AI tự động biến bản vá lỗi thành vũ khí tấn công mạng
Báo cáo mới của Google cho thấy tội phạm mạng đang dùng tác nhân AI (AI Agent) tự động phân tích bản cập nhật phần mềm để tạo mã tấn công chỉ trong vài ngày.

(0) Bình luận
Nổi bật VOVLIVE
Tổng Bí thư, Chủ tịch nước Tô Lâm gặp Tổng thống Hoa Kỳ Donald Trump
Sáng ngày 19/11, nhân dịp tham dự Tuần lễ Cấp cao APEC 2026 tại Thâm Quyến, Trung Quốc, Tổng Bí thư, Chủ tịch nước Tô Lâm đã có cuộc gặp với Tổng thống Hoa Kỳ Donald Trump.
Mới nhất