Với lần đầu tiên được sử dụng trên chiến trường, máy bay không người lái hỗ trợ AI – robot chiến đấu hiện đang là một vấn đề ngày càng nghiêm trọng mà thế giới phải đối mặt.
Chủ đề về robot chiến đấu tự động được nhiều nhà công nghệ, chính trị gia và các nhà hoạt động nhân quyền quan tâm. Thật vậy, trang tư vấn của Financial Times dành cho những người viết quan điểm sẽ phàn nàn rằng, trong phần chào hàng của họ, “rất nhiều người quay các kịch bản về ngày tận thế về robot”. Nhưng bây giờ những robot này đang ở trên chiến trường – và chúng ta cần phải làm gì đó với nó.
Một báo cáo của Liên Hợp Quốc về cuộc xung đột ở Libya đã tiết lộ rằng, lần đầu tiên con người bị “săn lùng” và có lẽ bị giết bởi “các hệ thống vũ khí tự động gây chết người như STM Kargu-2”, được lập trình để tấn công các mục tiêu mà không có sự điều khiển của con người. Kargu-2 là một chiếc quadcopter cỡ tấm được trang bị camera, AI tích hợp trên bo mạch và một đầu đạn nặng khoảng 1kg, đủ để giết một căn phòng đầy người.
Trong khi đó, vào đầu tháng 6, một tờ báo của Israel đã đưa tin rằng Lực lượng Phòng vệ Israel đã bắt đầu sử dụng các máy bay không người lái do AI điều khiển, hay robot chiến đấu để tấn công các mục tiêu ở Gaza trong cuộc xung đột gần đây ở đó.
Nhiều người nhận thấy ý tưởng về việc robot săn bắn và giết con người là không thể chấp nhận được. António Guterres, tổng thư ký Liên hợp quốc, đã nhận xét rằng “những cỗ máy có sức mạnh và sự tùy ý lấy mạng người mà không có sự tham gia của con người là không thể chấp nhận được về mặt chính trị, đáng ghê tởm về mặt đạo đức và cần bị luật pháp quốc tế cấm”. Ủy ban Chữ thập đỏ Quốc tế đã tuyên bố rằng “việc sử dụng các hệ thống vũ khí tự động nhằm vào con người nên bị loại trừ”.
Những loại vũ khí như vậy cũng hạ thấp ngưỡng chiến tranh, thúc đẩy bất ổn chiến lược, dễ bị xâm nhập mạng và có nguy cơ leo thang ngẫu nhiên khi báo động sai chuyển thành đòn trả đũa tức thời.
Nhưng lý do chính tại sao các quốc gia nên cấm vũ khí tự trị gây chết người là chúng sẽ trở thành vũ khí hủy diệt hàng loạt. Bởi vì chúng không cần sự giám sát của con người, một lần nhấn nút là đủ để khởi động một cuộc tấn công hàng loạt bằng hàng nghìn hoặc hàng triệu vũ khí. Nếu chúng ta cho phép họ sản xuất và bán vũ khí trên thị trường vũ khí quốc tế, chúng ta cũng có thể bắt đầu bán vũ khí hạt nhân trên Amazon.
Vào tháng 7 năm 2015, các nhà nghiên cứu AI hàng đầu đã ký một bức thư ngỏ kêu gọi cấm vũ khí tự trị gây chết người. Sáu năm sau, các cuộc thảo luận về một hiệp ước khả thi tại LHQ ở Geneva, đang diễn ra phiên họp ngay bây giờ, đã bị đình trệ. Các quốc gia – hoặc giả vờ – không có khả năng hiểu vũ khí tự trị là gì hoặc tại sao chúng lại gây ra mối đe dọa.
Bộ phim Slaughterbots, công chiếu tại cuộc họp Geneva 2017, được thiết kế để giải thích bằng các thuật ngữ đồ họa, đơn giản chính xác những gì cộng đồng AI đang cố gắng nói. Là một nhà nghiên cứu về AI và robot chiến đấu, tôi biết rằng mọi công nghệ được trình chiếu trong phim đều đã khả thi. Tuy nhiên, tôi nhớ rõ đại sứ Nga đã nói rằng không có ích gì khi thảo luận về khoa học viễn tưởng sẽ không có thật trong 25 hoặc 30 năm nữa. Như ông nói, các nguyên mẫu của Kargu đã được chế tạo và được công bố một tháng sau đó.
Nga không phải là trở ngại duy nhất đối với một hiệp ước. Anh và Mỹ cũng phản đối các cuộc đàm phán chính thức. Sự phản đối của họ dường như đặc biệt vô nghĩa vì cả hai quốc gia đều có những lệnh cấm nội bộ đối với vũ khí tự trị; trên thực tế, họ chỉ khăng khăng rằng các quốc gia khác được phép triển khai chúng. Cả ba quốc gia – và tất nhiên là toàn thế giới – có rất nhiều thứ để mất nếu và khi khối lượng – các khả năng phá hủy sinh sôi nảy nở đối với các chế độ không đáng tin cậy và các tác nhân phi nhà nước.
Một số người cho rằng lệnh cấm sẽ không hiệu quả, nhưng có nhiều tiền lệ để hành động quốc tế thành công. Các công ước về vũ khí hóa học và sinh học đã loại bỏ phần lớn toàn bộ hai loại WMD; theo hiệp ước bom mìn, 92 quốc gia đã phá hủy toàn bộ kho dự trữ của họ (hơn 55 triệu quả mìn); và hiệp ước về vũ khí laser làm chói mắt đã khai thác một công nghệ vô nhân đạo khác từ trong trứng nước. Ngay từ năm 1868, Tuyên bố St Petersburg đã cấm đạn nổ bên trong cơ thể.
Đề xuất của Hội Chữ thập đỏ về việc tạm hoãn ngay lập tức đối với việc chống tự trị
vũ khí nhân sự là bước đầu tiên cần thiết, bởi vì vũ khí phòng không nhỏ dễ triển khai với số lượng lớn. Một hiệp ước nên bao gồm các thỏa thuận về nhận dạng và theo dõi vũ khí để ngăn chặn các cuộc tấn công từ xa không thể phân bổ, và về các giao thức liên lạc để ngăn chặn sự leo thang ngẫu nhiên và đảm bảo rằng chủ sở hữu có thể thu hồi hoặc vô hiệu hóa vũ khí.
Cũng như Công ước về vũ khí hóa học, các giao thức công nghiệp có thể ngăn chặn việc chuyển hướng quy mô lớn các thiết bị dân sự sang mục đích sử dụng bất hợp pháp của tội phạm, khủng bố và các quốc gia bất hảo. Tất cả những điều này là khó khăn,
công việc nhàm chán khi cho phép con người sống cuộc sống của họ trong sự an toàn tương đối. Hãy để nó bắt đầu.
