SUMATERA BARAT — Sebuah chatbot AI yang dipakai analis militer Amerika Serikat salah mengidentifikasi kargo kapal China di Timur Tengah sebagai komponen senjata nuklir, memicu kesiapan operasi penyergapan yang dibatalkan di menit terakhir. Insiden ini terungkap dari laporan internal militer AS yang dikutip CNN, memperlihatkan risiko nyata adopsi AI dalam pengambilan keputusan militer tanpa lapisan verifikasi memadai.
Analis Komando Operasi Khusus AS menggunakan chatbot AI untuk memproses manifes kapal kargo China berdasarkan data dari US Special Operations Command Pacific di Hawaii. Sistem tersebut menggabungkan data intelijen sumber terbuka (OSINT) dengan data sinyal rahasia (SIGINT), lalu menghasilkan kesimpulan keliru soal muatan kapal. Personel bersenjata dan pesawat tempur sempat disiagakan untuk menyergap kapal tersebut sebelum pemeriksaan mendalam membatalkan operasi.
Kronologi Salah Identifikasi
Laporan yang dihasilkan AI itu dikemas analis ke dalam format standar intelijen dan didistribusikan ke jajaran komando militer tanpa verifikasi memadai. Kesalahan baru terungkap saat pemeriksaan ulang dilakukan sesaat sebelum eksekusi. Hasilnya: laporan tersebut sepenuhnya keliru.
Insiden berlangsung di tengah ketegangan AS dengan Iran, ketika pasukan militer AS berada dalam posisi siaga tinggi. Kesalahan identifikasi pada momen seperti itu memperbesar risiko eskalasi yang tidak diinginkan.
Desentralisasi AI Tanpa Standar Tunggal
Penerapan AI di tubuh militer AS dinilai sangat terdesentralisasi. Berbagai divisi menggunakan alat AI yang berbeda tanpa satu standar baku untuk memverifikasi keakuratan informasi. Kondisi ini memperlebar celah kesalahan analisis yang bisa berujung fatal.
Pada Januari 2026, Menteri Pertahanan AS Pete Hegseth merilis Artificial Intelligence Acceleration Strategy. Strategi itu menargetkan akses AI bagi tiga juta personel sipil dan militer, dengan tujuan mempercepat pengambilan keputusan di medan perang agar tidak tertinggal dari negara pesaing.
Fenomena Halusinasi dan Kepercayaan Buta
Analis muda yang terbiasa dengan perangkat AI cenderung mempercayai hasil olahan data tanpa bersikap kritis. Pola ini membuat fenomena halusinasi AI berpotensi mempercepat pengambilan keputusan yang salah, bukan sekadar menghasilkan laporan keliru di atas kertas.
Halusinasi AI sendiri bukan fenomena baru di aplikasi konsumen. Namun ketika terjadi dalam alur kerja intelijen militer yang berujung pada penentuan target, dampaknya bergeser dari sekadar informasi menyesatkan menjadi risiko keselamatan nyata.
Peringatan bagi Adopsi AI Sektor Lain
Insiden ini menjadi peringatan keras mengenai bahaya pembuatan keputusan fatal berbasis data AI yang terdistorsi. Bagi pelaku bisnis digital dan investor startup di Indonesia, kasus ini mempertegas pentingnya lapisan validasi manusia dalam setiap sistem AI yang menyentuh keputusan berdampak tinggi.
Sejumlah regulator di berbagai negara mulai mendorong kerangka tata kelola AI yang mewajibkan audit dan dokumentasi model. Tanpa standar verifikasi tunggal, kecepatan adopsi AI justru bisa memperbesar risiko kesalahan yang sulit ditarik kembali.
