Kekuatan dan Jebakan AI untuk Intelijen AS

Memanfaatkan AI dan sumber terbuka akan memungkinkan IC untuk memanfaatkan kemampuan pengumpulan terbatas lainnya, seperti mata-mata manusia dan pengumpulan intelijen sinyal, secara lebih efisien. Disiplin pengumpulan lainnya dapat digunakan untuk mendapatkan rahasia yang disembunyikan tidak hanya dari manusia tetapi juga AI. Dalam konteks ini, AI dapat memberikan cakupan international yang lebih baik dari goal pengumpulan yang tidak terduga atau non-prioritas yang dapat berkembang menjadi ancaman dengan cepat.

Sementara itu, di Badan Intelijen Geospasial Nasional, AI dan pembelajaran mesin mengekstraksi information dari gambar yang diambil setiap hari dari hampir seluruh penjuru dunia oleh satelit komersial dan pemerintah. Dan Badan Intelijen Pertahanan melatih algoritme untuk mengenali pengukuran nuklir, radar, lingkungan, materials, kimia, dan biologis dan untuk mengevaluasi tanda tangan ini, meningkatkan produktivitas analisnya.

Dalam salah satu contoh keberhasilan penggunaan AI oleh IC, setelah menghabiskan semua jalan lain—mulai dari mata-mata manusia hingga intelijen sinyal—AS dapat menemukan fasilitas penelitian dan pengembangan WMD tak dikenal di negara besar Asia dengan menemukan bus yang melintasinya dan fasilitas lain yang diketahui. Untuk melakukan itu, analis menggunakan algoritme untuk mencari dan mengevaluasi gambar hampir setiap inci persegi negara, menurut seorang pejabat intelijen senior AS yang berbicara di latar belakang dengan pengertian tidak disebutkan namanya.

Sementara AI dapat menghitung, mengambil, dan menggunakan pemrograman yang melakukan analisis rasional terbatas, ia tidak memiliki kalkulus untuk membedah komponen kecerdasan manusia yang lebih emosional atau tidak sadar dengan benar yang dijelaskan oleh psikolog sebagai pemikiran sistem 1.

AI, misalnya, dapat menyusun laporan intelijen yang mirip dengan artikel surat kabar tentang bisbol, yang berisi alur terstruktur yang tidak logis dan elemen konten yang berulang. Namun, ketika pengarahan membutuhkan kompleksitas penalaran atau argumen logis yang membenarkan atau menunjukkan kesimpulan, AI ditemukan kurang. Ketika komunitas intelijen menguji kemampuannya, kata pejabat intelijen, produk tersebut tampak seperti transient intelijen tetapi sebaliknya tidak masuk akal.

Proses algoritmik semacam itu dapat dibuat tumpang tindih, menambahkan lapisan kompleksitas pada penalaran komputasional, tetapi bahkan algoritme tersebut tidak dapat menginterpretasikan konteks sebaik manusia, terutama dalam hal bahasa, seperti ujaran kebencian.

Pemahaman AI mungkin lebih analog dengan pemahaman balita manusia, kata Eric Curwin, chief expertise officer di Pyrra Applied sciences, yang mengidentifikasi ancaman digital terhadap klien dari kekerasan hingga disinformasi. “Misalnya, AI dapat memahami dasar-dasar bahasa manusia, tetapi mannequin dasar tidak memiliki pengetahuan laten atau kontekstual untuk menyelesaikan tugas tertentu,” kata Curwin.

“Dari perspektif analitik, AI kesulitan menafsirkan maksud,” tambah Curwin. “Ilmu komputer adalah bidang yang berharga dan penting, tetapi ilmuwan komputasi sosiallah yang mengambil lompatan besar dalam memungkinkan mesin untuk menafsirkan, memahami, dan memprediksi perilaku.”

Untuk “membangun mannequin yang dapat mulai menggantikan intuisi atau kognisi manusia,” Curwin menjelaskan, “para peneliti pertama-tama harus memahami cara menginterpretasikan perilaku dan menerjemahkan perilaku tersebut menjadi sesuatu yang dapat dipelajari oleh AI.”

Meskipun pembelajaran mesin dan analitik information besar memberikan analisis prediktif tentang apa yang mungkin atau akan terjadi, itu tidak dapat menjelaskan kepada analis bagaimana atau mengapa sampai pada kesimpulan tersebut. Ketidakjelasan dalam penalaran AI dan kesulitan dalam memeriksa sumber, yang terdiri dari kumpulan information yang sangat besar, dapat berdampak pada kebenaran dan transparansi kesimpulan tersebut.