Washington – Departemen Pertahanan Amerika kini tengah mengembangkan prinsip-prinsip yang menguraikan penggunaan etis dari kecerdasan buatan yang bakal digunakan untuk militer, Rabu (4/3/2020).
Kepala Informasi DoD, Dana Deasy, beberapa waktu lalu telah mengumumkan bahwa dirinya diarahkan Menteri Pertahanan, Mark Esper untuk resmi mengadopsi lima prinsip kecerdasan buatan (AI) yang direkomendasikan Dewan Inovasi Pertahanan Amerika.
“Pengumuman meletakkan dasar untuk desain etis, pengembangan, penyebaran dan penggunaan AI oleh Departemen Pertahanan,” ujarnya di Pentagon.
Direktur Joint Artificial Intelligence Center (JAIC), Letnan Jenderal Jack Shanahan, mengatakan keputusan mengadopsi prinsip-prinsip tersebut guna memisahkan Amerika Serikat dan sekutu-sekutunya dari musuh.
“Percakapan saya dengan sekutu dan mitra kami di Eropa mengungkapkan bahwa kami memiliki banyak kesamaan mengenai prinsip-prinsip yang berkaitan dengan penggunaan etis dan keamanan yang memungkinkan kemampuan AI dalam operasi militer,” kata Shanahan.
“Ini sangat kontras dengan Rusia dan Cina, yang penggunaan teknologi AI untuk tujuan militer, menimbulkan keprihatinan serius tentang hak asasi manusia, etika dan norma internasional,” Shanahan melajutkan.
Ada lima prinsip penggunaan teknologi AI dalam pertempuran dan non-tempur, kata Deasy, di antaranya:
- Bertanggung jawab . Personil DoD akan melakukan tingkat penilaian dan perawatan yang sesuai, sambil tetap bertanggung jawab atas pengembangan, penyebaran, dan penggunaan kemampuan AI.
- Adil . Departemen akan mengambil langkah-langkah yang disengaja untuk meminimalkan bias dalam kemampuan AI.
- Dilacak . Departemen akan dikembangkan dan digunakan, sehingga staf memiliki pemahaman yang tepat tentang teknologi, proses pengembangan, dan metode operasional yang berlaku untuk AI. Ini termasuk metodologi yang transparan dan dapat diaudit, sumber data, dan prosedur desain, dan dokumentasi.
- Andal . Departemen kemampuan AI bakal memiliki penggunaan yang eksplisit dan terdefinisi dengan baik, keselamatan, keamanan dan efektivitas dari kapabilitas tersebut akan diuji.
- Dapat diatur . Departemen akan merancang dan merekayasa kemampuan AI untuk memenuhi fungsi yang dimaksudkan sambil memiliki kemampuan untuk mendeteksi dan menghindari konsekuensi yang tidak diinginkan, dan kemampuan melepaskan atau menonaktifkan sistem yang digunakan dalam menunjukkan perilaku yang tidak diinginkan.
Prinsip-prinsip tersebut mengikuti rekomendasi yang dibuat oleh Dewan Inovasi Pertahanan kepada Sekretaris Pertahanan, Mark Esper pada bulan Oktober setelah proses 15 bulan, di mana dewan bertemu dengan para pakar AI dari industri, pemerintah dan akademisi.
Shanahan menggambarkan sebagian besar perbedaan dalam bahasa antara rekomendasi DIB dan versi final DoD sebagai perubahan yang dilakukan oleh pengacara untuk memastikan bahasa tersebut sesuai kebutuhan departemen.
Beberapa dari perubahan ini bisa menjadi perdebatan bagi mereka yang peduli tentang pengembangan AI militer.
Shanahan juga menekankan pada prinsip “Dapat Dilacak”, di mana kata-kata yang diadopsi untuk semua “personil yang relevan,” yang katanya lebih luas daripada bahasa “ahli teknis” yang digunakan oleh dewan.
JAIC diharapkan akan memimpin upaya untuk mengimplementasikan prinsip-prinsip tersebut. Shanahan mengatakan, pihaknya telah menepati janji untuk mempekerjakan seorang ahli etika AI di dalam JAIC.
“Ini akan menjadi proses yang ketat, bertujuan menciptakan lingkaran umpan balik yang berkelanjutan guna memastikan departemen tetap mengetahui teknologi dan inovasi yang muncul di AI,” katanya.
“Tim kami juga akan mengembangkan panduan pengadaan, perlindungan teknologi, kontrol organisasi, strategi mitigasi risiko dan langkah-langkah pelatihan,” Shanahan melanjutkan.