Namun, setiap inovasi harus dibingkai dalam kerangka etika yang kuat, memastikan bahwa teknologi melayani manusia, bukan malah mendominasinya atau mengikis martabatnya.
Dalam pesan-pesan sebelumnya, Paus Fransiskus juga telah menyoroti pentingnya “algoritmetika” – pendekatan etis terhadap pengembangan dan penggunaan algoritma, yang harus menjadi fondasi bagi semua inovasi AI.
Seruan untuk Tata Kelola Global
Paus Fransiskus secara konsisten menyerukan adanya tata kelola global yang etis untuk AI. Ini bukan hanya tentang larangan, tetapi tentang pengembangan prinsip-prinsip yang memastikan AI digunakan secara bertanggung jawab.
Dunia perlu bersatu untuk menciptakan regulasi internasional yang mengikat, guna mencegah perlombaan senjata AI yang tidak terkendali dan konsekuensi yang tidak dapat diprediksi.
- Mendorong dialog internasional yang inklusif antara negara-negara, pakar etika, ilmuwan, dan organisasi masyarakat sipil untuk membahas masa depan AI di medan perang.
- Mengembangkan kerangka kerja hukum dan normatif yang jelas untuk membatasi pengembangan dan penggunaan senjata otonom mematikan (LAWS) yang dapat berfungsi tanpa intervensi manusia.
- Menekankan prinsip akuntabilitas manusia (human accountability) dan pengawasan manusia yang bermakna (meaningful human control) dalam setiap sistem senjata AI, menjamin bahwa manusia selalu memegang kendali akhir.
Dampak Jangka Panjang pada Peradaban Manusia
Lebih dari sekadar ancaman fisik, penggunaan AI di medan perang mengancam untuk mengubah sifat perang itu sendiri, membuatnya lebih impersonal, dehumanisasi, dan mudah dipicu tanpa pertimbangan emosional atau moral.
Ini bisa mengikis nilai-nilai dasar peradaban kita tentang kehidupan, kematian, dan martabat manusia, menciptakan masa depan di mana mesin, bukan manusia, yang memutuskan nasib seseorang tanpa konsekuensi moral.
Kecaman Paus Fransiskus adalah pengingat penting bahwa kemajuan teknologi harus selalu diiringi dengan refleksi etis yang mendalam. Masa depan perang, dan masa depan kemanusiaan, ada di tangan kita hari ini.
