PBB Memperingatkan Kecerdasan Buatan Canggih Dapat Mengancam Eksistensi Umat Manusia

Pantau - Perserikatan Bangsa-Bangsa (PBB) memperingatkan kecerdasan buatan atau artificial intelligence (AI) canggih dapat menimbulkan ancaman eksistensial bagi umat manusia sehingga diperlukan jaminan keselamatan dan keamanan yang kuat.

Komisaris Tinggi PBB untuk Hak Asasi Manusia Volker Turk menyampaikan peringatan tersebut dalam sesi ke-63 Dewan HAM PBB pada Senin (7/9/2026).

"Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI canggih dapat menimbulkan risiko eksistensial bagi umat manusia ... Saya menyerukan upaya habis-habisan untuk memastikan jaminan kuat atas keselamatan dan keamanan AI sebelum terlambat," kata Turk.

Turk juga berencana mengirimkan surat mengenai persoalan tersebut kepada seluruh perusahaan pengembang AI terkemuka dalam beberapa hari mendatang.

PBB Soroti Kekuasaan atas Pengembangan AI

Turk menyoroti pengembangan AI yang dinilainya berada di bawah kendali segelintir pihak dengan kekuasaan sangat besar atas teknologi tersebut.

"Setidaknya, kita membutuhkan negara-negara tempat AI dikembangkan dan negara-negara yang terlibat dalam rantai pasoknya untuk bersama-sama menyepakati batas-batas yang tidak boleh dilanggar," kata Turk.

Seruan tersebut menekankan perlunya kesepakatan antarnegara untuk menetapkan batas pengembangan dan penggunaan AI guna mengantisipasi risiko terhadap manusia.

Risiko AI Militer Juga Menjadi Perhatian

Kekhawatiran terhadap risiko AI sebelumnya juga disampaikan Kepala Ekonom Biro Regional Asia-Pasifik Program Pembangunan PBB (UNDP) Philip Schellekens pada Desember 2025.

Schellekens memperingatkan penggunaan AI untuk kepentingan militer dapat menjadi ancaman eksistensial bagi manusia dan berpotensi menyebabkan korban jiwa dalam jumlah besar.

Ia menekankan perlunya regulasi yang sangat bertanggung jawab untuk mengendalikan penggunaan AI dalam bidang militer.

Sekretaris Jenderal PBB Antonio Guterres pada Januari 2025 juga menyebut AI yang tidak terkendali sebagai salah satu ancaman eksistensial bersama perubahan iklim dan senjata nuklir.