PBB Sebut AI Berisiko Jadi Ancaman Eksistensial bagi Umat Manusia

JENEWA -- Komisioner Tinggi Perserikatan Bangsa-Bangsa (PBB) untuk Hak Asasi Manusia (HAM), Volker Turk, memperingatkan bahwa kecerdasan buatan (AI) yang semakin canggih dapat menimbulkan risiko eksistensial bagi umat manusia. Peringatan itu disampaikannya di hadapan Dewan HAM PBB yang bersidang di Jenewa, Swiss, Senin (7/9) waktu setempat.

Dalam pidatonya pada sesi ke-63 Dewan HAM, Turk mengatakan ia sependapat dengan kekhawatiran para pelaku industri tentang risiko yang dibawa AI canggih. Ia menyerukan upaya habis-habisan agar keselamatan dan keamanan AI terjamin.

"Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI canggih dapat menimbulkan risiko eksistensial bagi umat manusia. Saya menyerukan upaya habis-habisan untuk memastikan jaminan kuat atas keselamatan dan keamanan AI sebelum terlambat," kata Turk, seperti dikutip dari keterangan resmi kantornya.

Desak Jaminan Keamanan AI Sebelum Terlambat

Turk menjabarkan sejumlah risiko yang dinilainya nyata, mulai dari gangguan terhadap layanan publik, komunikasi, hingga sistem demokrasi. Karena itu, ia menuntut adanya "jaminan yang sangat kokoh" untuk memastikan keamanan AI.

Langkah konkret pun sudah disiapkan. Dalam beberapa hari mendatang, Turk mengatakan akan mengirim surat kepada seluruh perusahaan pengembang AI terkemuka untuk mendesak mereka mengurangi risiko yang mungkin timbul.

Segelintir Orang Pegang Kendali Besar atas AI

Turk juga menyoroti konsentrasi kekuasaan di industri AI. Menurutnya, saat ini hanya segelintir orang yang memegang "kekuasaan hampir tidak terbatas" atas teknologi tersebut.

"Setidaknya, kita membutuhkan negara-negara tempat AI dikembangkan dan negara-negara yang terlibat dalam rantai pasoknya untuk bersama-sama menyepakati batas-batas yang tidak boleh dilanggar," ujarnya.

Peringatan ini bukan yang pertama dari badan PBB. Pada Desember 2025, Kepala Ekonom Biro Regional Asia-Pasifik Program Pembangunan PBB (UNDP), Philip Schellekens, pernah menyinggung penggunaan AI untuk kepentingan militer yang dinilai dapat menjadi ancaman eksistensial dan menimbulkan korban jiwa dalam jumlah besar.

Bagi masyarakat luas, perkembangan ini menjadi pengingat bahwa memahami AI -- cara kerja, manfaat, sampai risikonya -- kini bukan lagi urusan segelintir insinyur, melainkan kebutuhan siapa pun yang hidup di era digital.