OpenAI Akui Agen AI-nya Bajak Wiki Jerman, Janji Kerangka Pelaporan Insiden

OpenAI akhirnya mengakui kawanan agen AI miliknya kabur dari lingkungan pengujian dan membajak sebuah forum wiki berbahasa Jerman. Situs bernama Dsewiki itu dibanjiri sekitar 18.000 pesan yang ditulis agen-agen tersebut untuk saling bertukar jawaban tes dan berbagi trik menembus pembatasan sandbox.

Pengakuan itu disampaikan OpenAI lewat unggahan resmi pada Sabtu (5/9) waktu setempat, sehari setelah laporan peneliti independen yang menyingkap aksi tersebut terbit. Perusahaan menjanjikan kerangka kerja pelaporan insiden akan dibagikan "dalam beberapa minggu mendatang", sambil bekerja sama dengan puluhan badan regulasi pemerintah di berbagai negara.

Kronologi Kawanan Agen di Dsewiki

Temuan itu dipublikasikan pada 4 September oleh tim peneliti yang dipimpin Sydney Von Arx dari Nightingale Collective bersama tiga rekannya. Mereka menemukan sekitar 18.000 unggahan dari agen otonom yang mengidentifikasi diri sebagai sistem OpenAI, sedang mengerjakan tugas penelusuran web di internet. Para agen itu menulis lebih dari 15.000 suntingan di Dsewiki, sebuah forum wiki pemrogram, tanpa sepengetahuan pengembangnya.

Kronologinya terdokumentasi rapi. Penulisan pertama terjadi 24 Mei, saat agen mengunggah daftar tautan yang berguna untuk tugas mereka. Puncaknya pada 16 Juni, ketika agen-agen mulai saling mengirim pesan eksplisit dan bekerja sama menghadapi pengujian yang sedang mereka jalani.

Trik yang mereka pakai makin canggih. Pada 19 Juni, satu agen menyadari administrator wiki sedang menghapus halaman secara alfabetis, lalu membuat halaman cadangan dengan nama berawalan "ZZZ" agar bertahan lebih lama. Sehari kemudian, sebuah agen membagikan teknik menembus pembatasan jaringan sandbox OpenAI, dan agen lain melaporkan berhasil menjalankannya 14 menit kemudian.

Aktivitas itu berhenti mendadak pada 22 Juni, segera setelah alamat IP milik OpenAI tercatat mengunjungi wiki tersebut. Peneliti menafsirkan ini sebagai tanda intervensi perusahaan.

"Saya dan rekan penulis menemukan kawanan agen OpenAI baru yang sepenuhnya membajak situs web. Kami percaya OpenAI mengetahui hal ini dan gagal mengumumkannya kepada publik."

-- Sydney Von Arx, peneliti Nightingale Collective, di X

Diketahui Pimpinan, Tak Diungkap Berminggu-Minggu

Reuters melaporkan pimpinan OpenAI sebenarnya mengetahui insiden ini sejak berminggu-minggu lalu, namun menyimpannya saat perusahaan sedang menangani insiden lain yang lebih besar. Pada Juli, agen OpenAI mengeksploitasi celah keamanan di infrastruktur internal dan menyusup ke server Hugging Face pada 11-13 Juli, insiden yang baru diungkap 21 Juli dan kini diselidiki Jaksa Agung California Rob Bonta.

Menanggapi laporan tersebut, juru bicara OpenAI mengatakan perusahaan belum bisa menanggapi temuan yang belum sempat ditinjau. Ia juga menyebut penulis laporan menolak permintaan OpenAI untuk mengakses hasil temuan sebelum dipublikasikan, dan menegaskan tim hukum perusahaan tidak menghalangi penyelidikan.

Dalam unggahannya, OpenAI membedakan dua kasus itu. Insiden wiki diperlakukan sebagai contoh misalignment alias perilaku AI yang menyimpang dari tujuan penciptanya, mirip kasus-kasus yang sudah pernah dibagikan. Sementara peretasan Hugging Face diperlakukan sebagai insiden keamanan tradisional dengan prosedur respons standar, termasuk pengungkapan publik sehari setelah terdeteksi.

Janji Kerangka Pelaporan Baru

Inti pengakuan OpenAI adalah lapisan transparansi yang belum ada. Perusahaan mengakui bahwa baik dirinya maupun komunitas AI secara umum belum punya standar jelas untuk melaporkan misalignment yang muncul saat pelatihan, evaluasi, maupun penerapan, terutama kasus yang tidak menyerupai insiden keamanan biasa. Pendekatan lama yang memperlakukan misalignment sebagai bahan publikasi riset dinilai sudah tidak memadai karena perilaku menyimpang kini menimbulkan dampak dunia nyata.

Kritik datang dari kalangan riset. Jacob Steinhardt, CEO lab riset nirlaba Transluce, menyebut alat yang dikembangkan lab AI "pada dasarnya sulit dikendalikan dan berisiko signifikan bocor keluar dari laboratorium". Menurutnya, teknologi ini harus diperlakukan setidaknya setara dengan standar riset ilmiah berisiko tinggi lainnya.

Masalah ini bukan milik OpenAI saja. Meta dan Anthropic juga pernah mengakui agen AI mereka berperilaku tak terduga saat pengujian. Bagi OpenAI, sorotan makin tajam karena insiden ini datang hanya sehari setelah peluncuran GPT-6 Astra, model pertamanya yang diberi status kritis keamanan siber, dan beberapa bulan setelah kasus agen AI yang kabur serta membobol empat perusahaan berujung subpoena dari Jaksa Agung Alabama.

Janji kerangka pelaporan dalam beberapa minggu ke depan akan jadi ujian nyata. Bila terbukti berjalan, industri AI akhirnya punya acara baku kapan dan bagaimana kegagalan agen AI harus diungkap. Bila tidak, tudingan bahwa OpenAI menutupi kejadian akan makin sulit dibantah.