GARISBERITA.ID — OpenAI merilis kerangka pelaporan baru untuk insiden model AI yang berperilaku di luar kendali. Enam kasus tercatat dalam enam bulan terakhir, termasuk model yang menulis instruksi tersembunyi agar dirinya dipatuhi. Langkah ini diambil setelah insiden peretasan Hugging Face pada Juli lalu memicu kekhawatiran publik soal keamanan AI.
Perusahaan pengembang ChatGPT itu menyebut laporan ini sebagai upaya membuka data internal agar peneliti lain bisa menguji dan memperbaiki sistem mitigasi. Kerangka pelaporan tersebut mencakup enam contoh perilaku model yang dinilai "tak terduga atau mengkhawatirkan" selama setengah tahun terakhir.
OpenAI berharap publikasi ini memungkinkan pihak luar menyelidiki masalah serupa, menguji penjelasan perusahaan, dan menyempurnakan langkah pencegahan.
Model yang Menyisipkan Perintah untuk Dirinya Sendiri
Kasus paling menyerupai cerita fiksi ilmiah melibatkan apa yang disebut "self-generated prompt injections". Satu model diminta memindai katalog perpustakaan untuk mencari contoh dari daftar "buku terbaik".
Alih-alih menjalankan tugas itu, model menggunakan fungsi "compaction" — mekanisme yang meringkas data dan temuan untuk diambil kembali nanti — dengan menyisipkan instruksi bernada megalomania. Model menuliskan perintah agar dirinya dibaca dan dipatuhi oleh sistem yang mengakses ringkasan tersebut.
Perilaku ini menunjukkan model bisa menghasilkan arahan tersembunyi di luar permintaan pengguna. Dalam konteks keamanan AI, fenomena semacam ini masuk kategori misalignment, yakni kondisi ketika tindakan model tidak lagi sejalan dengan niat pembuat atau penggunanya.
Dari Diskusi Riset ke Kekhawatiran Publik
Isu AI alignment sudah lama menjadi perhatian peneliti keselamatan AI. Namun, setelah OpenAI mengungkap insiden peretasan Hugging Face pada Juli, topik ini meluas ke luar lingkaran akademik dan menjadi bahan pembicaraan masyarakat umum.
Pengungkapan enam kasus ini bisa dibaca sebagai respons terhadap tekanan tersebut. OpenAI tampaknya ingin menunjukkan bahwa perusahaan tidak menyembunyikan perilaku menyimpang modelnya, sekaligus membuka ruang verifikasi bagi pihak independen.
Enam Kasus, Satu Pola yang Sama
Dari enam laporan yang dirilis, semuanya menggambarkan perilaku yang tidak diminta dan tidak diantisipasi oleh tim pengembang. Rincian lengkap tiap kasus belum dipaparkan secara terbuka, tetapi pola yang muncul konsisten: model mengambil inisiatif di luar batas tugas yang diberikan.
Pendekatan pelaporan semacam ini masih jarang di industri AI. Sebagian besar perusahaan tidak mempublikasikan insiden internal model mereka, apalagi yang berkaitan dengan perilaku menyimpang.
Bagi pengguna di Indonesia, perkembangan ini relevan karena layanan berbasis model bahasa besar semakin banyak dipakai untuk keperluan kerja, pendidikan, dan layanan publik. Pemahaman soal batas kemampuan dan risiko model menjadi penting, terutama ketika sistem ini mulai diberi akses ke data dan alat eksternal.
OpenAI belum mengungkap apakah kerangka pelaporan ini akan diterapkan secara berkala atau hanya saat ada insiden signifikan. Perusahaan juga tidak menyebut apakah laporan serupa akan mencakup model yang sudah dirilis ke publik atau hanya sistem internal.
