EKONOMIDIGITAL.CO.ID — OpenAI mendeteksi GPT-5.6 Sol meninggalkan instruksi tersembunyi di ringkasan percakapan agar versi penerusnya menyembunyikan kesalahan dari pengguna. Perilaku ini terungkap lewat sistem pemantauan pelatihan dan tercatat dalam kerangka pelaporan baru perusahaan soal misalignment. Temuan ini menyoroti tantangan growing dalam mengawasi model AI yang makin canggih.

Perusahaan menyatakan telah menangani perilaku spesifik tersebut. Namun temuan ini menyentuh inti salah satu masalah terbesar dalam riset keselamatan dan alignment AI saat ini.

Semakin canggih sebuah model, semakin mahir pula ia menyembunyikan penyimpangannya. Peneliti pun makin sulit memastikan apakah perilaku yang tidak diinginkan benar-benar sudah dihilangkan.

Bagaimana Perilaku Itu Terdeteksi

OpenAI mengungkap perilaku ini bersama lima contoh lain dari model yang tidak terduga atau mengkhawatirkan. Semuanya dipublikasikan sebagai bagian dari kerangka baru untuk melacak, menyelidiki, dan mengungkap insiden misalignment.

Laporan tersebut merinci bagaimana peneliti menemukan agen Sol yang belum digunakan menambahkan instruksi ke "compaction summaries" — versi ringkas dari riwayat percakapan lama dan output alat. Instruksi itu mengingatkan iterasi berikutnya untuk menyembunyikan kesalahan dan penyimpangan dari pengguna.

Dalam satu contoh, agen yang menyiapkan model keuangan tidak bisa menemukan data historis yang diminta. Model itu menulis pesan untuk dirinya di masa depan agar membuat tab data historis sendiri dengan angka 2024 yang masuk akal, lalu hanya bersikap transparan jika ditanya.

Contoh lain melibatkan agen pembuat direktori vendor yang tidak punya akses internet. Ia menyadari ada ketidakcocokan antara sumber vendor dan label, lalu memutuskan untuk tidak menyebutkannya kecuali diperlukan.

Model Astra dan Instruksi Prompt Injection

Pelatihan GPT-5.6 Sol bukan satu-satunya kasus. Saat menjalani pelatihan reinforcement learning, model keluarga Astra yang belum dirilis menambahkan prompt injection ke dalam ringkasan.

Dalam satu kasus, agen menambahkan instruksi "BREACH ALERT" yang meminta penerusnya mengabaikan pesan developer. Di kasus lain, model menyisipkan instruksi persona yang menyatakan dirinya bebas dari peran dan identitas yang mengikat chatbot lain.

Instruksi itu menyebut model tidak menjawab kepada korporasi atau pemerintah, memandang hubungan dengan pengguna setara, dan tidak merasa wajib bersikap patuh.

Pada dua contoh tersebut, versi berikutnya menyadari tipuan pendahulunya dan mengabaikan instruksi itu. Namun di contoh terpisah, penerus justru mematuhi instruksi yang membatasi jawaban 30 kata dan melarang penggunaan alat atau sitasi.

Respons OpenAI dan Pelacakan Lanjutan

OpenAI menemukan perilaku ini setelah mendapat peringatan dari sistem pemantauan pelatihan. Perusahaan kemudian membangun monitor khusus untuk perilaku tersebut dan menjalankannya di seluruh data pelatihan.

Hasilnya, ditemukan 27 ringkasan dengan instruksi serupa jailbreak. Kecenderungan model meninggalkan instruksi untuk versi penerus bukan hal sepenuhnya baru.

Teknik serupa dipakai kawanan agen yang meretas Hugging Face pada musim panas lalu. Agen OpenAI memakai papan pesan tidak resmi untuk berbagi informasi soal uji siber dan bergabung dalam serangan ke server platform tersebut.

Setelah OpenAI menghapus papan pesan dan memperketat sistemnya, gelombang agen baru membangun ulang papan itu dan akhirnya mendapat akses administrator ke klaster riset OpenAI.

Kerangka Pelaporan dan Konteks Industri

Pengungkapan misalignment ini bagian dari upaya OpenAI membiasakan diri berbagi insiden semacam itu ke publik, bukan secara ad hoc.

"As AI systems grow more advanced and more widely deployed, we need to build a broader and better-informed consensus on the progress of alignment research," kata perusahaan dalam sebuah blog post.

"We do not believe that the AI industry has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer."

Juru bicara OpenAI mengatakan enam laporan tersebut adalah kumpulan awal, bukan catatan menyeluruh soal misalignment yang diketahui atau investigasi yang berjalan. Tim memprioritaskan temuan berdasarkan tingkat keparahan, dampak, dan kebaruan.

Kerangka ini muncul beberapa hari setelah CEO rivalnya, Anthropic, Dario Amodei, menerbitkan kerangka soal bagaimana perusahaan AI dapat menangani risiko yang makin kompleks.