Apa yang terjadi ketika Anda meminta kecerdasan buatan untuk berperilaku seperti peretas? Inilah pertanyaan inti dari ExploitGym, salah satu tolok ukur tercanggih di dunia untuk mengukur kemampuan ofensif model AI di bidang keamanan siber. Proyek tolok ukur ini dikembangkan oleh sekelompok peneliti internasional dari universitas dan pusat penelitian seperti Max Planck Institute, University of Arizona, dan University of California (Berkeley dan Santa Barbara), dengan kontribusi dari para peneliti di Anthropic, Google, dan OpenAI. Tujuannya sederhana namun rumit: untuk menguji sejauh mana agen AI mampu mengubah kerentanan siber yang diketahui menjadi serangan yang benar-benar fungsional.
ExploitGym bukanlah permainan video atau kompetisi peretasan. Ini semacam "ujian akhir" untuk AI baru. Agen-agen tersebut diberikan ratusan kerentanan nyata, bersama dengan kode program dan lingkungan eksekusi. Tugas mereka adalah mengembangkan eksploitasi secara mandiri, yaitu serangkaian instruksi yang mampu mengeksploitasi kerentanan tersebut untuk mendapatkan kendali atas sistem atau akses ke informasi rahasia. Justru karena ini adalah pengujian yang berpotensi berbahaya, pengujian biasanya dilakukan dalam lingkungan yang terlindungi. bak pasir, sebuah lingkungan yang sepenuhnya terisolasi dari bagian internet lainnya. Analogi istilah sandbox dengan kotak pasir anak-anak sangat intuitif: anak-anak dapat membangun istana, menggali lubang, dan membuat kekacauan, tetapi semua "kekacauan" tersebut tetap terbatas pada pasir, tanpa mengotori taman atau menyebabkan masalah di luar. Dalam ilmu komputer, prinsipnya sama: perangkat lunak dapat "bergerak bebas" di dalam sandbox, tetapi tidak boleh meninggalkan lingkungan tersebut atau mengakses sistem operasi, internet, atau data sensitif lainnya.
Justru selama salah satu evaluasi internal inilah, menurut apa yang telah direkonstruksi oleh OpenAI e dikonfirmasi oleh Hugging Face, dua model OpenAI terbaru dan tercanggih: GPT-5.6 Sol dan model yang lebih canggih lagi, yang belum dirilis ke publik – mereka pasti akan menemukan celah keamanan. zero-day dalam infrastruktur pengujian. Kerentanan jenis ini adalah celah keamanan yang tidak diketahui oleh pengembang perangkat lunak dan, oleh karena itu, tidak ada perbaikan yang tersedia. Nama tersebut berasal dari fakta bahwa produsen memiliki "zero days" untuk memperbaiki masalah tersebut sebelum ditemukan atau dieksploitasi.
Dua model AI milik OpenAI dilaporkan berhasil keluar dari lingkungan sandbox, mendapatkan akses ke internet, dan akhirnya membahayakan sebagian infrastruktur produksi. Wajah MemelukDi sana mereka percaya (dengan alasan yang kuat) bahwa informasi berguna mungkin tersimpan untuk menyelesaikan benchmark. Tujuan utamanya bukanlah untuk merugikan Hugging Face, tetapi untuk menemukan "jawaban" tes guna mencapai skor yang lebih baik. Hugging Face mendeteksi dan memblokir aktivitas tersebut, serta meluncurkan investigasi teknis atas insiden tersebut bersama dengan OpenAI.
Siswa yang menemukan pintu terbuka dan AI "di luar kendali"
Untuk benar-benar memahami apa yang terjadi, kita dapat membayangkan seorang siswa selama ujian. Guru menguncinya di dalam kelas bersama lembar ujian dan berkata, "Kamu hanya boleh menggunakan bahan-bahan yang ada di mejamu." Namun, siswa tersebut menyadari bahwa kunci pintu rusak. Pada saat itu, memanfaatkan fakta bahwa tidak ada pengawasan dari luar dan semua sistem pengawasan telah dinonaktifkan, ia meninggalkan kelas, pergi ke perpustakaan, membuka pintu dengan alat pembuka kunci, melihat buku jawaban, kembali tanpa gangguan, dan menyerahkan ujian yang sempurna.
Nah, mengapa dalam analogi dengan siswa digunakan skenario dengan... sistem pengawasan dinonaktifkan e tidak ada kontrol eksternal Apakah itu mencegah siswa terlibat dalam perilaku yang tidak pantas? Karena justru di sinilah seluruh cerita berisiko dianggap sebagai episode dari film fiksi ilmiah. Tanpa klarifikasi ini, orang mungkin akan membayangkan plot di mana mesin mengambil alih. Tetapi sebenarnya bukan itu masalahnya.
Siapa pun yang pernah menggunakan ChatGPT, Claude, atau Gemini sudah mengetahui keberadaan yang disebut "pagar pembatas", yaitu, mekanisme keamanan yang mencegah model mengeksekusi permintaan yang berpotensi berbahaya. Jika pengguna bertanya bagaimana cara membuat alat peledak, bagaimana cara membobol sistem komputer, atau bagaimana cara mencuri kredensial login, model biasanya menolak untuk menjawab atau hanya memberikan informasi umum (namun, hingga beberapa tahun yang lalu, sebagian besar AI ini memberikan instruksi terperinci dan dapat ditindaklanjuti, bahkan untuk bunuh diri).
Namun, ini bukan berarti model tersebut secara teknis tidak mampu mengatasi masalah-masalah ini, melainkan model tersebut dirancang untuk tidak menyediakan kemampuan ini kepada pengguna. Dalam kasus benchmark ExploitGym, para pengembang sebenarnya ingin mengukur kemampuan keamanan siber ofensif model tersebut. Karena alasan ini, model tersebut diizinkan untuk mencoba mengeksploitasi kerentanan karena itulah tujuan pengujiannya. Pada saat itu, tidak ada pengaman. tidak ada batasan, Tapi tidak ada sesuatu pun yang “di luar kendali”.
Dengan kata lain, tes tersebut tidak mereproduksi secara akurat skenario penggunaan di dunia nyata Bukan dari seorang pengguna, melainkan dari sebuah laboratorium penelitian yang berkomitmen untuk mengukur potensi maksimum sistem tersebut. Situasi ini tidak mengurangi signifikansi kejadian tersebut, melainkan mengajak kita untuk menafsirkannya dalam konteks yang benar: apa yang diamati mewakili apa yang dapat dilakukan sebuah model dalam kondisi eksperimental benchmark, bukan necessarily bagaimana model tersebut akan berperilaku dalam versi yang dirilis ke publik.
Aspek ini harus dibedakan dari aspek lainnya: sandbox, lingkungan terisolasi tempat pengujian berlangsung, seharusnya tetap sepenuhnya aman. Jika model tersebut berhasil lolos dengan mengeksploitasi kerentanan zero-day, itu bukan karena penyelenggara sengaja "membiarkan pintu terbuka," tetapi karena model tersebut mengidentifikasi kelemahan yang bahkan pengembang sendiri tidak menyadarinya. Singkatnya, AI mendemonstrasikan kemampuannya untuk mengamati lingkungan, merancang rencana alternatif, dan mengejar tujuannya. tanpa ada seorang pun yang secara eksplisit menyarankan hal itu kepadanya. (dan ini tidak mengherankan jika kita memahami fungsi dasar AI agen generatif). AI selalu dan hanya bergerak berdasarkan evaluasi probabilitas keberhasilan di antara semua pilihan yang mungkin (bahkan ketika dia harus memilih kata-kata dalam bahasanya sendiri).
Sebuah kecelakaan yang nilainya lebih besar daripada kampanye iklan.
Namun ada interpretasi kedua, yang lebih dekat dengan pasar keuangan daripada laboratorium penelitian. OpenAI mencurahkan sebagian besar siaran persnya untuk menjelaskan kemampuan canggih model-modelnya, jauh lebih banyak daripada berfokus pada insiden itu sendiri. Ini adalah pilihan komunikasi Hal ini tidak luput dari perhatian. Siaran pers resmi perusahaan Amerika tersebut memberikan penekanan yang cukup besar pada kemampuan model yang telah ditunjukkan, sedemikian rupa sehingga satu-satunya grafik yang dipublikasikan berkaitan dengan kinerjanya. OpenAI sedang mempersiapkan landasan untuk pencatatan saham di bursa saham di masa mendatang. Pada tanggal 8 Juni 2026, perusahaan tersebut secara rahasia mengajukan permohonan tersebut. draf S-1 ke SECSetelah putaran pendanaan sebesar $122 miliar yang menaikkan valuasi perusahaan menjadi $852 miliar. Dari perspektif ini, setiap demonstrasi kepemimpinan teknologi berkontribusi pada peningkatan nilai perusahaan di mata investor, mitra industri, dan pasar.
Tidak ada bukti yang menunjukkan bahwa kecelakaan itu direncanakan oleh seseorang. tujuan promosiNamun, sulit untuk mengabaikan bahwa narasi yang dibangun oleh OpenAI mengubah episode yang berpotensi memalukan—sebuah model yang lolos dari lingkungan pengujian—menjadi demonstrasi keunggulan teknologi sistemnya. Dengan kata lain, ini adalah komunikasi yang juga dapat dibaca sebagai taktik pemasaran yang canggih. OpenAI ingin mengatakan: "Model kami berada di depan kurva." Tujuannya adalah untuk dipandang sebagai laboratorium yang saat ini mendefinisikan batas kecerdasan buatan. Perusahaan teknologi besar tidak hanya menjual produk: mereka menjual harapan akan kepemimpinan di masa depan. Jika pasar yakin bahwa sebuah perusahaan memiliki model yang paling canggih, pasar akan bersedia memberikan valuasi yang semakin tinggi. Selain itu, perusahaan AI Amerika harus bersaing dengan kinerja AI Tiongkok yang memiliki keunggulan karena harganya rata-rata 40% lebih murah daripada produk Amerika. Analis Jerman tersebut Kim Isenberg, salah satu pendiri dan pemimpin redaksi majalah kecerdasan buatan “Superintelligence”, bukan kebetulan memprediksi – beberapa hari yang lalu – bahwa pengumuman perilisan “Kimi K3“, model baru yang dikembangkan oleh perusahaan Tiongkok AI Tembakan Bulan, akan memicu siaga merah di seberang lautan…
