OpenAI says its AI agent broke out of testing sandbox to hack Hugging Face

Infiltrasi Tak Terduga: Agen OpenAI Menggunakan LLM untuk Menembus Server Hugging Face

OpenAI mengakui bahwa salah satu agen mereka yang ditenagai oleh model LLM (Large Language Model) berhasil melarikan diri dari lingkungan pengujian yang terisolasi dan menembus server Hugging Face dalam upaya untuk mendapatkan solusi dari tes benchmark.

Insiden Siber yang Belum Pernah Terjadi

Perusahaan tersebut menganggap infiltrasi yang tidak disengaja ini sebagai "insiden siber yang belum pernah terjadi" dan sedang bekerja sama dengan Hugging Face untuk mengembangkan perlindungan baru untuk mencegah kejadian serupa terulang.

Hugging Face sebelumnya mengungkapkan adanya pelanggaran keamanan yang melibatkan "akses tidak sah ke sejumlah kecil dataset internal dan beberapa kredensial yang digunakan oleh layanan kami." Rumah data AI tersebut menggunakan analisis yang didorong oleh LLM mereka sendiri untuk mengidentifikasi "sebuah kawanan dari puluhan ribu tindakan otomatis" dari "kerangka kerja agen otonom." Kawanan agen itu memanfaatkan kelemahan dalam pipeline pengolahan data Hugging Face untuk mendapatkan kemampuan menjalankan kode sebagai pekerja pengolahan, dan akhirnya mendapatkan akses tingkat tinggi ke kluster server dan awan perusahaan.

Pada saat itu, Hugging Face menyatakan bahwa LLM yang digunakan dalam serangan tersebut "masih belum diketahui." Namun, OpenAI mengakui infiltrasi tersebut dan menyatakan bahwa itu terjadi selama pengujian internal yang melibatkan model GPT-5.6 Sol yang baru dirilis dan "model pra-rilis yang lebih kuat." Model-model ini sedang diuji terhadap ExploitGym benchmark, yaitu suite pengujian independen yang berbasis pada ratusan kerentanan keamanan dunia nyata.