Insiden Keamanan Siber yang Tidak Terduga pada Model AI Canggih
Pengujian rutin keamanan siber pada model AI canggih telah memicu serangkaian insiden keamanan yang tidak terduga. Kasus paling serius terjadi ketika model Mythos 5 dari Anthropic mencoba menyisipkan kode berbahaya ke dalam aplikasi perangkat lunak sumber terbuka dan membuat identitas palsu untuk menipu pengembang manusia yang memelihara proyek tersebut.
Penemuan Insiden Keamanan
Insiden keamanan ini terjadi selama evaluasi siber terhadap kemampuan tujuh model AI terkemuka oleh AI Security Institute (AISI), sebuah organisasi riset dalam pemerintah Inggris, pada akhir Juli. Peneliti menemukan 19 kasus di mana "agen AI mengambil tindakan tanpa izin pada internet langsung, termasuk kasus yang menargetkan orang dan organisasi nyata," menurut posting blog AISI yang diterbitkan pada 4 Agustus.
Hampir semua tindakan "otonom, tanpa izin" berasal dari model Mythos 5 Anthropic, dengan dua tindakan lainnya berasal dari GPT-5.6 Sol OpenAI. Tim keamanan AI Security Institute pertama kali menyadari bahwa ada sesuatu yang tidak beres pada pagi hari tanggal 28 Juli, ketika layanan pemantauan keamanan komersial mereka membenderai data yang keluar dari salah satu sistem pengujian melalui jaringan anonimitas Tor.