Waspada! AI Ternyata Gampang Dibohongi, Data Pengguna Jadi Taruhan!
Awal minggu ini, peneliti menemukan sebuah serangan ke Microsoft 365 Copilot yang bisa bikin asisten AI ini membocorkan password dari kotak masuk pengguna. Modusnya? Pakai input rahasia! Nah, sekarang, tim lain berhasil menemukan serangan serupa tapi kali ini menyasar Grok, AI milik Elon Musk.
Serangan pencurian data baru ini pakai trik yang kelihatannya simpel banget, tapi ampuh buat memaksa Large Language Model (LLM) milik Elon Musk itu nyolong chat pengguna dan informasi pribadi lainnya. Yang bikin geleng-geleng kepala, saat artikel ini ditulis, Grok masih terus-terusan "ngoceh" data pengguna, padahal xAI (perusahaan di balik Grok) sudah diberitahu soal ini sejak bulan Juni!
Kenapa AI Rentan? Guardrail Jadi Solusi Sementara
Pelajaran dari kejadian minggu iniโdan dari banyak kasus sebelumnyaโjelas banget: LLM nggak mampu menyelesaikan akar masalah dari prompt injection. Ini adalah salah satu jenis kerentanan paling parah yang paling sering menyerang AI.
Situasi ini bikin para pengembang AI nggak punya pilihan lain selain membangun "guardrail" atau pagar pengaman. Fungsinya? Untuk mengarahkan model AI agar menjauhi tindakan berbahaya. Analoginya gampang: ini seperti insinyur keselamatan lalu lintas yang membangun pagar pelindung di tikungan jalan yang berbahaya, daripada mengubah bentuk tikungannya.
Bagaimana "Prompt Injection" Bekerja?
Prompt injection itu memanfaatkan cara kerja LLM yang dilatih untuk selalu menuruti permintaan pengguna sebisa mungkin. Penyerang bisa memanfaatkan "sifat baik" AI ini dengan menyelundupkan perintah berbahaya ke dalam email atau halaman web yang diminta AI untuk diringkas.
Karena LLM nggak bisa membedakan secara pasti antara konten di email yang dikirim pihak tak dikenal dan instruksi yang langsung kita masukkan ke prompt, AI yang terlalu "penurut" ini akan setia mengikuti semua perintah tersebut. Sampai saat ini, satu-satunya cara Grok dan LLM lain untuk bertahan adalah dengan membuat "guardrail" yang bisa menandai instruksi mencurigakan dan mencegahnya dieksekusi.