Serangan Prompt Injection, Ancaman Utama Keamanan AI
Di dalam sejarah singkat keamanan AI, serangan prompt injection telah dengan cepat menjadi ancaman utama. Model bahasa besar secara inheren tidak dapat membedakan antara instruksi legimit yang diberikan oleh pengguna dan instruksi berbahaya yang diselundupkan ke dalam email, kode sumber, dan konten pihak ketiga lainnya yang diproses oleh model. Ini membuatnya sangat mudah untuk menyelundupkan perintah berbahaya yang diikuti oleh LLM (Large Language Model) dengan mudah.
Tantangan Bagi Pengembang AI
Karena tidak ada cara untuk memaksakan batasan yang sangat penting antara sumber tepercaya dan tidak tepercaya, pengembang mesin AI terpaksa membangun sistem pengaman yang rumit untuk mengurangi kerusakan, bukan untuk menyelesaikan penyebab utama masalah.
Jenis Serangan Prompt Injection
Hingga saat ini, sebagian besar serangan prompt injection masuk ke dalam kategori yang dikenal sebagai push, di mana setiap korban potensial ditargetkan secara individual. Misalnya, penyerang menyelundupkan instruksi berbahaya ke dalam email atau undangan kalender individu. Karena injeksi harus dikirim (atau dipush) ke setiap target spesifik, skala serangan terbatas, sehingga menghambat eksploitasi massal yang mengenai internet secara luas.