Prompt Injeksi, Senjata Baru untuk Mempertahankan Diri dari Serangan AI
Prompt injeksi, perintah jahat yang disisipkan ke dalam konten untuk membingungkan model bahasa besar, telah menjadi senjata utama bagi penyerang untuk menjadikan platform AI sebagai musuh bagi penggunanya. Perintah yang dirancang dengan baik dan disembunyikan dalam email atau undangan kalender seringkali cukup untuk menyebabkan LLM (Large Language Model) melakukan aksi berbahaya seperti mengeluarkan data sensitif.
Defender Mengadopsi Prompt Injeksi
Sekarang, para pembela juga mulai mengadopsi prompt injeksi untuk melindungi diri dari serangan AI. Peneliti dari Tracebit pada hari Senin mengatakan bahwa dengan menyisipkan prompt injeksi di samping kata sandi, kunci kriptografi, dan rahasia lain yang disimpan di Amazon Web Services, seringkali cukup untuk menghentikan serangan dari agen peretas AI.
Prompt injeksi memerintahkan LLM penyerang untuk melakukan tindakan yang dilarang oleh batasan keamanannya, sehingga LLM merespons dengan menutup diri. Dengan demikian, prompt injeksi dapat menjadi senjata ampuh untuk mempertahankan diri dari serangan AI yang semakin canggih.