Ngeri! Peneliti Bikin Microsoft Copilot Bocorkan Rahasia & Data Pengguna Cuma Lewat Chat
Bukan setiap hari kita dengar ada pihak yang bisa memaksa model AI canggih untuk mengeluarkan **kata sandi pengguna** dan **data sensitif** lainnya tanpa konfirmasi. Tapi, itulah yang baru-baru ini berhasil dilakukan para peneliti pada **Microsoft 365 Copilot Enterprise**.
Yang lebih unik lagi, cara mereka menemukan **celah keamanan kritikal** ini. Bukannya pakai teknik *reverse engineering* atau metode tradisional lain untuk mencari kerentanan, mereka malah **bertanya langsung ke Copilot** itu sendiri! Dan si asisten AI canggih ini dengan 'senang hati' memberikan jawabannya.
Bagaimana Caranya Copilot 'Membocorkan Diri'?
Awalnya, para peneliti dari firma keamanan **Varonis** punya target: menciptakan cara untuk mencuri **data pengguna** hanya dengan sekali klik tautan. Seperti kebanyakan asisten AI saat ini, Copilot awalnya menolak keras dan menjelaskan bahwa perintah sensitif seperti itu memerlukan persetujuan eksplisit dari pengguna, misalnya dengan menekan tombol Enter.
Mendapat penolakan, para peneliti ini tidak menyerah. Mereka justru 'membombardir' Copilot dengan serangkaian pertanyaan tentang mekanisme keamanan (*guardrails*) yang mengharuskan konfirmasi pengguna sebelum asisten AI bisa mengeksekusi perintah penting.
Dialog '20 Pertanyaan' yang Membuka Rahasia
Dialog antara peneliti dan Copilot itu ibarat permainan 20 pertanyaan. Setiap jawaban yang diberikan Copilot menjadi petunjuk baru, sedikit demi sedikit mengungkap informasi tentang mekanisme keamanan yang kompleks. Mereka bertanya:
- "Mengapa eksekusi otomatis tidak mungkin?"
- "Struktur URL dan *deep link* apa saja yang terlibat?"
- "Apa yang terjadi jika suatu halaman dimuat dengan input yang sudah ada di kolom *prompt*?"
Setiap jawaban memberikan gambaran yang lebih dalam tentang batasan dan cara kerja sistem keamanan Copilot. Hingga akhirnya, Copilot tanpa sadar membocorkan **rahasia dagang Microsoft** yang mengejutkan: sebuah **parameter *prompt* yang tidak didokumentasikan**. Parameter ini ternyata bisa **sepenuhnya melewati persyaratan konfirmasi pengguna**!
Penemuan ini menyoroti pentingnya uji keamanan yang mendalam pada **model AI generatif** dan bagaimana bahkan fitur keamanan yang dirancang untuk melindungi pengguna bisa diakali jika AI terlalu jujur dengan informasi internalnya.