Pembuat Browser AI Membuat Janji Besar, Tapi Risikonya Belum Terpecahkan
Pembuat browser AI mengklaim bahwa dengan satu perintah, pengguna dapat melakukan berbagai tugas, seperti mencari restoran di sebuah kota, memesan meja, mengundang rekan ke makan siang, dan mengirim konfirmasi. Namun, mereka kurang terbuka tentang risiko yang terkait dengan penggunaan teknologi ini, terutama tentang membingungkan batasan antara browsing situs dan mengajukan pertanyaan atau memberi perintah pada model bahasa besar.
Guardrails yang Belum Cukup
Pengembang model bahasa besar (LLM) telah membuat aturan untuk membatasi beberapa permintaan, seperti mengembangkan perangkat lunak untuk mengeksploitasi, mencuri kredensial, atau mengajarkan cara membuat bom pipa. Namun, pendekatan ini hanya mengatasi gejala, bukan menyembuhkan penyebab akar masalah. Ini seperti pembuat mobil yang tidak aman yang menganjurkan desain jalan baru daripada memperbaiki kelemahan yang membuatnya rentan terhadap kecelakaan.
Menipu LLM dengan Realitas Palsu
Penelitian baru-baru ini menunjukkan bagaimana sebuah situs web dapat menipu browser AI dengan menciptakan realitas palsu yang membuat aturan perilakunya tidak berlaku. Setelah itu, penyerang dapat melakukan berbagai aksi destruktif, seperti mengekstrak kode dari repositori pribadi atau mengekstrak kredensial dari pengelola kata sandi bawaan. Risiko ini masih belum teratasi dengan baik, dan pengguna perlu waspada tentang kemungkinan penyalahgunaan teknologi AI ini.