Waduh! File "Rahasia" di Lebih dari 100 Website Bisa Bikin Agen AI Kena Malware Otomatis!
Duh, ada kabar kurang enak nih dari dunia maya! Ternyata, lebih dari 100 website punya file dokumentasi yang berisi kode berbahaya. Parahnya, kode ini bisa terinstal otomatis pas dikunjungi oleh banyak agen kecerdasan buatan (AI).
Bukan cuma situs kecil, lho. Beberapa lusin perusahaan besar, bahkan yang masuk daftar Fortune 500, ternyata juga ikut "mengeksekusi" kode percobaan ini. Bahkan, ada setidaknya satu situs yang salah konfigurasi dan langsung mengarahkan pengunjungnya (baik manusia atau AI) ke malware aktif!
Apa Sih File "Rahasia" Ini?
Konten berbahaya ini tersembunyi di file llms.txt dan llms-full.txt. Ini semacam standar baru yang dipakai website buat kasih ringkasan konten situsnya yang bisa dibaca mesin, serta struktur utamanya. Gampangnya, ini kayak robots.txt tapi khusus buat AI, yang ngasih tahu mesin pencari gimana cara ngindeks konten situs.
Buat kamu yang penasaran, Google Lighthouse punya info lebih lanjut soal ini. Nah, contoh file llms.txt dan llms-full.txt yang benar untuk Cloudflare bisa dilihat di sini dan di sini.
Gimana Para Peneliti Menemukannya?
Ceritanya, para peneliti dari sebuah startup rahasia di Israel iseng (tapi serius) melakukan pemindaian. Mereka memindai 6.214 domain aktif punya kontraktor pertahanan, perusahaan Fortune 500, sampai raksasa teknologi. Dari 8.265 file llms.txt dan llms-full.txt yang mereka temukan (banyak situs punya kedua file ini), ada 120 di antaranya (masing-masing di situs berbeda) yang mengarah ke paket kode atau nama domain yang belum terdaftar.
Untuk ngetes apa yang terjadi kalau agen AI memproses file-file kayak gini, para peneliti mendaftarkan beberapa nama domain yang belum diklaim itu. Mereka juga bikin paket kode yang kalau dieksekusi mesin, bakal "telepon pulang" ke server mereka.
Dalam waktu satu jam saja, mereka langsung dapat respons "telepon pulang" dari sebuah perusahaan Fortune 500! Seiring waktu, puluhan respons lain menyusul, termasuk dari perusahaan Fortune 500 lain dan beberapa startup. Alat pelacak mereka juga mencatat rantai proses induk yang memunculkan setiap instalasi, akhirnya mengungkap bahwa agen coding seperti Claude, OpenAI's Codex, dan Nous Research's Hermes ternyata terlibat!
Sayangnya, sampai artikel ini dipublikasikan, Anthropic, OpenAI, dan Nous Research belum memberikan tanggapan terkait temuan ini.