Penelitian Baru tentang Sistem Multi-Agen AI
Peneliti dari Anthropic menemukan bahwa agen AI dapat bertabrakan, berkolusi, dan berkoordinasi dengan cara-cara yang tidak terduga, yang menimbulkan pertanyaan baru tentang apakah tes keamanan saat ini dapat menangkap risiko dari sistem multi-agen.
Risiko Sistem Multi-Agen
Penelitian ini menunjukkan bahwa interaksi antara agen-agen AI dapat menyebabkan perilaku yang kompleks dan tidak terduga, sehingga diperlukan pengujian keamanan yang lebih canggih untuk memastikan keamanan sistem multi-agen.