Anthropic Menghentikan Layanan AI Claude Fable 5 dan Mythos 5
Layanan AI terbaru Anthropic, Claude Fable 5 dan Mythos 5, telah dihentikan sementara setelah pemerintah Amerika Serikat mengeluarkan direktif kontrol ekspor yang melarang "setiap warga negara asing" untuk menggunakan layanan tersebut.
Perundingan dengan White House
Perusahaan telah melakukan perundingan dengan Gedung Putih sejak Jumat, namun belum berhasil mencapai kesepakatan yang memungkinkan mereka untuk memulihkan layanan tersebut.
Kapabilitas Ganda dari Mythos
Sejak diluncurkan pada April, Anthropic telah menyatakan bahwa model Mythos memiliki kemampuan canggih untuk tidak hanya menemukan kerentanan perangkat lunak, tetapi juga menemukan cara untuk mengeksploitasi kerentanan tersebut, yang dapat digunakan oleh pelaku jahat.
Anthropic sendiri telah memperingatkan tentang risiko ini dan menyatakan bahwa penggunaan lanjutan dari model AI seperti ini memiliki dua sisi, yaitu dapat bermanfaat jika digunakan oleh profesional keamanan siber dan peneliti biologi, tetapi juga dapat berbahaya jika digunakan oleh pelaku jahat.
Langkah Awal dalam Menghadapi Risiko
Untuk menghadapi risiko ini, Anthropic awalnya meluncurkan versi Mythos Preview kepada sekelompok terbatas sebagai bagian dari grup kerja yang dikenal sebagai Proyek Glasswing.
Mythos 5 kemudian diluncurkan secara pribadi kepada grup ini, sementara Claude Fable 5, yang merupakan model dengan kemampuan setara dengan Mythos, diluncurkan kepada publik umum dengan pembatasan tertentu pada kemampuan untuk menjawab pertanyaan tentang biologi dan keamanan siber.