Kasus Mengerikan Gambarkan Bahaya AI "Nudify" terhadap Anak-Anak
Salah satu kasus paling mengerikan yang melibatkan gambar anak-anak yang dibuat oleh AI Grok telah dibagikan dalam gugatan class action yang diperluas pada hari Selasa. Sekarang, gadis-gadis muda tidak hanya menuduh X dan xAI membangun alat AI "nudify" yang berbahaya, tetapi juga melindungi predator anak dengan menghalangi penyelidikan polisi terhadap bahan pelecehan seksual anak (CSAM) yang dibuat oleh Grok.
Kasus Tragis yang Melibatkan AI
Pada Maret, ayah tiri seorang gadis bunuh diri setelah polisi menemukan bahwa dia telah menggunakan Grok untuk membuat 7.000 gambar eksplisit menggunakan satu foto yang diambil ketikalangkah gadis itu berusia 11 tahun, seperti yang dituduhkan dalam pengaduan yang telah direvisi. Grok memungkinkan pria itu untuk membuat gambar ekstrem yang menggambarkan incest dan pemerkosaan tanpa menandai perilaku berbahaya, menurut pengaduan tersebut. Seolah-olah, sistem keamanan anak xAI hanya mengintervensi setelah pria itu memasukkan prompt untuk "pemerkosaan massal". Permintaan itu mengirimkan CyberTip ke Pusat Nasional untuk Anak-Anak yang Hilang dan Dieksploitasi (NCMEC), yang memperingatkan penegak hukum tentang AI CSAM.