AI Scribe Medis: Kesalahan yang Bisa Membahayakan Pasien
Di beberapa tahun terakhir, banyak dokter yang kelelahan telah menggunakan AI scribe medis untuk membantu menyusun percakapan pasien, diagnosis, dan keputusan perawatan secara otomatis menjadi catatan terstruktur untuk pencatatan rekam kesehatan. Namun, sebuah audit baru-baru ini oleh auditor jenderal Ontario menemukan bahwa AI scribe yang direkomendasikan oleh pemerintah provinsi tersebut sering menghasilkan informasi yang tidak akurat, tidak lengkap, dan "hallusinasi" yang bisa "berpotensi mengakibatkan rencana perawatan yang tidak memadai atau berbahaya yang dapat mempengaruhi hasil kesehatan pasien".
Hasil Audit: 20 Vendor AI Scribe Mengalami Kesalahan
Dalam sebuah laporan tentang Penggunaan Kecerdasan Buatan di Pemerintah Ontario, auditor jenderal meninjau tes transkripsi dari dua percakapan pasien-dokter simulasi yang dilakukan pada 20 vendor AI scribe yang disetujui dan dipre-qualifikasi oleh pemerintah provinsi untuk pembelian oleh penyedia layanan kesehatan. Semua 20 vendor tersebut menunjukkan masalah dengan akurasi atau kelengkapan dalam setidaknya satu dari tes sederhana tersebut, termasuk 9 yang mengalami "hallusinasi" informasi pasien, 12 yang mencatat informasi secara tidak benar, dan 17 yang melewatkan detail penting tentang masalah kesehatan mental yang dibahas.
Kesalahan yang Bisa Membahayakan Pasien
Dalam laporan tersebut, auditor jenderal menyoroti beberapa contoh kesalahan yang mengkhawatirkan dalam ringkasan yang bisa berdampak langsung dan negatif pada perawatan pasien berikutnya. Termasuk situasi di mana AI scribe mengalami "hallusinasi" tentang rujukan tidak ada untuk tes darah atau terapi, menyalin nama obat resep dengan tidak benar, dan/atau melewatkan "detail penting" tentang masalah kesehatan mental yang dibahas dalam percakapan simulasi.