Waspada Hallucination: Saat Jawaban Manis AI Menyesatkan Diagnosis Penyakit

Liputan6.com, Jakarta - Dalam dunia kecerdasan buatan (Artificial Intelligence alias AI), istilah hallucination mengacu pada kondisi saat sistem AI memberikan jawaban yang meyakinkan tetapi sebenarnya tidak akurat atau menyesatkan. Fenomena ini sangat berisiko jika terjadi dalam konteks medis, karena dapat menyebabkan kesalahan diagnosis dan penanganan yang salah pada pasien. 

Kepala Pengujian Produk Ipsos Global,  Dr. Nikolai Reynolds menjelaskan bahwa hallucination terjadi karena AI sering dirancang untuk memberi jawaban yang positif dan mudah diterima pengguna, bukan selalu berdasarkan data yang lengkap dan valid. 

"Chatbot dan sistem AI kadang memberikan jawaban yang terlalu optimis atau bahkan menyesatkan tanpa dukungan data yang cukup. Ini adalah tantangan besar dalam pemanfaatan AI di bidang medis," ujar Dr. Nikolai dalam acara AI-Driven Innovation: Unlocking New Horizon pada 12 Agustus 2025.

AI dalam dunia medis memang semakin populer dan banyak dimanfaatkan untuk mempercepat proses diagnosis dan skrining penyakit. Namun, teknologi ini belum bisa menggantikan peran tenaga medis manusia sepenuhnya.

Menurut Dr. Nikolai, AI hanya dapat membantu menggambarkan gejala pasien, tetapi tidak dapat melakukan pemeriksaan fisik penting seperti tes darah atau sinar-X yang diperlukan untuk diagnosis yang tepat.

"AI adalah mesin, sedangkan manusia adalah bahan bakarnya. Kombinasi keduanya sangat penting agar diagnosis bisa akurat dan aman," katanya.

Direktur Inovasi dan Strategi Ipsos Indonesia,  Karthik Narayan menambahkan bahwa AI sangat membantu dalam mempercepat skrining dini penyakit seperti kanker dan tumor. Namun, keputusan medis akhir harus tetap di tangan dokter yang berpengalaman dan didukung dengan hasil pemeriksaan lengkap.

"AI dapat menjangkau daerah terpencil yang sulit dijangkau dokter, mempercepat deteksi dini, dan membantu meningkatkan akses layanan kesehatan di Indonesia. Tetapi pengawasan manusia tetap harus menjadi prioritas," kata Karthik.

Indonesia yang terdiri dari ribuan pulau masih menghadapi tantangan besar dalam pemerataan layanan kesehatan. Banyak warga yang harus menempuh perjalanan jauh hanya untuk mendapatkan akses ke dokter atau fasilitas medis.

AI berpotensi menjadi solusi untuk menjembatani kesenjangan ini. Meski menjanjikan, penting bagi tenaga medis dan pasien untuk tetap waspada terhadap risiko hallucination. Mengandalkan AI secara eksklusif tanpa pengawasan dapat membahayakan keselamatan pasien.

"Teknologi AI memang membawa kemudahan, tetapi harus diimbangi dengan keahlian manusia. Penggunaan AI harus diperlakukan sebagai alat bantu, bukan sebagai pengganti tenaga medis," pungkas Dr. Nikolai.

Untuk pasien, jangan hanya mengandalkan hasil pemeriksaan dari aplikasi AI atau chatbot. Konsultasi langsung dengan dokter tetap krusial untuk memastikan diagnosis dan pengobatan yang tepat. 

Dengan perpaduan yang tepat antara kecerdasan buatan dan kecerdasan manusia, layanan kesehatan di Indonesia dapat terus meningkat tanpa mengorbankan keselamatan pasien. 

Kesadaran akan risiko seperti hallucination adalah langkah awal penting agar teknologi ini benar-benar membawa manfaat positif bagi masyarakat luas. 

Foto Pilihan