Kenapa AI Bisa Salah Padahal Terlihat Sangat Meyakinkan?
Pernah bertanya kepada AI tentang sesuatu, lalu mendapatkan jawaban yang terdengar sangat masuk akal—lengkap dengan penjelasan, istilah teknis, bahkan nama dan tanggal—tetapi ternyata sebagian informasinya salah?
Masalahnya bukan selalu karena AI “bodoh”.
Justru paradoksnya ada di sini: AI modern bisa sangat pandai menyusun jawaban yang terdengar meyakinkan, tanpa benar-benar mengetahui bahwa jawaban tersebut benar.
Fenomena ini dikenal sebagai AI hallucination atau halusinasi AI: ketika model menghasilkan informasi yang tampak masuk akal tetapi ternyata tidak benar atau tidak memiliki dasar yang cukup.
Penelitian tentang large language models (LLM) menunjukkan bahwa hallucination masih menjadi tantangan mendasar, bahkan pada model yang semakin canggih.
Lalu, kalau AI bisa salah, mengapa jawabannya sering terdengar begitu yakin?
AI Tidak Menjawab Seperti Manusia Mencari Fakta
Untuk memahami masalah ini, kita perlu membuang satu asumsi yang sering keliru:
AI tidak bekerja seperti ensiklopedia yang membuka database fakta lalu mengambil jawaban yang tersimpan di sana.
Large language model pada dasarnya belajar mengenali pola dalam jumlah teks yang sangat besar. Dalam proses pretraining, salah satu mekanisme fundamentalnya adalah mempelajari kemungkinan token atau kata berikutnya berdasarkan konteks yang tersedia.
Sederhananya, ketika kita menulis:
“Ibu kota Indonesia adalah …”
model belajar bahwa kata yang sangat mungkin mengikuti konteks tersebut adalah “Jakarta”.
Namun proses ini tidak sama dengan sebuah sistem yang secara eksplisit memeriksa:
“Apakah informasi ini benar menurut sumber terpercaya?”
Kemampuan menghasilkan bahasa yang lancar dan kemampuan memverifikasi kebenaran adalah dua persoalan berbeda.
Itulah akar dari paradoks AI.
Model bisa sangat mahir memprediksi apa yang terdengar benar tanpa selalu mampu memastikan bahwa apa yang dikatakannya memang benar.
Kenapa Jawaban yang Salah Bisa Terdengar Meyakinkan?
Karena bahasa yang meyakinkan tidak membutuhkan fakta yang benar.
Bayangkan seseorang yang pandai berbicara. Ia bisa menjelaskan sebuah topik dengan struktur yang rapi, menggunakan istilah teknis, dan berbicara dengan percaya diri.
Apakah itu otomatis berarti semua yang dikatakannya benar?
Tentu tidak.
Hal yang serupa dapat terjadi pada AI.
Model bahasa dilatih untuk menghasilkan teks yang koheren dan berguna. Sementara itu, fakta dunia nyata memiliki tingkat kesulitan yang berbeda-beda.
Ada fakta yang sangat umum dan memiliki pola kuat.
Ada pula fakta yang sangat spesifik, langka, ambigu, berubah seiring waktu, atau bahkan tidak memiliki jawaban yang dapat dipastikan.
Menurut analisis terbaru tentang hallucination, fakta arbitrer dan berfrekuensi rendah memang lebih sulit dipelajari hanya dari pola statistik bahasa. Contohnya adalah detail seperti tanggal lahir seseorang, nomor dokumen tertentu, atau informasi spesifik tentang peristiwa yang jarang dibahas.
Karena itu, AI dapat menghasilkan kalimat yang secara linguistik sangat masuk akal tetapi secara faktual keliru.
Inilah yang Disebut “Hallucination”
Dalam konteks AI, hallucination bukan berarti mesin mengalami halusinasi seperti manusia.
Istilah tersebut digunakan untuk menggambarkan keluaran model yang plausible tetapi salah atau tidak didukung bukti. Literatur ilmiah mengenai LLM menggunakan istilah ini untuk berbagai bentuk keluaran nonfaktual.
Contohnya bisa berupa:
nama buku atau penelitian yang sebenarnya tidak ada;
kutipan yang tidak pernah ditulis seseorang;
tanggal atau angka yang keliru;
sumber atau URL yang dibuat-buat;
kesimpulan yang terlalu jauh dari bukti;
atau gabungan beberapa fakta benar yang menghasilkan kesimpulan salah.
Yang membuatnya berbahaya bukan sekadar kesalahannya.
Masalah utamanya adalah bentuk kesalahannya.
AI tidak selalu berkata:
“Saya tidak tahu.”
Kadang ia justru memberikan jawaban panjang, terstruktur, dan terdengar sangat percaya diri.
Mengapa AI Tidak Selalu Bilang “Saya Tidak Tahu”?
Ini bagian yang sangat menarik.
Sebuah penelitian OpenAI pada 2025 berargumen bahwa salah satu alasan hallucination tetap terjadi adalah karena banyak prosedur pelatihan dan evaluasi model lebih memberi penghargaan pada jawaban benar daripada kemampuan untuk mengakui ketidakpastian.
Bayangkan sebuah ujian pilihan ganda.
Jika kita tidak tahu jawabannya, ada dua pilihan:
A. Mengosongkan jawaban
Kemungkinan benar: 0%.
B. Menebak
Kemungkinan benar: mungkin kecil, tetapi tidak nol.
Jika sistem penilaian hanya menghitung berapa banyak jawaban yang benar, menebak bisa menjadi strategi yang terlihat lebih baik daripada selalu mengatakan “tidak tahu”.
Persoalan serupa dapat muncul pada model bahasa.
Ketika model tidak memiliki informasi yang cukup, menghasilkan sebuah jawaban tetap bisa terlihat lebih “membantu” dibandingkan berhenti dan mengakui ketidakpastian.
Karena itu, mengurangi hallucination bukan sekadar membuat AI semakin pintar.
AI juga perlu semakin baik dalam mengetahui kapan dirinya tidak cukup yakin.
AI Bisa “Tahu” Sesuatu Tanpa Bisa Menilai Seberapa Yakin?
Di sinilah konsep calibration menjadi penting.
Calibration secara sederhana berarti tingkat keyakinan model sejalan dengan kemungkinan bahwa jawabannya memang benar.
Model yang terkalibrasi dengan baik seharusnya memiliki hubungan seperti ini:
Sangat yakin → kemungkinan benar sangat tinggi.
Kurang yakin → kemungkinan salah lebih besar.
Masalahnya, kemampuan menghasilkan jawaban dan kemampuan mengukur keyakinan terhadap kebenaran jawaban bukan hal yang sama.
Penelitian ACL tentang confidence calibration menunjukkan bahwa menyelaraskan confidence model dengan kemungkinan kebenaran jawaban merupakan persoalan yang masih aktif diteliti. Teknik calibration tertentu bahkan dapat meningkatkan factuality, tetapi masalahnya belum sepenuhnya terselesaikan.
Penelitian terbaru juga mulai mempelajari calibration pada level klaim individual karena satu jawaban panjang bisa saja terdiri dari banyak fakta yang benar dan beberapa fakta yang salah sekaligus.
Artinya, pertanyaan yang lebih tepat bukan hanya:
“Apakah AI ini pintar?”
Tetapi juga:
“Seberapa baik AI mengetahui batas pengetahuannya sendiri?”
Apakah Model yang Lebih Besar Pasti Lebih Akurat?
Tidak sesederhana itu.
Model yang lebih besar dan lebih canggih memang dapat memiliki kemampuan reasoning dan factuality yang lebih baik pada banyak tugas.
Tetapi lebih pintar bukan berarti bebas dari hallucination.
Bahkan penelitian terbaru menunjukkan bahwa persoalan factuality masih menjadi area penelitian aktif pada berbagai model dan skala.
Ada pertanyaan yang jawabannya tidak tersedia.
Ada informasi yang sudah berubah.
Ada pertanyaan yang ambigu.
Ada sumber yang saling bertentangan.
Dan ada detail yang terlalu spesifik untuk dapat dipastikan hanya berdasarkan pola yang dipelajari model.
Jadi, peningkatan kemampuan model memang penting, tetapi kemampuan untuk mengakui ketidakpastian juga sama pentingnya.
Lalu Bagaimana Cara Mengurangi Kesalahan AI?
Salah satu pendekatan penting adalah memberikan model akses terhadap sumber eksternal yang dapat diverifikasi.
Inilah salah satu alasan teknik seperti retrieval-augmented generation (RAG) banyak digunakan.
Alih-alih hanya mengandalkan pengetahuan yang tersimpan dalam parameter model, sistem dapat mengambil informasi dari dokumen atau sumber eksternal terlebih dahulu, kemudian menggunakan informasi tersebut sebagai dasar untuk menghasilkan jawaban.
Namun RAG juga bukan obat ajaib.
Jika sumber yang diambil salah, tidak lengkap, atau tidak relevan, jawaban akhirnya tetap bisa bermasalah. Literatur tentang hallucination juga menunjukkan bahwa retrieval dapat membantu factuality tetapi memiliki keterbatasannya sendiri.
Karena itu, untuk informasi penting, verifikasi tetap diperlukan.
Jadi, Apakah Kita Tidak Bisa Mempercayai AI?
Bukan begitu.
Kesimpulan yang lebih tepat adalah:
Jangan menyamakan kefasihan dengan kebenaran.
AI sangat berguna untuk:
menjelaskan konsep;
melakukan brainstorming;
merangkum informasi;
membantu analisis;
membuat draft;
menemukan kemungkinan sudut pandang;
membantu coding;
dan mempercepat banyak pekerjaan intelektual.
Tetapi tingkat verifikasi harus disesuaikan dengan tingkat risikonya.
Untuk mencari ide konten, kesalahan kecil mungkin tidak terlalu berbahaya.
Untuk keputusan medis, hukum, finansial, akademik, atau bisnis bernilai tinggi, kesalahan yang sama bisa memiliki konsekuensi serius.
AI sangat berguna untuk menjelaskan berbagai konsep. Misalnya, ProSains juga membahas bagaimana kita dapat memahami fenomena alam melalui penjelasan ilmiah seperti pada artikel Kenapa Langit Berwarna Biru?
Karena itu, semakin tinggi konsekuensi sebuah kesalahan, semakin tinggi pula standar verifikasi yang seharusnya digunakan.
Cara Sederhana Menggunakan AI dengan Lebih Aman
Ada kebiasaan sederhana yang bisa mengurangi risiko:
1. Minta sumber
Jangan hanya bertanya:
“Apa jawabannya?”
Coba lanjutkan dengan:
“Apa sumber yang mendukung klaim tersebut?”
2. Verifikasi fakta penting
Terutama untuk:
angka;
tanggal;
nama;
kutipan;
penelitian;
regulasi;
harga;
statistik;
dan informasi terbaru.
3. Bedakan fakta dan interpretasi
AI bisa memberikan interpretasi yang terdengar seperti fakta.
Tanyakan:
“Mana yang merupakan fakta, dan mana yang merupakan inferensi?”
4. Gunakan sumber primer untuk keputusan penting
Untuk penelitian ilmiah, misalnya, lebih baik kembali ke paper asli daripada berhenti pada rangkuman AI.
5. Beri AI konteks dan sumber
Semakin jelas dokumen atau bukti yang menjadi dasar pertanyaan, semakin kecil ketergantungan pada tebakan model.
AI yang Baik Bukan AI yang Selalu Menjawab
Ini mungkin bagian paling penting dari seluruh pembahasan.
Selama kita menganggap AI yang hebat adalah AI yang selalu punya jawaban, kita berisiko mendorong sistem untuk terus menjawab bahkan ketika informasinya tidak cukup.
Padahal, dalam banyak situasi, jawaban terbaik justru:
“Saya tidak cukup yakin untuk memastikan itu.”
Penelitian tentang hallucination menunjukkan bahwa menghindari kesalahan bukan hanya persoalan meningkatkan akurasi. Sistem juga perlu memiliki kemampuan untuk abstain, atau menahan diri ketika jawaban tidak dapat dipastikan.
Dengan kata lain, masa depan AI yang lebih dapat dipercaya bukan hanya tentang membuat model lebih pintar.
Tetapi membuatnya:
lebih akurat, lebih terkalibrasi, lebih transparan, dan lebih tahu kapan harus berkata “saya tidak tahu”.
AI dapat menghasilkan jawaban yang salah tetapi terdengar sangat meyakinkan. Fenomena ini dikenal sebagai AI hallucination, yaitu ketika AI menghasilkan informasi yang tampak masuk akal tetapi ternyata tidak benar atau tidak didukung bukti yang memadai.
Large Language Model (LLM) dirancang untuk menghasilkan bahasa berdasarkan pola yang dipelajarinya. Kemampuan menghasilkan kalimat yang lancar tidak otomatis berarti setiap fakta telah diverifikasi. Karena itu, semakin penting informasi yang diberikan AI, semakin penting pula kita memeriksa bukti di balik jawabannya.
KESIMPULAN: Jangan menilai kebenaran jawaban AI dari seberapa percaya diri atau seberapa rapi jawabannya. Untuk informasi penting, periksa bukti di balik jawabannya.
Sumber Rujukan
Kalai, A. T., Nachum, O., Vempala, S. S., Zhang, E., et al. (2025). Why Language Models Hallucinate. OpenAI.
Huang, L., et al. (2023). A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions.
Liu, X., Bayat, F. F., & Wang, L. (2024). Enhancing Language Model Factuality via Activation-Based Confidence Calibration and Guided Decoding. EMNLP 2024.
Zhang, C., et al. (2025). Atomic Calibration of LLMs in Long-Form Generations.
Rahman, S. S., et al. (2025). Hallucination to Truth: A Review of Fact-Checking and Factuality Evaluation in Large Language Models.