 |
| Ilustrasi Chat dengan AI |
Lalu, mengapa AI bisa melakukan hal seperti itu?
AI Tidak Menjawab Seperti Manusia Mencari Fakta
Salah satu kesalahpahaman yang umum adalah menganggap AI seperti mesin pencari yang mengambil sebuah fakta dari database, kemudian menyampaikannya kepada kita. Model bahasa seperti chatbot generatif bekerja dengan cara yang berbeda. Pada tahap pelatihan, model bahasa mempelajari pola dari jumlah teks yang sangat besar. Salah satu mekanisme dasarnya adalah mempelajari bagaimana kata-kata dan bagian-bagian teks saling berhubungan, kemudian menghasilkan kelanjutan yang paling sesuai dengan konteks. Secara sederhana, bayangkan seseorang membaca jutaan kalimat dan kemudian diminta melanjutkan kalimat:
Matahari terbit dari arah…
Kemungkinan besar jawabannya adalah “timur”. Model bahasa melakukan sesuatu yang jauh lebih kompleks daripada contoh sederhana tersebut, tetapi prinsip dasarnya tetap berkaitan dengan prediksi pola bahasa. Ia tidak selalu memiliki sebuah tabel internal yang berbunyi “pertanyaan X = fakta Y”. Karena itu, kemampuan menghasilkan kalimat yang masuk akal tidak sama dengan kemampuan menjamin bahwa setiap fakta di dalamnya benar.
Masalahnya: Jawaban yang Salah Bisa Terlihat Sangat Benar
Inilah bagian yang paling menarik. Kesalahan AI biasanya tidak muncul dalam bentuk kalimat yang jelas-jelas kacau. Sebaliknya, model dapat menghasilkan paragraf yang memiliki struktur sangat baik. Nama orang, tanggal, lokasi, istilah teknis, dan penjelasan sebab-akibat dapat terlihat seolah-olah semuanya benar. Misalnya, seseorang bertanya tentang sebuah buku yang sangat jarang dibahas. Jika informasi mengenai buku tersebut tidak cukup tersedia dalam pola yang dipelajari model, model dapat menghasilkan judul, nama penulis, tahun penerbitan, bahkan ringkasan yang terdengar masuk akal. Pembaca yang tidak mengetahui topik tersebut mungkin tidak menyadari bahwa sebagian informasinya sebenarnya tidak ada. Penelitian OpenAI tentang halusinasi bahasa menunjukkan bahwa model dapat menghasilkan pernyataan yang masuk akal tetapi salah, termasuk informasi spesifik seperti judul karya dan tanggal yang ternyata tidak benar.
Dengan kata lain: AI bisa sangat fasih tanpa selalu benar.
Mengapa AI Tidak Cukup Mengatakan “Saya Tidak Tahu”?
Pertanyaan berikutnya adalah: kalau AI tidak yakin, mengapa tidak mengatakan saja bahwa ia tidak tahu? Ini ternyata merupakan persoalan yang cukup mendasar. Salah satu penelitian OpenAI pada 2025 berargumen bahwa sebagian prosedur pelatihan dan evaluasi model dapat memberikan insentif kepada model untuk menebak daripada mengakui ketidakpastian. Bayangkan seorang siswa mengikuti ujian pilihan ganda.
Jika tidak tahu jawabannya, ada dua pilihan:
- Mengosongkan jawaban.
- Menebak salah satu pilihan.
Jika jawaban kosong selalu mendapat nilai nol, sementara tebakan mempunyai kemungkinan mendapatkan nilai, maka menebak menjadi strategi yang masuk akal. Model bahasa menghadapi persoalan yang mirip dalam beberapa jenis evaluasi. Ketika model tidak mengetahui jawaban yang tepat, menghasilkan sebuah jawaban yang masuk akal terkadang dapat terlihat lebih “berhasil” daripada mengatakan:
Saya tidak tahu.
Akibatnya, sistem dapat terdorong untuk menghasilkan jawaban daripada berhenti ketika informasi yang dimilikinya tidak memadai.
AI Tidak Selalu “Berbohong”
Ada perbedaan penting antara berbohong dan menghasilkan informasi yang salah. Ketika manusia berbohong, biasanya terdapat niat untuk menyampaikan sesuatu yang diketahui tidak benar. AI tidak harus memiliki niat seperti itu. Ketika sebuah model menghasilkan fakta yang salah, kita tidak perlu menganggap model tersebut sedang mencoba menipu pengguna. Lebih tepat melihatnya sebagai kegagalan model dalam menghasilkan informasi yang benar berdasarkan pola dan informasi yang tersedia baginya.
Karena itu, kalimat seperti:
AI berbohong kepada kita
sering kali terlalu menyederhanakan persoalan. Masalah sebenarnya jauh lebih teknis: model dapat menghasilkan keluaran yang secara linguistik sangat baik tetapi secara faktual tidak akurat. Bahkan istilah “hallucination” sendiri masih menjadi bahan diskusi di kalangan peneliti karena istilah tersebut dapat membuat orang menganggap AI memiliki pengalaman atau proses mental seperti manusia.
Fakta yang Jarang Justru Bisa Lebih Sulit
Ada jenis informasi tertentu yang lebih mudah menyebabkan masalah. Misalnya, fakta yang sangat umum dan sering muncul dalam berbagai sumber biasanya memiliki banyak pola pendukung. Tetapi bagaimana dengan informasi yang sangat spesifik?
Contohnya:
- tanggal lahir seseorang yang tidak terkenal,
- judul karya yang sangat jarang dibahas,
- nama sebuah organisasi kecil,
- statistik dari penelitian tertentu,
- detail sebuah peristiwa lokal,
- atau referensi akademis yang hampir tidak pernah disebut.
Informasi seperti ini mungkin memiliki sedikit pola dalam data pelatihan. Penelitian OpenAI menjelaskan bahwa fakta arbitrer dan berfrekuensi rendah memang lebih sulit diprediksi hanya berdasarkan pola statistik. Jadi, semakin spesifik sebuah pertanyaan, bukan berarti AI otomatis semakin akurat. Dalam kondisi tertentu justru sebaliknya.
AI Juga Bisa Salah Ketika Pertanyaannya Ambigu
Tidak semua kesalahan berasal dari kurangnya pengetahuan. Kadang masalahnya ada pada pertanyaan. Misalnya seseorang bertanya:
Kapan dia meninggal?
Siapa “dia”?
Jika percakapan sebelumnya tidak memberikan konteks yang cukup, model harus menentukan interpretasinya sendiri. Model yang terlalu cepat memilih satu interpretasi dapat menghasilkan jawaban yang terlihat sangat yakin, padahal sejak awal pertanyaannya ambigu. Itulah sebabnya dalam beberapa situasi, pertanyaan klarifikasi justru lebih baik daripada jawaban langsung. AI yang mengatakan “Maksud Anda orang yang mana?” sebenarnya dapat lebih dapat dipercaya daripada AI yang langsung memberikan tanggal kematian seseorang.
AI Bisa Salah Bahkan Ketika Sebelumnya Pernah Benar
Ada fenomena lain yang lebih menarik. Sebuah model bisa menjawab suatu pertanyaan dengan benar dalam satu konteks, tetapi menghasilkan jawaban salah ketika pertanyaan tersebut diubah sedikit. Penelitian yang dipresentasikan pada EMNLP 2025 menemukan kasus di mana model dapat menjawab pertanyaan dengan benar, tetapi perubahan kecil pada pertanyaan dapat membuatnya menghasilkan jawaban yang salah dengan tingkat keyakinan tinggi. Peneliti menyebut fenomena ini sebagai CHOKE (Certain Hallucinations Overriding Known Evidence). Ini menunjukkan bahwa “AI pernah menjawab dengan benar” bukan jaminan bahwa jawaban berikutnya akan selalu benar. Konteks pertanyaan, cara pertanyaan ditulis, dan informasi yang diberikan kepada model semuanya dapat memengaruhi hasil.
Mengapa Gaya Bahasa AI Membuatnya Terlihat Meyakinkan?
Ada faktor lain yang sering dilupakan: bahasa manusia sendiri memiliki kekuatan persuasif.
AI modern sangat pandai membuat tulisan yang terstruktur. Ia dapat menggunakan:
- kalimat yang terdengar profesional.
- istilah teknis,
- penjelasan sebab-akibat,
- daftar poin,
- contoh,
- angka,
- dan struktur argumentasi.
Semua itu membuat jawaban terasa kredibel.
Namun, kualitas penyampaian tidak sama dengan kualitas fakta. Sebuah informasi yang salah tetap salah meskipun ditulis dengan tata bahasa sempurna. Bahkan sebuah penelitian mengenai deteksi halusinasi LLM menyoroti bahwa keluaran yang salah dapat terlihat natural dan meyakinkan sehingga menimbulkan masalah kepercayaan terhadap sistem AI.
Inilah alasan mengapa kita tidak boleh menggunakan tingkat keyakinan bahasa AI sebagai pengganti bukti.
Jadi, Apakah AI Tidak Bisa Dipercaya?
Bukan begitu. Kesimpulan bahwa “AI sering salah, jadi jangan percaya AI sama sekali” juga terlalu ekstrem.
AI tetap sangat berguna untuk berbagai pekerjaan, seperti membantu menjelaskan konsep, merangkum informasi, menghasilkan ide, membantu menulis, melakukan analisis tertentu, dan membantu pekerjaan teknis. Masalahnya adalah kita harus memahami batas penggunaannya. Untuk pertanyaan sederhana dan berisiko rendah, kesalahan kecil mungkin tidak terlalu bermasalah.
Tetapi untuk informasi medis, hukum, keuangan, penelitian akademik, berita terkini, atau keputusan penting lainnya, informasi dari AI sebaiknya diverifikasi menggunakan sumber yang dapat dipercaya. OpenAI sendiri menyarankan pengguna untuk bersikap kritis dan memverifikasi informasi penting karena model dapat menghasilkan jawaban yang salah atau menyesatkan.
Bagaimana Cara Mengurangi Risiko Mendapatkan Jawaban Salah?
Ada beberapa kebiasaan sederhana yang dapat membantu. Pertama, minta sumber. Jika AI memberikan sebuah fakta penting, tanyakan dari mana informasi tersebut berasal. Namun jangan berhenti di sana. Periksa sumbernya secara langsung. AI juga dapat menghasilkan referensi yang tidak ada. Kedua, gunakan sumber primer jika memungkinkan. Untuk penelitian, misalnya, lebih baik memeriksa paper asli daripada hanya mengandalkan ringkasan AI. Untuk informasi pemerintah, gunakan situs resmi.Untuk berita, periksa laporan media yang kredibel dan tanggal publikasinya. Ketiga, berhati-hati terhadap angka dan nama spesifik. Tanggal, statistik, nama orang, judul penelitian, kutipan, dan referensi adalah jenis informasi yang sangat layak diverifikasi. Keempat, gunakan AI sebagai alat bantu berpikir, bukan sebagai otoritas mutlak. AI dapat membantu kita menemukan kemungkinan jawaban. Tetapi “kemungkinan jawaban” dan “fakta yang sudah terverifikasi” adalah dua hal berbeda.
AI yang Lebih Pintar Belum Berarti AI Tanpa Halusinasi.
Kemajuan model memang dapat mengurangi tingkat kesalahan. Tetapi lebih pintar tidak berarti otomatis sempurna. OpenAI sendiri menyatakan bahwa model yang lebih baru mengalami penurunan tingkat halusinasi, tetapi masalah tersebut masih tetap ada.
Ini penting karena kita sering mempunyai asumsi:
Kalau AI semakin canggih, nanti semua jawabannya pasti benar.
Itu tidak sesederhana itu.
Ada pertanyaan yang informasinya memang tidak tersedia. Ada pertanyaan yang ambigu. Ada fakta yang sangat jarang. Ada informasi yang berubah dari waktu ke waktu. Dan ada persoalan yang membutuhkan sumber eksternal untuk diverifikasi. Karena itu, kemampuan AI untuk mengatakan “saya tidak yakin” sama pentingnya dengan kemampuan menghasilkan jawaban.
Kesimpulan
AI bisa menghasilkan jawaban yang meyakinkan tetapi salah karena kemampuan menghasilkan bahasa yang lancar tidak sama dengan kemampuan menjamin kebenaran fakta.
Model bahasa belajar berbagai pola dari data dan kemudian menghasilkan respons berdasarkan pola tersebut. Dalam kondisi tertentu, terutama ketika informasi tidak jelas, langka, ambigu, atau berada di luar pengetahuan yang tersedia, model dapat menghasilkan jawaban yang terdengar masuk akal tetapi sebenarnya keliru. Yang membuat masalah ini semakin sulit dikenali adalah gaya bahasa AI yang semakin natural. Jawaban yang salah tidak selalu terlihat seperti kesalahan. Kadang justru terlihat sangat profesional.
Karena itu, cara terbaik menggunakan AI bukanlah percaya sepenuhnya atau tidak percaya sama sekali.
Sikap yang lebih tepat adalah:
Gunakan AI untuk membantu berpikir. Gunakan sumber terpercaya untuk memastikan fakta. Pada akhirnya, kemampuan paling penting ketika menggunakan AI bukan hanya mengetahui bagaimana cara bertanya, tetapi juga mengetahui kapan sebuah jawaban perlu dipertanyakan. Dan mungkin di situlah kita menemukan pelajaran terbesar dari fenomena halusinasi AI: jawaban yang terdengar paling meyakinkan belum tentu merupakan jawaban yang paling benar.
