Hallucination (AI)
Output AI yang sangat meyakinkan tetapi faktanya salah atau tidak berdasar.
AI Hallucination (halusinasi) adalah fenomena di mana model AI menghasilkan output yang terdengar masuk akal dan disampaikan dengan sangat percaya diri, tetapi faktanya salah, tidak akurat, atau tidak berdasar. Contoh terkenal: AI lawyer yang mengutip kasus pengadilan yang tidak pernah ada (2023). Penyebab: training data tidak sempurna, model menggeneralisasi pola tanpa verifikasi, dan tidak ada mekanisme fact-checking bawaan. Mitigasi: gunakan RAG untuk grounding jawaban ke sumber nyata, validasi fakta dari sumber terpercaya, tampilkan confidence level, dan disclaimer untuk output tidak pasti.