Une hallucination est une sortie d'un modèle d'IA qui paraît crédible et bien formulée, mais qui est factuellement fausse ou totalement inventée.
C'est l'un des risques majeurs des LLM en entreprise : le modèle ne « ment » pas volontairement, il génère la suite la plus probable — qui peut être fausse. Les hallucinations se combattent par le grounding (ancrer les réponses sur des sources via le RAG), l'évaluation continue et la supervision humaine.
→ Comment les détecter et les mesurer : observabilité et évaluation des agents IA.
Équipe Origin 137Origin 137