Une hallucination LLM, c'est quand un grand modèle de langage produit une affirmation fluide et assurée mais factuellement fausse ou non étayée, en inventant un chiffre, un fait ou une source qui n'existe pas. Cela arrive parce que le modèle génère le texte qui sonne le plus plausible, pas la vérité vérifiée, et plausible n'est pas synonyme de correct.
En finance, l'hallucination est le risque disqualifiant. Un modèle qui affirme avec assurance un chiffre faux, un total de facture inventé ou une clause de contrat inexistante est pire qu'inutile : la sortie a l'air fiable. Toute IA qui touche à la donnée financière doit être conçue pour ne pas pouvoir simplement inventer.
La défense est une question de conception, pas d'espoir. Une IA qui vérifie contre des documents source et expose son raisonnement ne peut pas halluciner un résultat comme le ferait un chatbot en génération libre, car chaque sortie doit renvoyer à une donnée réelle.
C'est ainsi qu'est construit Phacet. Ses agents ne génèrent pas de chiffres à partir de connaissances générales ; ils contrôlent les documents de l'entreprise et rapportent ce qu'ils trouvent. L'agent qui contrôle la facturation fournisseurs compare les factures aux prix réels, l'agent de 3-way matching relie chacune à sa commande et à sa livraison, et l'agent qui vérifie les factures au regard des termes du contrat contrôle contre le contrat réel. Chaque conclusion est appuyée par un audit trail natif montrant la source.
L'hallucination est le risque d'une IA qui affirme sans ancrage. Phacet le contre en vérifiant contre la donnée source et en exposant le raisonnement, pour que chaque sortie puisse être vérifiée, pas seulement crue.
