Le fine-tuning, ou ajustement fin, est une technique qui adapte un modèle d’IA préentraîné à une tâche précise en prolongeant son entraînement sur quelques exemples ciblés. Il modifie les poids du modèle, pas ses instructions.
Un grand modèle de langage préentraîné sur des textes généraux est ensuite ajusté sur des exemples annotés, comme des libellés de facture associés au bon compte de classe 6 du PCG. LoRA (2021) gèle les poids préentraînés et n’entraîne que de petites matrices ajoutées ; ses auteurs annoncent, face au fine-tuning complet de GPT-3 175B, 10 000 fois moins de paramètres entraînables et trois fois moins de mémoire GPU.
Le fine-tuning convient à certains besoins, pas à d’autres :
- Bon usage : format de sortie fixe, étiquettes stables, style maison
- Mauvais usage : les faits qui changent (prix négociés, RIB fournisseurs), figés à la date d’entraînement
- Coût caché : chaque nouveau modèle de base oblige à réentraîner et retester sur un jeu de données de référence
- Traçabilité : un savoir stocké dans les poids ne renvoie à aucune source
Selon une étude de Gekhman et ses coauteurs (2024), les modèles de langage peinent à acquérir des faits nouveaux par fine-tuning et, une fois ces exemples appris, leur tendance à l’hallucination augmente linéairement. Un contrôle doit donc lire le prix dans le contrat en vigueur.
Côté RGPD, l’avis 28/2024 du Comité européen de la protection des données (17 décembre 2024) estime que les modèles entraînés sur des données personnelles « ne peuvent pas, dans tous les cas, être considérés comme anonymes » : un modèle ajusté sur des notes de frais nominatives peut relever du RGPD.
Le fine-tuning se distingue de la génération augmentée par récupération, qui laisse le modèle intact et lui fournit les documents à chaque requête, et des embeddings, qui représentent le sens sans rédiger de réponse.
La page sécurité de Phacet précise que les données clients ne sont jamais utilisées pour entraîner les modèles. Les spécificités de l’entreprise passent par la configuration : règles métiers comme les seuils de tolérance, appliquées à 100 % des flux, et workflows mêlant IA et règles déterministes.