Validation IA en 3 niveaux : quelle relecture humaine selon le risque ?

Vous avez automatisé une partie de vos devis, de vos e-mails clients ou de vos réponses à appels d'offres, et l'équipe, par prudence, fait tout relire. Résultat : le temps gagné à la production est reperdu à la relecture, et l'automatisation ne rapporte plus rien. C'est typiquement le cas quand on veut automatiser ses devis avec un contrôle humain sans avoir défini qui relit quoi.

Vous n'avez pas besoin de relire chaque mot produit par une IA avec la même intensité. Vous devez en revanche savoir quelles sorties peuvent engager l'entreprise, un client ou un salarié. La bonne question est donc : quel niveau de contrôle correspond au risque, à la difficulté de vérification et à la possibilité de revenir en arrière ?

Pourquoi le risque n'est-il pas le même pour toutes les sorties ?

Parce qu'une reformulation interne et un montant de facture n'ont pas les mêmes conséquences en cas d'erreur. Un résumé peut sembler fluide tout en omettant une réserve importante. Une réponse client peut promettre un délai que le stock ne permet pas de tenir. Une réponse à appel d'offres peut reprendre une exigence de travers et fragiliser l'offre.

La CNIL rappelle que les systèmes génératifs peuvent produire des résultats inexacts mais plausibles, et que leurs sorties doivent être examinées avec un regard critique. Cela ne signifie pas que chaque brouillon doit être relu ligne par ligne : la supervision doit être proportionnée à l'usage. Une recherche documentaire, des données de référence et un prompt précis réduisent les erreurs, mais ne remplacent pas le contrôle métier.

Quelles erreurs coûtent le plus cher ?

Les montants, factures et engagements

Une TVA, une marge, une quantité ou une date peuvent être plausibles et pourtant fausses. Tout contenu qui contient un prix, un pourcentage, une garantie ou une obligation contractuelle doit être routé vers une validation humaine complète. Comparez avec la source de référence et conservez la version validée.

Les e-mails clients qui engagent

Un brouillon peut aider à désamorcer une réclamation, mais l'entreprise doit vérifier l'historique, le stock, le contrat et le délai avant envoi. Les mots « garanti », « demain », « remboursement » ou « résiliation » sont des signaux de contrôle renforcé.

Les réponses aux appels d'offres

Un mémoire technique doit répondre au CCTP avec les moyens réels de l'entreprise. Contrôlez chaque exigence, chaque chiffre et chaque référence de chantier. L'IA peut préparer un tableau de correspondance ; elle ne décide pas de la conformité de l'offre.

Niveau 1 : quand faut-il une relecture humaine complète ?

Pour tout ce qui engage financièrement ou juridiquement l'entreprise : montants, TVA, marges, contrats, CGV, DPGF, BPU, mémoires techniques, données de santé, décisions RH, données personnelles sensibles et messages comportant un engagement de délai, de prix ou de responsabilité.

Trois règles rendent ce niveau efficace :

• un routage automatique : si une sortie contient un signe €, un pourcentage, une date d'engagement ou le mot « garantie », elle part en validation humaine ;
• une séparation des rôles : la personne qui valide n'est pas celle qui a lancé la génération ; deux personnes relisent les éléments les plus exposés ;
• une trace : le journal indique la source, la personne qui valide, la date et la version envoyée.

Niveau 2 : comment fonctionne le contrôle par échantillon ?

Les synthèses internes, comptes rendus, relances et contenus non chiffrés suivent une procédure standard. Contrôlez un échantillon défini à l'avance, par exemple une sortie sur cinq, et ajoutez un contrôle ciblé dès qu'un mot à risque apparaît : « toujours », « garanti », « offert », « litige », « avocat ».

Si l'échantillon révèle une erreur récurrente, repassez temporairement ce flux au niveau critique. C'est ce qui permet de relire intelligemment vingt messages plutôt que cent, sans baisser la garde.

Niveau 3 : que peut-on laisser en automatique ?

Les idées, reformulations internes, prises de notes et brouillons sans impact direct peuvent être produits automatiquement. Préservez un bouton d'annulation, limitez les données transmises et vérifiez périodiquement un échantillon. Le niveau automatique ne convient jamais à une décision finale ni à une promesse client.

Que dit l'AI Act sur la supervision humaine ?

L'article 14 du règlement européen sur l'IA impose une surveillance humaine effective pour les systèmes classés à haut risque, avec la possibilité pour les personnes désignées d'interpréter les sorties et de les écarter. La plupart des usages de rédaction en PME ne relèvent pas de cette catégorie, mais le principe reste une bonne pratique : une personne compétente doit pouvoir comprendre, corriger ou annuler ce que l'outil produit.

Comment mettre la méthode en place dès demain ?

1. Listez vos sorties IA dans un tableau à trois colonnes : critique, standard, automatique.
2. Branchez les sorties critiques vers une personne responsable.
3. Ajoutez une source de référence pour les prix, stocks, contrats et exigences.
4. Créez les règles de routage dans votre outil d'automatisation : montant vers le niveau 1, e-mail externe vers le niveau 2, le reste vers le niveau 3.
5. Formez l'équipe aux signaux d'alerte : une citation parfaite sans source, une promesse absolue, un chiffre sans origine.
6. Tracez les validations, les corrections et les incidents.

En Seine-et-Marne, en Seine-Saint-Denis et dans le Val-de-Marne, la logique reste la même : adaptez les sources et les personnes responsables à votre métier. Un artisan du BTP mettra ses devis au niveau 1 ; une entreprise de services à fort volume d'e-mails s'appuiera surtout sur l'échantillonnage du niveau 2.

Sources

Limites : les niveaux proposés sont une méthode opérationnelle. Ils ne remplacent ni une analyse juridique ni une procédure adaptée à votre organisation.

• CNIL, intelligence artificielle : ressources de la CNIL sur les usages de l'IA et la protection des données.
• CNIL, questions-réponses sur l'utilisation d'un système d'IA générative : résultats inexacts mais plausibles, regard critique sur les sorties.
• EUR-Lex, règlement (UE) 2024/1689 sur l'intelligence artificielle : article 14 sur le contrôle humain des systèmes à haut risque.