Dans cet article
Un agent IA peut choisir une prochaine action, appeler des outils et transmettre une sortie à l'étape suivante. Cela ne signifie pas qu'il est autonome au sens d'un opérateur responsable. En production, la qualité dépend surtout du périmètre, des données, des permissions, des tests et de la capacité de l'équipe à reprendre la main. Avant d'opter pour un agent, notre guide pour choisir entre automatisation, assistant et agent aide à fixer le bon niveau d'autonomie.
En bref
Un agent IA ne remplace pas le processus qui l'entoure :
- commencez par une tâche bornée, fréquente et réversible ;
- distinguez ce que l'agent prépare de ce qu'il exécute, et limitez ses permissions ;
- faites valider toute action sensible par une personne ;
- prévoyez ce qui se passe lorsqu'il se trompe, boucle ou rencontre une donnée inattendue.
La bonne question n'est pas de savoir s'il peut agir seul, mais si l'équipe peut reprendre la main à tout moment.
Pourquoi un agent tient en démonstration et déçoit en production
Une démonstration montre généralement un chemin court, avec des données propres et une exception préparée. Un environnement réel ajoute des doublons, des droits incomplets, des systèmes lents, des demandes ambiguës et des actions irréversibles. Les limites ne sont donc pas seulement celles du modèle : elles viennent du système qui l'entoure.
Datadog observe dans son analyse de l'ingénierie IA en production que les erreurs d'appels de modèles sont souvent liées aux limites de capacité et aux rate limits. Gartner recommande de réserver les agents aux cas où la valeur, le risque et le retour attendu sont clairs. Ces deux repères invitent à tester le flux complet, pas uniquement la qualité d'une réponse isolée.
Les 7 limites opérationnelles à vérifier
1. L'hallucination se propage d'une étape à l'autre
Une sortie plausible peut devenir l'entrée du composant suivant. Si aucun contrôle ne s'intercale, une information inventée peut être enrichie, enregistrée ou envoyée. Les évaluations publiées par OpenAI montrent que les taux d'hallucination varient selon le modèle, la tâche et le jeu d'évaluation. Il faut donc mesurer sur vos propres cas difficiles.
Garde-fous : sortie structurée, schéma validé à chaque étape, sources affichées, échantillon de contrôle et validation humaine avant toute écriture métier.
2. Les boucles créent de la latence et des coûts
Un agent peut refaire une recherche, rappeler le même outil ou changer de stratégie sans progresser. Sans limite explicite, le temps de réponse et la consommation deviennent imprévisibles.
Garde-fous : nombre maximal d'itérations, délai d'expiration, budget par tâche, détection de progrès et arrêt propre vers une file humaine.
3. Le coût réel dépasse le prix du modèle
Le coût d'un agent comprend les appels supplémentaires, les reprises, la recherche documentaire, le stockage, l'observabilité, la maintenance et le temps de supervision. Un test isolé ne suffit pas à estimer le coût d'un processus.
Garde-fous : mesurer le coût complet par tâche, séparer les chemins simples des chemins d'exception et comparer avec le temps de correction humain.
4. Les outils et le SI existant limitent l'agent
Une API mal documentée, une pagination oubliée, une recherche trop stricte ou une écriture non idempotente suffit à produire un flux fragile. L'agent ne peut pas compenser un outil qui renvoie une information ambiguë.
Garde-fous : contrat d'outil versionné, entrées et sorties structurées, permissions minimales, idempotence, mocks et tests d'erreur avant connexion au système réel.
5. La sécurité ne se résume pas au prompt
Les risques couvrent le détournement d'objectif, l'usage abusif d'un outil, les privilèges excessifs, la chaîne d'approvisionnement, l'exécution de code, la mémoire et les communications entre agents. L'OWASP propose un référentiel de sécurité dédié aux applications agentiques pour structurer cette revue.
Garde-fous : validation des entrées, moindre privilège, cloisonnement de la mémoire, validation des appels d'outils, journalisation et approbation humaine pour les actions critiques.
6. Sans observabilité, l'incident reste inexpliqué
Une réponse finale ne montre pas toujours les étapes qui l'ont produite. Sans historique des appels, des outils, des versions de consignes et des erreurs, il devient difficile de reproduire un incident ou de corriger le flux.
Garde-fous : identifiant de trace, journal des décisions, versions des prompts, suivi de la latence, des erreurs, des tokens et des reprises, avec respect de la minimisation des données.
7. L'autonomie totale est un mauvais objectif
Une entreprise peut vouloir supprimer toutes les validations alors que le processus comporte du jugement, une relation client ou un risque contractuel. Dans ces cas, l'autonomie augmente surtout la difficulté de contrôle. L'automatisation déterministe est souvent préférable pour les règles fixes, l'assistant pour préparer une réponse et le duo humain plus agent pour les cas variables.
Garde-fous : définir les actions que l'agent peut préparer, celles qu'il peut exécuter et celles qui nécessitent une approbation explicite.
Une méthode de passage en production
Cartographier le processus
Décrivez l'entrée, les étapes, les systèmes appelés, les exceptions, les données utilisées et la sortie attendue. Si le processus ne peut pas être expliqué sans l'outil, il n'est pas encore prêt à être automatisé. Un diagnostic d'automatisation pour TPE et PME aide à réaliser cette cartographie avant de choisir un agent plutôt qu'un flux plus simple.
Choisir le plus petit périmètre utile
Commencez par une tâche fréquente, réversible et mesurable. Gardez le chemin manuel disponible. Un assistant qui prépare une synthèse ou classe une demande peut être un meilleur premier jalon qu'un agent autorisé à modifier directement un CRM.
Tester avec des cas normaux et difficiles
Constituez un jeu de test représentatif : informations manquantes, doublons, demandes ambiguës, outil indisponible et refus de consentement. Mesurez la qualité, le temps, le coût et les corrections, pas uniquement le taux de réussite apparent.
Déployer progressivement
Versionnez les consignes et les contrats d'outils. Commencez en lecture seule, puis activez les actions une par une. Prévoyez un bouton d'arrêt, un responsable et une procédure de reprise. Le retour arrière fait partie de l'architecture.
Ce que cela change pour une PME locale
Dans une PME de Seine-et-Marne, de Seine-Saint-Denis ou du Val-de-Marne, les mêmes règles s'appliquent aux devis, aux demandes entrantes, aux rendez-vous et au suivi client. Le point important est de ne pas présenter une ville comme une preuve de présence ou un résultat. Décrivez uniquement les zones réellement couvertes et les tâches que votre équipe peut vérifier.
Pour cadrer un premier flux, consultez la page méthode Leka, comparez agent IA et automatisation, ou demandez un diagnostic digital et IA. La prochaine action doit être mesurable et réversible.
À retenir
- Décrivez le processus sur une page avant tout choix d'outil : entrée, systèmes appelés, exceptions, données et sortie attendue.
- Démarrez en lecture seule, puis activez les actions une par une avec un plafond d'itérations, un délai d'expiration et un budget par tâche.
- Constituez un jeu de cas difficiles et mesurez qualité, coût complet et corrections avant toute écriture dans un CRM ou un ERP.
- Réduisez le périmètre ou arrêtez si la supervision coûte plus que le temps gagné, ou si un incident reste inexpliqué faute de traces.
Pour cadrer un premier flux mesurable et réversible, demandez un diagnostic digital et IA.
Sources
Limites : les benchmarks et analyses cités décrivent des environnements et des modèles précis. Ils ne mesurent pas la fiabilité d'un agent dans votre système d'information, qui doit être testée sur vos propres cas.
- Gartner, Agentic AI projects and production risks : recommandation de réserver les agents aux cas où valeur, risque et retour attendu sont clairs.
- OWASP, sécurité des applications agentiques en 2026 : référentiel des risques propres aux applications agentiques.
- CNIL, intelligence artificielle et données personnelles : cadre de protection des données applicable aux systèmes d'IA.
À propos de l’auteur
Jana Brügel, Consultante en stratégie et marketing
Jana accompagne les entreprises dans leurs enjeux de stratégie, de transformation digitale et de marketing. Elle aide à clarifier les priorités, structurer les plans d’action et relier les choix marketing aux objectifs business.
Questions fréquentes
Un agent IA peut-il travailler seul en production ?
Il peut exécuter certaines étapes dans un périmètre borné, mais l'autonomie doit être définie par les permissions, les contrôles, la traçabilité et les règles d'escalade. Les actions sensibles doivent rester soumises à validation.
Quelle est la première limite à tester ?
Testez le comportement sur les données incomplètes et les cas ambigus. Vous verrez rapidement si l'agent sait demander une précision, s'arrêter ou produire une sortie contrôlable plutôt que d'inventer.
Faut-il choisir un agent ou une automatisation classique ?
Une règle fixe appelle une automatisation déterministe. Une information variable peut justifier un assistant. Un agent ne devient pertinent que si plusieurs étapes doivent être planifiées et si ses outils, ses limites et sa validation sont définis.
Comment réduire les hallucinations ?
Limitez les sources, imposez des sorties structurées, validez chaque étape et faites vérifier les actions à impact. Mesurez aussi les erreurs sur un jeu de cas représentatif, car aucun benchmark général ne décrit exactement votre activité.
Comment savoir si le projet est prêt pour la production ?
Vous devez connaître le périmètre, les données autorisées, les permissions, les erreurs acceptables, le coût complet, la personne responsable, la procédure d'arrêt et les indicateurs suivis après le lancement.
Repères locaux
Une présence de terrain en Île-de-France.
Leka accompagne particulièrement les entreprises de Seine-et-Marne, de Seine-Saint-Denis et du Val-de-Marne, sur site ou à distance selon le besoin.
Voir la méthode SEO local