IA en entreprise sans chaos : quoi automatiser et quoi garder humain

L’erreur la plus fréquente dans un projet d’IA consiste à commencer par la question : où pouvons-nous ajouter un chatbot ? Que l’ordre soit inverse, autrement dit le processus d’abord, la technologie ensuite, nous l’avons développé dans l’article L’IA ne sauvera pas un mauvais processus, y compris la séquence Remove, Simplify, Automate, Augment.

Ce texte commence une étape plus loin, au point où vous connaissez le processus et où il faut décider qui y fait quoi : quelles tâches relèvent d’une règle, lesquelles d’un modèle et lesquelles d’un humain, comment vous configurez les accès et la validation, et ce que vous faites le jour où le modèle se trompe. Ces trois points font échouer plus de déploiements que la qualité du modèle.

Cartographier le processus avant de choisir le modèle

Répartir les tâches n’est possible qu’au-dessus d’un processus cartographié : qui crée l’information, où elle est ressaisie, qui la vérifie et ce qui se passe en cas d’erreur. Sans cela, vous ne savez pas si une tâche relève d’une règle, d’un modèle ou d’un humain.

De nombreuses tâches que les entreprises étiquettent comme projet IA n’ont en réalité pas besoin d’IA. Envoyer un formulaire dans le CRM ou créer une tâche après un changement de statut de commande relève de l’automatisation déterministe, c’est-à-dire d’une suite de règles qui, pour une même entrée, produit toujours la même sortie. Elle est moins chère, plus prévisible et plus simple à auditer.

La distinction n’est pas seulement terminologique. Le règlement européen sur l’IA indique, au considérant 12, que la définition d’un système d’IA ne doit pas couvrir les systèmes fondés sur des règles définies exclusivement par des personnes physiques. La propriété clé d’un système d’IA est la capacité d’inférence, c’est-à-dire de produire des prédictions, du contenu ou des décisions au-delà du traitement basique des données. En pratique : si une tâche peut s’écrire sous forme de règle, écrivez-la sous forme de règle.

L’IA prend tout son sens là où l’entrée n’est pas structurée : e-mails, documents, appels, notes, images, ou situations où il faut résumer une information, la classer ou préparer une proposition de décision. L’adoption va dans le même sens : selon Eurostat, la technologie d’IA la plus répandue dans les entreprises de l’UE en 2025 était le text mining, c’est-à-dire l’analyse de texte écrit, avec 11,75 %.

Quelles tâches confier à la machine et lesquelles garder humaines

Plutôt qu’une liste de cas d’usage à la mode, trois questions suffisent.

• Quel est le coût d’une erreur ? Une mauvaise note interne coûte une minute, une offre mal envoyée coûte une marge ou un client. Plus le coût est élevé, plus l’humain doit être proche de la décision.
• La sortie se vérifie-t-elle plus vite qu’elle ne se produit ? Si oui, c’est un candidat pour une proposition du modèle avec confirmation humaine. Si le contrôle prend plus de temps que le travail lui-même, le modèle ne fait que déplacer l’effort ailleurs.
• L’action est-elle réversible ? Un brouillon, une classification ou un résumé se jettent. Un e-mail envoyé, un prix modifié, une facture payée ou des données supprimées, non.

Le résultat est une répartition que vous pouvez défendre devant le directeur financier comme devant le juriste. Au modèle l’interprétation et la proposition, aux règles tout ce qui est univoque et répété, à l’humain la décision coûteuse, irréversible ou engageant la responsabilité envers un tiers.

Où chercher les premières tâches ? L’étude de terrain des économistes Brynjolfsson, Li et Raymond, publiée comme document de travail de l’organisation de recherche américaine NBER, donne une indication. Sur un échantillon de 5 179 agents de support client, un assistant génératif a augmenté le nombre de demandes résolues par heure de 14 % en moyenne. Chez les nouveaux venus et les moins expérimentés, le gain atteignait 34 %, alors que l’effet était minime chez les plus expérimentés, car le modèle diffuse les pratiques des meilleurs.

La conclusion est concrète : l’IA relève le plancher, pas le plafond. Cherchez les endroits où la dispersion de qualité entre les personnes est la plus forte, pas ceux où votre performance est déjà excellente.

La plus grande valeur est souvent invisible pour le client

Une IA efficace n’a pas besoin d’un avatar sur la page d’accueil. En coulisses, elle peut préparer le contexte d’un commercial avant un appel, produire un premier brouillon d’offre, détecter des informations manquantes dans une commande ou convertir une réunion en tâches. L’humain fait alors moins d’administration et davantage le travail pour lequel l’entreprise a réellement besoin de lui. La façon de construire une entreprise directement sur ce principe est décrite dans notre texte sur l’entreprise sans armée administrative.

Dans son index économique de septembre 2025, Anthropic indique, sur ses propres données, que 77 % des cas de son API d’entreprise présentaient des schémas d’automatisation, contre environ 50 % dans l’application grand public. Les entreprises n’achètent pas de la conversation, elles achètent du travail dans un processus que le client ne verra jamais.

Exemple type. Une entreprise industrielle reçoit des demandes par e-mail sous forme de texte libre avec des plans en PDF, et une assistante les ressaisit dans le CRM. Le modèle lit l’e-mail, extrait les postes, signale les paramètres manquants et prépare un brouillon de question. Ce qu’il ne fait pas : il n’envoie pas l’e-mail, ne fixe pas le prix et ne change pas le statut de la demande. Il s’agit d’une illustration d’architecture, pas d’une référence client.

Les systèmes fiables combinent IA et règles déterministes

L’architecture la plus sûre ne consiste pas à laisser l’IA décider de tout. Le modèle interprète l’entrée ou prépare une proposition, le workflow gère les droits et les seuils. La raison n’est pas idéologique, elle est mesurée.

Le benchmark TheAgentCompany simule l’environnement d’une petite entreprise logicielle et observe comment les agents se débrouillent avec un agenda de travail réel. L’agent testé le plus performant a mené à bien 30 % des tâches de façon autonome. Le benchmark tau-bench évalue les agents en conversation avec un utilisateur simulé, tout en respectant des règles métier : les meilleurs agents ont réussi moins de 50 % des tâches et, en répétant la même tâche, la métrique pass^8, c’est-à-dire la réussite sur les huit tentatives, est tombée sous 25 % dans le domaine du retail. Le modèle n’est donc pas seulement imprécis, il est inconstant, et cela compte davantage pour la conception d’un processus que le taux de réussite moyen.

Pour les actions sensibles ou externes, autrement dit l’envoi d’une offre, la modification d’un prix, un paiement ou la suppression de données, il doit être clair quand la validation humaine est nécessaire. Cela suppose trois décisions de conception :

• Séparer la lecture et l’écriture. Le modèle dispose d’un accès large en lecture pour le contexte, mais l’écriture passe par une liste restreinte d’actions autorisées, aux paramètres définis.
• Des limites dures dans le code, pas dans le prompt. La remise maximale, le montant plafond ou la liste des destinataires autorisés relèvent du workflow. Une règle dans un prompt est une recommandation, une règle dans le code est une contrainte.
• Idempotence et prévisualisation. Une action d’écriture doit pouvoir être exécutée à blanc ou répétée sans risque, afin de ne pas créer deux factures.

Droits d’accès et données que le modèle n’a pas besoin de voir

Avec un logiciel classique, c’est une personne identifiée qui clique. Avec un workflow d’IA, l’accès appartient à un processus qui tourne sans surveillance et rapidement. Une discipline plus stricte est donc rentable.

• Une identité de service propre à chaque workflow. Pas de compte administrateur partagé. Quand quelque chose se casse, vous voulez savoir quel processus l’a fait et pouvoir le couper sans faire tomber la moitié de l’entreprise.
• Le périmètre de données le plus étroit possible. Pour classer une réclamation, son texte et le type de produit suffisent, l’historique de paiement complet est inutile. Là où l’identité n’est pas nécessaire, remplacez les données personnelles par un code de substitution.
• Une réponse claire sur la destination des données. Quel fournisseur, dans quelle région, pour quelle durée de conservation, et si elles servent à l’entraînement. C’est une question contractuelle, pas technique.

La préoccupation n’a rien d’académique. Parmi les entreprises qui, selon Eurostat, ont envisagé l’IA sans la déployer, 70,89 % ont cité le manque d’expertise, 52,52 % l’incertitude sur les conséquences juridiques et 48,83 % les craintes liées à la protection des données. Deux de ces trois obstacles ne concernent pas le modèle, mais la conception du processus et les contrats.

Une remarque impopulaire s’impose ici. Si une tâche peut se résoudre par une règle appliquée à votre propre base de données, c’est presque toujours moins cher, plus rapide et plus sûr qu’un appel de modèle. Le prestataire qui vous vend un projet IA dans une telle situation traite son propre business, pas votre processus. Nous développons le même raisonnement dans l’article Votre entreprise n’a pas besoin de plus de logiciels, elle a besoin de moins de chaos.

Une validation humaine qui ne se réduit pas à un clic

Dans la plupart des projets, le contrôle se règle en une phrase : un humain validera. C’est le point le plus faible de l’architecture, parce que la phrase s’écrit facilement et fonctionne difficilement.

Le règlement sur l’IA décrit, à l’article 14, ce qu’une personne chargée de la surveillance d’un système à haut risque doit être en mesure de faire : comprendre les capacités et les limites du système, repérer les anomalies, avoir conscience du biais d’automatisation (la tendance à faire trop confiance à la sortie d’une machine), décider de ne pas utiliser le système ou d’en écarter la sortie, et l’arrêter en toute sécurité. La plupart des workflows d’entreprise n’entrent pas dans la catégorie des systèmes à haut risque, mais nous ne disposons pas pour l’instant d’une meilleure liste de contrôle pour concevoir une validation.

Que cela se dégrade facilement, l’analyse de Ben Green publiée dans la revue spécialisée Computer Law and Security Review le montre. L’auteur a examiné 41 politiques exigeant une supervision humaine des algorithmes dans l’administration publique et affirme que, selon les données disponibles, les humains ne parviennent pas à exercer les fonctions de supervision attendues et que de telles politiques donnent un faux sentiment de sécurité. C’est l’avis de l’auteur, pas un consensus, mais un correctif salutaire.

Trois conséquences pratiques en découlent. L’écran de validation doit montrer sur quoi le modèle s’est appuyé, ce qui va changer et ce qui se passe en cas de refus. Le taux de refus est une métrique : s’il reste à zéro pendant des mois, soit le contrôle n’a pas lieu, soit il n’est pas nécessaire. Et la supervision demande du temps dédié. Qui valide des centaines de propositions par jour en plus de son travail habituel accomplit un rituel, pas un contrôle.

Que faire quand le modèle se trompe

Non pas si, mais quand. L’auditabilité n’est donc pas un sujet pour le service juridique, mais pour l’exploitation. Chaque exécution doit consigner l’entrée, la version de l’instruction et du modèle qui a tourné, les sources utilisées par le système, la personne qui a validé la sortie et l’action exécutée. Sans cela, la recherche de la cause relève de la devinette.

• Un interrupteur au niveau d’un seul workflow. Une étape précise doit pouvoir être arrêtée sans faire tomber tout le processus.
• Un chemin de retour et un jeu de tests. Pour chaque action d’écriture, il faut savoir à l’avance comment revenir en arrière. Un changement de version de modèle se détecte sur un jeu de cas réels, pas sur un client.
• Le point où vous coupez l’étape. Le cadre américain NIST AI Risk Management Framework de janvier 2023 le dit directement : lorsque le niveau de risque est inacceptable, le développement comme le déploiement doivent cesser de manière sûre tant que le risque ne peut pas être suffisamment maîtrisé. Le retour à une règle ou à un humain est un résultat légitime, pas une défaite.

Mesurez le ROI au niveau du processus, pas au nombre de prompts

Avant l’implémentation, mesurez l’état actuel : temps par tâche, nombre de transferts entre personnes, taux d’erreur, délai de réponse et nombre de relances non abouties. Après le déploiement, comparez exactement les mêmes métriques. Le nombre de textes générés n’est pas un KPI, passer d’un délai de réponse de deux jours à deux heures peut en être un.

Que ce soit plus difficile qu’il n’y paraît, le NIST le reconnaît lui-même : la gestion du risque des systèmes qui augmentent ou remplacent l’activité humaine exige des métriques de référence, et celles-ci se systématisent mal, car l’IA exécute les tâches autrement qu’un humain. Mesurez donc le résultat du processus, pas la qualité de la sortie du modèle.

Les coûts ne se limitent pas au prix des tokens : intégration, temps de contrôle des sorties, maintenance lors d’un changement de modèle et temps de formation des équipes. Si le contrôle coûte plus cher que le travail manuel initial, l’étape doit être supprimée. C’est plus honnête que six semaines passées à peaufiner un prompt.

Prévoyez aussi que les premiers mois paraissent moins bons qu’ils ne devraient. Les économistes Brynjolfsson, Rock et Syverson l’ont décrit comme la courbe en J de la productivité : les technologies à usage général exigent d’importants investissements immatériels, c’est-à-dire une refonte des processus et du capital organisationnel, qui se mesurent mal. La croissance de la productivité est donc sous-estimée dans la phase initiale. Le coût arrive tout de suite, le rendement seulement après la reconstruction du processus.

Une entreprise prête pour l’IA n’a pas besoin de dix nouveaux outils. Elle a besoin de processus clairs, de données fiables et d’une automatisation conçue pour retirer la routine à l’humain sans lui retirer le contrôle. Commencez par les cinq workflows répétitifs les plus coûteux et, pour chacun, décidez ce qui doit relever d’une règle, ce qui bénéficie réellement de l’IA et ce qui doit rester humain. Si, quelque part, la conclusion est qu’il vaut mieux supprimer la moitié des étapes et ne rien déployer, c’est un bon résultat. La valeur naît du diagnostic, pas de l’achat.

Ce qu’il faut retenir

• Si une tâche peut s’écrire sous forme de règle, écrivez-la sous forme de règle. Le règlement sur l’IA distingue lui aussi, au considérant 12, les systèmes fondés sur des règles définies par des humains et les systèmes d’IA.
• Répartissez les tâches selon le coût de l’erreur, la vérifiabilité de la sortie et la réversibilité de l’action. Au modèle la proposition, au workflow les limites, à l’humain la décision irréversible.
• Concevez la validation humaine comme un processus, pas comme un bouton : elle doit montrer la source et l’impact, disposer de temps dédié et faire suivre son taux de refus.
• Chaque workflow a besoin de sa propre identité de service, du périmètre de données le plus étroit possible, d’un interrupteur et d’un journal de ce qui a tourné et de la manière de revenir en arrière.
• Mesurez le ROI sur le processus : temps, transferts, taux d’erreur, délai de réponse. Comptez le contrôle et la maintenance dans les coûts, et attendez-vous à ce que le rendement arrive plus tard.