Ce que vous ne devriez jamais laisser l'IA faire — et comment l'écrire noir sur blanc

On automatise des entreprises pour gagner notre vie, alors la phrase qui suit va contre notre intérêt : la décision la plus importante de votre opération IA, c’est la liste de ce qu’elle n’aura jamais le droit de faire.

Depuis sept semaines, ce blogue défend le côté délégation : trouver la contrainte, confier la couche récurrente, exiger du travail livré terminé. Tout ça tient. Mais chaque propriétaire à qui on parle traîne la même question silencieuse en dessous, et elle mérite une réponse directe plutôt que du réconfort. Et si ça répondait à un client tout seul ? Et si ça envoyait quelque chose que je regretterais ? Cette question n’est pas de la paranoïa. C’est le son de quelqu’un à qui personne n’a montré où est la ligne, parce que personne ne l’a écrite.

La liste des jamais#

Voici la nôtre, celle qu’on apporte à chaque déploiement. Cinq catégories qui restent humaines, peu importe ce que l’outil peut techniquement faire.

Le dernier mot sur tout ce qui vous engage. Signatures, prix, exceptions à vos propres conditions, engagements d’argent ou de dates. Un système peut rédiger la soumission en quatre-vingt-dix secondes; un humain porte le chiffre. Le jour où un rabais part sans que personne l’ait choisi, vous n’avez pas un gain d’efficacité, vous avez un passif.

Les conversations où la relation est le contenu. Une mauvaise nouvelle, un conflit, des condoléances, une hausse de tarif à un client fidèle, tout ce qu’une personne va se souvenir d’avoir reçu. Ces messages peuvent arriver en ébauche, et l’ébauche aide réellement. Ils sont repensés, décidés et envoyés par un humain, chaque fois.

Les décisions de jugement sans définition du terminé. Embaucher, congédier, la stratégie, plier une règle pour un bon client. Le test n’a pas changé depuis le billet sur la délégation : si vous ne le confieriez pas à une bonne recrue à sa première journée, ne le confiez pas à un système à sa centième.

Le cas que le système n’a jamais vu. Les exceptions sont routées vers un humain par design, pas par chance. Un système qui devine sur les cas inhabituels n’est pas autonome; il est sans surveillance. La confiance de laisser rouler le travail routinier vient précisément de savoir que l’inhabituel s’arrête et demande.

Tout ce que vous ne pourriez pas expliquer après coup. Si personne ne peut voir ce qui est parti, quand, et pourquoi, ça ne roule pas. Chaque action journalisée, chaque envoi traçable. Cette règle-là protège toutes les autres, parce qu’une ligne qu’on ne peut pas vérifier est une ligne qu’on ne peut pas faire respecter.

Écrivez-la : une page, trois verbes#

Une règle non écrite n’existe que dans la tête des gens. Elle s’érode dès que les échéances pressent. Ce qui résiste, c’est une page lisible en deux minutes. La nôtre s’organise autour de verbes; c’est le modèle qu’on vous propose.

Lit. Ce que le système peut voir : la boîte de courriels, le calendrier, les dossiers clients dont il a besoin pour le contexte. Nommer ça explicitement nomme aussi ce qu’il ne peut pas voir, et c’est là que vos inquiétudes de confidentialité arrêtent d’être vagues.

Rédige. Le travail qui arrive préparé et qui attend un humain : les communications sensibles, les soumissions, tout ce qui frôle la liste des jamais. La règle à l’Académie Lavalloise, l’école de 250 élèves qui fonctionne avec Avelle, tient en une phrase : Avelle rédige, un humain envoie. Cette seule phrase, écrite et connue de tous, est la raison pour laquelle la confiance tient là-bas. Personne ne se pose la question. C’est sur la page.

Livre. La couche récurrente qui arrive terminée et journalisée : confirmations, rappels, rapports, les réponses routinières que vous avez données cent fois. Cette liste commence petite et grandit. Les lignes descendent dans la page à mesure que la validation mérite son autonomie, et ce mouvement est une décision que vous prenez en révision, jamais une dérive qui vous arrive.

Puis la quatrième section, la plus courte et celle qui travaille le plus fort : Jamais. Les cinq catégories ci-dessus, dans vos mots, avec vos exemples.

Pourquoi la page compte plus que l’outil#

Des limites écrites sont ce qui rend la délégation sécuritaire à accepter, et elles rapportent dans trois directions en même temps. Votre équipe fait confiance au système parce qu’elle sait ce qu’il ne fera jamais à une relation client bâtie sur des années. Vous dormez parce que le « et si » de 23 h a une réponse écrite. Et n’importe quel fournisseur que vous évaluez peut recevoir la page avec la question : êtes-vous capable d’opérer à l’intérieur de ça ? Personne ne veut vraiment de l’IA; vous voulez du travail terminé à l’intérieur de limites que vous avez choisies. Un vendeur qui se braque devant votre liste des jamais vous a déjà tout dit.

Remarquez ce que cette page n’est pas. Ce n’est pas un frein à l’automatisation; c’est la raison pour laquelle l’automatisation a le droit de rouler à pleine vitesse partout ailleurs. L’école n’envoie pas moins de communications parce qu’un humain signe les sensibles. Elle en envoie plus, plus vite, parce que plus personne n’a peur de la machine.

Écrivez la vôtre cette semaine#

Vingt minutes, quatre en-têtes : lit, rédige, livre, jamais. Remplissez la section jamais en premier, parce que c’est celle que votre instinct connaît déjà. Si vous voulez une deuxième paire d’yeux, une conversation de trente minutes suffit pour qu’on vous dise où vos lignes se situent par rapport à ce qu’on opère chaque jour, et lesquelles on déplacerait.

Vous n’avez pas besoin de plus de confiance en l’IA. Vous avez besoin de vos limites par écrit, et la confiance s’occupe du reste.

---

Matthew Lacopo dirige l’engagement client et le contenu chez The Agensee, firme d’opérations IA gérées établie à Montréal au service des PME d’Amérique du Nord, qu’il a cofondée avec Anthony Lacopo.