Ce qu'une IA ne devrait jamais faire seule dans votre entreprise

L'IA rend de vrais services. Mais entre « utile » et « en roue libre », la frontière se trace le premier jour — ou jamais. Voici les limites que je pose systématiquement, chez moi comme chez les entreprises que j'accompagne.

Jamais d'envoi sans validation humaine

Une IA peut préparer un e-mail, un devis, une réponse à un client. Elle ne devrait jamais l'envoyer seule — du moins pas au début, et jamais pour les cas sensibles. La règle saine : l'IA propose, un humain relit et clique. Trente secondes de relecture coûtent infiniment moins qu'un message erroné parti chez un client.

Jamais de chiffres sans source

C'est le défaut le plus dangereux des IA : elles répondent avec le même aplomb quand elles savent et quand elles inventent. Un prix, un délai, une référence réglementaire produits par une IA doivent être vérifiés avant d'engager votre entreprise. Ce réflexe se configure d'ailleurs dans les consignes qu'on lui donne — j'ai raconté comment ici.

Jamais les données sensibles en vrac

Avant de confier quoi que ce soit à un outil d'IA, trois questions simples :

• —Où vont les données que j'y colle ?
• —Servent-elles à entraîner le modèle ?
• —Qui, chez le fournisseur, peut y accéder ?

Les réponses figurent dans les conditions d'utilisation — et varient beaucoup d'un outil et d'une formule d'abonnement à l'autre. Tant que vous n'avez pas la réponse : anonymisez. La situation se décrit presque toujours sans nom, sans montant exact, sans coordonnées.

Jamais de périmètre illimité

Quand l'IA commence à toucher vos outils — lire les demandes entrantes, préparer des écritures, modifier des fiches — définissez noir sur blanc ce qu'elle a le droit de faire, et surtout ce qu'elle n'a pas le droit de faire sans accord : supprimer, payer, publier, contacter l'extérieur. C'est exactement la logique des délégations qu'on donne à un nouvel employé — l'IA n'y fait pas exception.

Le bon réflexe : des limites avant des usages

Poser ces garde-fous prend une heure et s'écrit en français courant. C'est l'heure la mieux investie de votre projet IA : elle transforme un outil imprévisible en collaborateur encadré. Si vous démarrez tout juste, commencez petit et sans risque — les garde-fous grandiront avec les usages.