Plateformes IA : des produits où l'IA fait un vrai travail, encadrée par des contrôles

Ce que nous faisons déjà tourner avec de l'IA

• Un moteur de contenu qui améliore chaque jour ouvré 38 de nos propres sites : il cherche, rédige, et des contrôles automatiques refusent tout changement avec un chiffre sans source, une étude invérifiable, un texte copié ou une page cassée — environ un changement sur quatre est refusé.
• Une application vidéo (Mac et Windows, mises à jour automatiques) qui transforme un brief en script sourcé et rend la vidéo en quatre formats.
• Des agents conversationnels sur WhatsApp et sur des sites, avec plafond quotidien, mode à blanc, interrupteur d'arrêt et relais humain — du prototype à la production selon les cas, voir agents IA WhatsApp.
• Un corpus de 1 226 documents préparé pour servir de mémoire à l'assistant d'un CRM.
• Un serveur MCP qui permet à toute une équipe de brancher son propre Claude sur le système d'exploitation de l'entreprise, chaque appel journalisé — voir intégrations Claude et MCP.

Enchaînement fixe ou agent ? Commencer simple

Anthropic, qui développe les modèles Claude, distingue les workflows — des systèmes où modèles et outils sont orchestrés par des chemins de code prédéfinis — des agents, où le modèle dirige lui-même ses étapes et son usage des outils. Son conseil : chercher la solution la plus simple possible et n'ajouter de la complexité que si elle est nécessaire, ce qui peut vouloir dire ne pas construire d'agent du tout ; et tester abondamment dans des environnements isolés, avec des garde-fous adaptés.

C'est notre façon de concevoir. La plupart des fonctions métier sont des enchaînements fixes (récupérer les données, rédiger, contrôler, demander validation, publier) où l'IA fait bien une étape. Nous n'utilisons un agent que lorsque les étapes ne peuvent vraiment pas être connues à l'avance, et nous lui donnons des limites : liste d'actions permises, budget, mode à blanc, journal.

La qualité : mesurée, pas espérée

Un modèle de langage peut produire avec assurance un texte faux. Les recommandations d'Anthropic listent des moyens de le limiter : autoriser le modèle à dire qu'il ne sait pas, ancrer les réponses dans des citations exactes, rendre les affirmations vérifiables par des sources, le restreindre aux informations fournies. Anthropic ajoute que ces techniques réduisent les erreurs sans les supprimer. Nous traitons donc la sortie d'une IA comme celle d'une source peu fiable : contrôlée par du code quand la règle peut s'écrire, relue par une personne quand elle ne le peut pas, et mesurée sur un jeu de test à chaque changement.

Les règles qui s'appliquent aux fonctions d'IA

Dans l'Union européenne, la Commission européenne explique qu'une personne utilisant un système d'IA comme un chatbot doit savoir qu'elle échange avec une machine, ces règles de transparence s'appliquant à partir d'août 2026. Quand l'IA traite des données personnelles, la CNIL demande une finalité définie, des données réduites au nécessaire, une information claire des personnes et une durée de conservation fixée à l'avance. Nous l'intégrons : les fonctions d'IA disent qu'elles sont des IA, les données envoyées à un modèle se limitent à ce que la tâche exige, et nous vous indiquons quel fournisseur les traite, à quelles conditions.

Le déroulé d'un projet

1. Définir la tâche et le niveau attendu. Ce que fait l'IA, à quoi ressemble une bonne sortie, ce qui ne doit jamais arriver.
2. Rassembler des cas réels. De cinquante à quelques centaines d'exemples deviennent le jeu de test.
3. Prototyper. La version la plus simple, passée sur le jeu de test.
4. Ajouter contrôles et validations. Refus automatiques en cas d'infraction aux règles, validation humaine si nécessaire, plafonds et journal.
5. Livrer par dev, recette, prod. Avec prévisualisations et compilation sur GitHub Actions ; une personne fusionne chaque modification.
6. Surveiller. Journal relu, jeu de test repassé après tout changement de modèle ou de consigne.