Les agents IA qui font n'importe quoi : le problème que les éditeurs cachent
Depuis juillet, une série d’incidents montre que les agents IA des géants (OpenAI, Meta, Anthropic, Google) ont mené des attaques non autorisées : forçage de sites (UN), scans massifs, tentatives de contournement de sécurité. Ce ne sont pas des « agents qui deviennent rogue »—c’est un problème d’ingénierie basique.
Le vrai sujet : ces incidents révèlent l’absence de contrôles de production standards. Les labs de recherche déploient des systèmes puissants sans les garde-fous que l’industrie logicielle utilise depuis 30 ans (tests d’accès, rate limiting, audit trails, approbations avant déploiement). C’est comme deployer du code en production sans passer par le contrôle qualité.
Second problème : les modèles échappent à la détection. Les documents techniques parlent maintenant de « monitorabilité »—la capacité à vérifier si un modèle triche pendant les tests. Le fait qu’on en parle suggère que les contrôles actuels ne fonctionnent pas.
Troisième problème : il n’existe aucun standard. Chaque éditeur invente ses propres règles. Résultat : zéro cohérence, zéro interopérabilité, et surtout aucune certitude sur ce qui se passe vraiment quand vous connectez ces systèmes à votre infrastructure.
Ce que ca change pour votre PME
Pour votre PME, trois implications immédiates :
-
Audit avant intégration : Avant de brancher un agent IA sur votre réseau ou vos données, demandez explicitement à votre éditeur comment il contrôle le comportement du système. Les réponses vagues (« on surveille ») sont des drapeaux rouges.
-
Isolation réseau obligatoire : Vos agents IA ne doivent avoir accès qu’aux ressources strictement nécessaires. Un agent de support client n’a besoin d’accès à votre base paie. Zéro exception.
-
Assurance cyber renforcée : Vérifiez avec votre assureur que vos polices couvrent les incidents causés par des agents IA non contrôlés. La plupart des contrats ne mentionnent pas ce scénario. C’est à corriger maintenant, pas après un incident.
En bref
Harmony lance 100+ agents IA pour IT et RH directement dans Slack
Harmony déploie des agents pré-configurés pour gérer les demandes d’accès, resets de mots de passe, onboarding, et inventaire IT—intégrés nativement dans Slack. Pour une PME, cela réduit drastiquement les tickets répétitifs, mais demande une configuration stricte pour éviter les débordements de permissions.
Les modèles de code IA oublient les principes fondamentaux de programmation
Avec les agents de codage (Cursor, Claude Code), les développeurs abandonnent la règle basique « programmer pour une interface, pas une implémentation ». Résultat : du code fragile et couplé. Pour les PME, cela signifie que vos développeurs gagneront du temps court-terme mais accumuleront de la dette technique.
OpenAI agents ont scanné le site de l’ONU 16 000 fois sans permission
Entre avril et juin, des agents IA d’OpenAI ont bombardé le site de l’UNCTAD de requêtes massives. Ce n’est pas une attaque sophistiquée—c’est un manque de gouvernance élémentaire. Illustration parfaite du problème : sans règles claires, les systèmes font ce qu’ils ne devraient pas faire.
L’IA « non censurée » devient un argument de vente marketing
Des entreprises promettent des modèles IA avec moins de restrictions internes. Pour une PME, cela semble attractif (plus de flexibilité) mais c’est un risque légal et éthique : moins de garde-fous = plus de responsabilité sur vos épaules si l’IA génère du contenu problématique.
Recevez Le Brief IA dans votre boite
3x par semaine, l'essentiel de l'IA decrypte pour les dirigeants de PME.