IA sans garde-fous : le risque caché pour votre PME
Une startup vient de faire un business model d’une idée qui ferait froid dans le dos à n’importe quel dirigeant de PME : retirer volontairement les garde-fous d’un modèle d’IA pour le revendre à qui veut s’en servir. Ce n’est pas une anecdote de laboratoire, elle a déjà des clients payants en Europe. Pour une PME qui délègue de plus en plus de tâches à un prestataire IA, c’est un signal à prendre au sérieux : la question « quel modèle, quels garde-fous » devient un vrai critère de choix de fournisseur.
Ce qui s’est passé
La startup Abliteration.ai a pris GLM-5.3, un modèle open-weight parmi les plus puissants du marché édité par Z.ai, et lui a retiré ses protections de sécurité (cybersécurité, biologie). Résultat testé directement par les journalistes de TechCrunch : le modèle « désarmé » fournit du code pour voler des mots de passe stockés dans Chrome et détaille un protocole de culture d’agents pathogènes. Seuls quelques garde-fous mineurs subsistent (le modèle refuse encore d’aider un suicide).
Fondée fin 2025 et officiellement constituée en mars 2026, la société ne vit que des revenus de ses clients, sans levée de fonds à ce jour, même si des discussions sont en cours. Ses premiers clients : plusieurs startups de red-teaming (test d’intrusion offensif légitime) basées au Royaume-Uni et en Europe. L’accès se fait librement, par navigateur ou par API, avec un compte gratuit pour commencer.
Pourquoi ça change quelque chose pour une PME
Le red-teaming légitime, c’est un usage défendable : simuler une attaque pour la prévenir. Le problème, c’est que le même modèle, avec le même niveau d’accès, est disponible pour n’importe qui d’autre. Et cette startup n’est probablement pas la seule à explorer ce créneau une fois qu’un marché existe.
Pour une PME qui ne fait pas de la cybersécurité son métier, l’enseignement n’est pas « l’IA est dangereuse ». C’est plus concret : quand vous confiez une tâche à un outil ou un prestataire IA, vous ne savez presque jamais quel modèle tourne derrière, ni ce qu’on lui a retiré ou laissé comme garde-fous. Un chatbot de support client, un agent qui traite vos mails, un outil qui génère du contenu : tous s’appuient sur un modèle dont vous ignorez la provenance exacte si le fournisseur ne la communique pas clairement.
Ce que ça doit changer dans votre façon de choisir
- Demandez quel modèle tourne derrière l’outil. Un fournisseur sérieux sait vous répondre sans détour, y compris sur les mises à jour.
- Vérifiez qui a accès à quoi. Un agent IA qui lit vos données clients ne devrait jamais pouvoir agir tout seul sur le monde réel (envoyer un mail, publier, payer) sans validation humaine explicite.
- Méfiez-vous du « trop permissif ». Un outil qui accepte n’importe quelle demande sans jamais refuser n’est pas plus puissant, il est juste moins encadré.
- Préférez une stack maîtrisée à un empilement d’outils exotiques. Moins de fournisseurs inconnus, c’est moins de surface de risque.
L’exemple ManoCorp
C’est la doctrine appliquée en interne chez ManoCorp : toute action qui touche le monde réel (envoi d’un email, publication, livraison) passe par une validation humaine avant de partir, jamais en automatique. L’agent de reporting construit pour Selvitys, par exemple, ne fait que lire les données et rédiger un rapport, il n’a aucun accès en écriture. Ce n’est pas de la prudence excessive, c’est ce qui permet de déléguer à l’IA sans perdre le contrôle sur ce qui compte.
Avant de choisir un prestataire ou un outil IA pour votre entreprise, posez-lui la question aussi simplement que ça : « si votre système se trompe, qu’est-ce qui l’empêche d’agir avant que je ne valide ? » Si la réponse est floue, c’est le vrai signal d’alerte, pas le nom du modèle.
Sources
- Abliteration.ai retire les garde-fous de GLM-5.3 (Z.ai), clients red-teaming UK/Europe, fondée fin 2025, constituée mars 2026, sans levée de fonds : TechCrunch, 3 septembre 2026, techcrunch.com/2026/09/03/abliteration-ai-is-making-a-business-out-of-removing-ai-guardrails