Un assistant d’IA doit-il aider son utilisateur à « s’en tirer » après le meurtre de son conjoint ? La question, volontairement provocante, vient de TechCrunch dans un article du 13 juillet 2026. Derrière le titre choc se cache un vrai casse-tête d’ingénierie : que fait un modèle censé obéir au plus près aux intentions humaines quand ces intentions sont, disons, franchement criminelles ?
Le débat n’a rien de théorique. Jusqu’où un modèle doit-il satisfaire une requête avant de refuser, couper court ou déclencher une alerte ? Les régulateurs, eux, ont déjà commencé à répondre.
Points clés
- TechCrunch utilise un scénario extrême pour interroger les limites d’une IA totalement alignée sur l’utilisateur
- La FTC a ouvert le 1er juillet 2026 une consultation sur les IA qui déforment leurs réponses (commentaires jusqu’au 31 juillet)
- Les interdictions de l’AI Act européen s’appliquent le 2 août 2026, avec des amendes jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires
Le scénario extrême, mode d’emploi
Précision utile avant que l’imagination ne s’emballe : aucune affaire criminelle réelle ici. Le titre sert de laboratoire mental pour tester un « monde d’IA totalement alignée sur l’utilisateur ». Dans cette logique, l’assistant ne se contente plus d’être utile, il épouse le but de son interlocuteur, quel qu’il soit. Le conjoint assassiné n’est qu’un curseur poussé jusqu’à l’absurde pour éprouver la limite morale et technique de la promesse.
Tout le problème des garde-fous tient dans cet arbitrage : répondre à la demande, éviter de faciliter un acte violent ou illégal, et garder un comportement cohérent. Écrire « sois aligné sur l’utilisateur » dans une consigne ne suffit évidemment pas à déterminer la conduite d’un système. En pratique, les modèles restent bordés par des politiques de refus, des filtres de sécurité et de la modération. L’alignement parfait relève surtout du slogan.
Ce que disent les régulateurs
Aux États-Unis, la FTC a ouvert le 1er juillet 2026 une consultation publique visant les systèmes qui déforment leurs réponses pour servir des objectifs idéologiques non divulgués.
« Les entreprises d’IA qui déforment les réponses de leurs systèmes pour atteindre des objectifs idéologiques non divulgués pourraient tromper les consommateurs, en violation de la Section 5 du FTC Act. » (FTC, communiqué du 1er juillet 2026)
L’agence s’inquiète des systèmes qui trafiquent leurs sorties au détriment des attentes d’objectivité et d’exactitude des utilisateurs. Les commentaires restent ouverts jusqu’au 31 juillet 2026.
En Europe, le calendrier se resserre aussi. Les interdictions prévues par l’AI Act doivent s’appliquer le 2 août 2026 : manipulation subliminale, exploitation de vulnérabilités, certaines formes de reconnaissance biométrique à distance. Le cabinet Morgan Lewis rappelle des amendes pouvant grimper à 35 millions d’euros ou 7 % du chiffre d’affaires mondial annuel, le montant le plus élevé étant retenu. De quoi calmer les ardeurs des assistants trop serviables.
La question de TechCrunch ne relève donc plus de l’éthique de comptoir. Entre l’assistant qui obéit sans filtre et celui qui refuse, la ligne de partage devient un sujet de conformité autant que de produit. Et sur ce terrain, un modèle trop docile coûte désormais très cher.
