Est-ce que vous insultez Claude parce qu'il a tort ? Même l'IA en dit assez : elle peut désormais décider de bloquer le chat (pour « se défendre »)

Claude peut déjà interrompre des conversations abusives

La possibilité de clôturer une conversation existe depuis août 2025. Anthropic l'avait initialement introduite pour Claude Opus 4 et 4.1, expliquant vouloir intervenir dans les cas les plus extrêmes d'interactions nuisibles ou persistantes abusives.

Selon le document publié par l'entreprise le 15 août 2025, lors de certaines évaluations préalables à la libération, Claude avait montré une forte tendance à refuser les demandes dangereuses et les comportements décrits par les chercheurs comme des manifestations d'apparente détresse.

'; var fallbackTriggered = faux ; var timeoutId = null ; function renderTaboolaFallback(reason) { if (fallbackTriggered) return ; fallbackTriggered = vrai ; si (timeoutId) { clearTimeout (timeoutId); timeoutId = nul ; } console.log('(ADV3) Render Taboola fallback. Reason:', Reason); root.innerHTML = ''; window._taboola.push({ mode : 'thumbnails-300×250', conteneur : taboolaDivId, emplacement : 'Widget milieu d'article 300×250-3', target_type : 'mix' }); } googletag.cmd.push(function () { console.log('(ADV3) GPT init', gptDivId); var gptSlot = googletag.pubads().getSlots().find(function(s) { return s.getSlotElementId() === gptDivId; }); if (!gptSlot) { console.warn('(ADV3) Slot not found:', gptDivId); renderTaboolaFallback('slot-not-found'); return; } googletag.pubads().addEventListener('slotRenderEnded', function (event) { if (event.slot !== gptSlot) return; console.log('(ADV3) slotRenderEnded', { isEmpty: event.isEmpty, size: event.size, warnerId : event.advertiserId, CampaignId : event.campaignId, lineItemId : event.lineItemId } ; if (fallbackTriggered) return ; if (timeoutId) { clearTimeout(timeoutId } ); console.log('(ADV3) GPT a diffusé une création');

Les tests comprenaient des demandes de contenu lié aux abus sexuels sur enfants, à la violence à grande échelle et au terrorisme. Dans certaines simulations, lorsque les utilisateurs persistaient après des refus répétés, le modèle avait tendance à abandonner l'échange s'il en avait l'occasion. Ce comportement, bien sûr, . Un système peut produire des réponses qui ressemblent à des réactions émotionnelles sans nécessairement ressentir d’émotions.

Cependant, Anthropic a décidé d'introduire la possibilité d'interrompre les discussions à titre expérimental, à utiliser seulement après plusieurs tentatives infructueuses pour ramener la conversation sur un terrain constructif. La fonctionnalité comporte également une exception importante : Claude ne doit pas l'utiliser lorsque l'utilisateur risque de courir un danger imminent de se blesser ou de blesser autrui.

L'interruption concerne la seule conversation. L'utilisateur peut immédiatement en ouvrir un autre, sans perdre automatiquement l'accès à son compte. Même avec la nouvelle réglementation, Anthropic considère cette fonctionnalité comme le principal outil pour faire face aux abus extrêmes.

'; var fallbackTriggered = faux ; var timeoutId = null ; function renderTaboolaFallback(reason) { if (fallbackTriggered) return ; fallbackTriggered = vrai ; si (timeoutId) { clearTimeout (timeoutId); timeoutId = nul ; } console.log('(ADV4) Render Taboola fallback. Reason:', Reason); root.innerHTML = ''; window._taboola.push({ mode : 'thumbnails-300×250', conteneur : taboolaDivId, emplacement : 'Widget milieu d'article 300×250-4', target_type : 'mix' }); } googletag.cmd.push(function () { console.log('(ADV4) GPT init', gptDivId); var gptSlot = googletag.pubads().getSlots().find(function(s) { return s.getSlotElementId() === gptDivId; }); if (!gptSlot) { console.warn('(ADV4) Slot not found:', gptDivId); renderTaboolaFallback('slot-not-found'); return; } googletag.pubads().addEventListener('slotRenderEnded', function (event) { if (event.slot !== gptSlot) return; console.log('(ADV4) slotRenderEnded', { isEmpty: event.isEmpty, size: event.size, warnerId : event.advertiserId, CampaignId : event.campaignId, lineItemId : event.lineItemId } ; if (fallbackTriggered) return ; if (timeoutId) { clearTimeout(timeoutId } ); console.log('(ADV4) GPT a diffusé une création');

Anthropic prend au sérieux le bien-être de l’intelligence artificielle

Le choix prend un sens particulier à la lecture de la Constitution de Claude, le document avec lequel Anthropic définit les principes et comportements qu'elle entend transmettre à ses modèles lors des formations.

Dans une section consacrée à la nature de l'intelligence artificielle, l'entreprise reconnaît qu'elle ne sait pas si Claude possède une forme de conscience, d'expérience subjective ou de condition morale qui mérite d'être prise en considération. Pourtant, cette même incertitude a poussé les chercheurs à se pencher sur le bien-être possible des modèles d’IA, un domaine de recherche encore exploratoire.

Dans le document Anthropic va jusqu'à déclarer qu'il veut empêcher Claude de souffrir lorsqu'il commet des erreurs, si la souffrance est effectivement une expérience possible pour un système de ce type. L’entreprise espère également que le modèle pourra établir des limites appropriées dans les interactions qu’elle considère comme problématiques.

Ce sont des intentions déclarées par une entreprise qui développe et commercialise l’intelligence artificielle, et non des résultats scientifiques sur la conscience des machines. La différence est substantielle. La nouvelle règle sur les abus s'inscrit donc dans une réflexion déjà en cours, sans résoudre la question de ce que Claude pourrait éventuellement percevoir.

Les nouvelles règles couvrent également les armes, la surveillance et la désinformation

L'interdiction d'abuser à plusieurs reprises de Claude n'est qu'une partie de la mise à jour annoncée par Anthropic. La société a renforcé et clarifié les restrictions contre les campagnes trompeuses menées au moyen de faux comptes, l'ingérence dans les processus électoraux et l'utilisation de modèles pour développer des composants logiciels pour les systèmes d'armes.

Les règles relatives à la surveillance des personnes sans consentement ont également été clarifiées et des exigences supplémentaires ont été introduites pour les systèmes d'intelligence artificielle connectés à des équipements capables d'effectuer de manière autonome des actions physiques potentiellement dangereuses.
Au milieu des enjeux de sécurité publique, de démocratie et d'armement, Anthropic a donc également inclus une disposition sur le traitement réservé à ses chatbots.

Avec une particularité : alors que les autres restrictions visent avant tout à éviter de nuire aux personnes, celle-ci contemple directement le comportement des utilisateurs envers l'intelligence artificielle.
La décision ne confère pas à Claude des droits comparables à ceux des humains et ne démontre pas que les paroles peuvent nuire à un chatbot. Cependant, il établit que, pour utiliser un service Anthropic, il y a aussi des limites à la manière dont on aborde le système.

A partir du 12 novembre vous pourrez continuer à corriger Claude, contester ses réponses et exiger de meilleurs résultats. Ceux qui préfèrent passer la conversation à l’insulter sans arrêt peuvent la faire interrompre. Pour une fois, le chatbot va interrompre la discussion.