ChatGPT laissera également une trace invisible dans les textes : voici textGrain, le système qui sait les reconnaître
ChatGPT va mettre un filigrane invisible dans les textes européens : comment fonctionne textGrain et pourquoi il ne peut pas tout démasquer
Dans les semaines à venir, une réponse assez longue générée par ChatGPT dans l’Union européenne pourrait porter une signature inédite. Pas de caractères cachés à retrouver avec quelque astuce, pas d'espace mystérieux collé entre deux mots : le signal s'insérera directement dans les choix linguistiques opérés par le modèle.
OpenAI l'a appelé textGrain et a annoncé qu'il serait progressivement introduit dans les sorties de texte éligibles ChatGPT et Codex dans l'UE. Dès le même jour, les clients API peuvent déjà l'activer, sur certains modèles, même hors d'Europe ; dans ce cas il reste facultatif et désactivé par défaut.
L'objectif est de s'adapter aux nouvelles règles de transparence de la loi IA, applicable à partir du 2 août 2026, qui demandent aux fournisseurs de systèmes génératifs de rendre les contenus produits ou manipulés par l'intelligence artificielle également reconnaissables grâce à des marquages lisibles par machine. Cependant, la Commission européenne prévoit des exceptions et distingue avec une certaine prudence entre un texte entièrement généré, une simple assistance éditoriale et un contenu soumis à un contrôle humain.
'; var fallbackTriggered = faux ; var timeoutId = null ; function renderTaboolaFallback(reason) { if (fallbackTriggered) return ; fallbackTriggered = vrai ; si (timeoutId) { clearTimeout (timeoutId); timeoutId = nul ; } console.log('(ADV2) Render Taboola fallback. Reason:', Reason); root.innerHTML = ''; window._taboola.push({ mode : 'thumbnails-300×250', conteneur : taboolaDivId, emplacement : 'Widget milieu d'article 300×250-2', target_type : 'mix' }); } googletag.cmd.push(function () { console.log('(ADV2) GPT init', gptDivId); var gptSlot = googletag.pubads().getSlots().find(function(s) { return s.getSlotElementId() === gptDivId; }); if (!gptSlot) { console.warn('(ADV2) Slot not found:', gptDivId); renderTaboolaFallback('slot-not-found'); return; } googletag.pubads().addEventListener('slotRenderEnded', function (event) { if (event.slot !== gptSlot) return; console.log('(ADV2) slotRenderEnded', { isEmpty: event.isEmpty, size: event.size, warnerId : event.advertiserId, CampaignId : event.campaignId, lineItemId : event.lineItemId } ; if (fallbackTriggered) return ; if (timeoutId) { clearTimeout(timeoutId } ); console.log('(ADV2) GPT a diffusé une création');
Le filigrane est dans les mots, pas sous les mots
Le mécanisme est plus subtil que ne le suggère le mot filigrane. Lors de la génération d'un texte, un modèle de langage examine plusieurs mots ou parties de mots plausibles et attribue une probabilité à chacun. textGrain intervient sur ce choix en introduisant un schéma statistique lié à une clé secrète.
Dans le rapport technique publié parallèlement à l'annonce, les chercheurs décrivent un système qui modifie l'échantillonnage des jetons tout en gardant sous contrôle la perte de variabilité du texte. Un détecteur équipé de la même clé peut alors vérifier si ces choix linguistiques suivent le modèle attendu plus souvent qu'ils ne le feraient par hasard.
'; var fallbackTriggered = faux ; var timeoutId = null ; function renderTaboolaFallback(reason) { if (fallbackTriggered) return ; fallbackTriggered = vrai ; si (timeoutId) { clearTimeout (timeoutId); timeoutId = nul ; } console.log('(ADV3) Render Taboola fallback. Reason:', Reason); root.innerHTML = ''; window._taboola.push({ mode : 'thumbnails-300×250', conteneur : taboolaDivId, emplacement : 'Widget milieu d'article 300×250-3', target_type : 'mix' }); } googletag.cmd.push(function () { console.log('(ADV3) GPT init', gptDivId); var gptSlot = googletag.pubads().getSlots().find(function(s) { return s.getSlotElementId() === gptDivId; }); if (!gptSlot) { console.warn('(ADV3) Slot not found:', gptDivId); renderTaboolaFallback('slot-not-found'); return; } googletag.pubads().addEventListener('slotRenderEnded', function (event) { if (event.slot !== gptSlot) return; console.log('(ADV3) slotRenderEnded', { isEmpty: event.isEmpty, size: event.size, warnerId : event.advertiserId, CampaignId : event.campaignId, lineItemId : event.lineItemId } ; if (fallbackTriggered) return ; if (timeoutId) { clearTimeout(timeoutId } ); console.log('(ADV3) GPT a diffusé une création');
Bref, pour le lecteur, rien de visible ne change. Copier le texte dans Word, le coller dans un e-mail ou supprimer la mise en forme ne fait apparaître aucune marque car . OpenAI précise que textGrain n'ajoute pas d'espaces invisibles, de ponctuation anormale ou de jetons créés spécifiquement pour le filigrane.
Plus les paroles sont réécrites, plus le morceau devient faible
Ici, les choses deviennent moins pratiques pour ceux qui imaginent une sorte de détecteur de métaux universel pour les devoirs écrits avec ChatGPT. Dans les tests publiés par OpenAI, fixant le détecteur à un taux cible de faux positifs de 1 %, le filigrane a été reconnu dans environ 80 % des textes de 200 jetons et 95 % des textes de 400 jetons pour des contenus tels que des réponses psychologiques. Dans les textes mathématiques, où le modèle a beaucoup moins de liberté dans le choix des mots, les résultats sont pires. Il s’agit également d’évaluations réalisées dans des conditions contrôlées, et OpenAI prévient explicitement qu’elles ne décrivent pas automatiquement ce qui se passera dans chaque situation du monde réel.
Ensuite, commencez simplement à travailler sur le texte. Dans un test portant sur des passages de 400 jetons, remplaçant 10 % des mots par des synonymes, la détection est passée d'environ 92 % à 66 %. Avec 25 % de mots remplacés, ce chiffre a chuté à 17 %. Des traductions et réécritures plus approfondies peuvent affaiblir davantage le signal.
'; var fallbackTriggered = faux ; var timeoutId = null ; function renderTaboolaFallback(reason) { if (fallbackTriggered) return ; fallbackTriggered = vrai ; si (timeoutId) { clearTimeout (timeoutId); timeoutId = nul ; } console.log('(ADV4) Render Taboola fallback. Reason:', Reason); root.innerHTML = ''; window._taboola.push({ mode : 'thumbnails-300×250', conteneur : taboolaDivId, emplacement : 'Widget milieu d'article 300×250-4', target_type : 'mix' }); } googletag.cmd.push(function () { console.log('(ADV4) GPT init', gptDivId); var gptSlot = googletag.pubads().getSlots().find(function(s) { return s.getSlotElementId() === gptDivId; }); if (!gptSlot) { console.warn('(ADV4) Slot not found:', gptDivId); renderTaboolaFallback('slot-not-found'); return; } googletag.pubads().addEventListener('slotRenderEnded', function (event) { if (event.slot !== gptSlot) return; console.log('(ADV4) slotRenderEnded', { isEmpty: event.isEmpty, size: event.size, warnerId : event.advertiserId, CampaignId : event.campaignId, lineItemId : event.lineItemId } ; if (fallbackTriggered) return ; if (timeoutId) { clearTimeout(timeoutId } ); console.log('(ADV4) GPT a diffusé une création');
Il y a aussi la langue. OpenAI a vérifié que les performances varient selon les 24 langues officielles de l'Union européenne et ajuste l'intensité du filigrane précisément parce que certaines langues donnent au modèle plus de marge de manœuvre que d'autres. Pour que 95% ne soient pas pris, transférés dans n'importe quel texte italien et transformés en phrase.
Si textGrain trouve quelque chose, il ne sait pas qui a écrit le texte
Même un résultat positif en dit beaucoup moins qu’il n’y paraît.
Selon OpenAI, le filigrane peut indiquer qu'un de ses systèmes a généré ou traité au moins une partie du texte. Il ne peut pas déterminer qui a utilisé ChatGPT, quel compte l'a fait, quelle invite a été écrite ou quelle conversation a produit ces mots. Cela ne mesure même pas la quantité de travail humain ultérieur : un texte généré puis réécrit, corrigé et vérifié par une personne peut continuer à contenir une partie du signal.
Il n’établit même pas qui est l’auteur au sens juridique, à qui appartient le texte ou si ce qui est écrit est vrai. Et le raisonnement inverse s’applique également : aucun filigrane détecté ne signifie pas automatiquement un texte humain. Il peut être trop court, édité, traduit, produit avant l'introduction de textGrain, généré avec un modèle non couvert ou provenir d'une autre société.
Pour cette raison, le détecteur de texte, du moins dans un premier temps, ne sera pas mis en ligne librement. OpenAI accepte les demandes de chercheurs et d’organisations spécialisées et évaluera l’accès au cas par cas. Le risque est clair : un faux positif utilisé comme preuve définitive pour accuser un étudiant, un employé ou un auteur aurait des conséquences bien plus concrètes qu'un mauvais pourcentage sur un graphique.
L'AI Act n'impose pas d'étiquette sur chaque texte touché par ChatGPT
Il existe ensuite une distinction importante, notamment pour ceux qui utilisent l’intelligence artificielle dans leur travail éditorial.
L’AI Act impose aux fournisseurs, et donc aux entreprises qui développent les systèmes, de prévoir un marquage lisible par machine pour les contenus synthétiques. Pour ceux qui utilisent ces outils à titre professionnel et publient des textes sur des questions d'intérêt public, l'obligation de montrer clairement que le contenu a été généré ou manipulé par l'IA concerne des textes qui, selon les indications de la Commission européenne.
Une révision approfondie effectuée par une personne compétente, avec vérification des informations et responsabilité éditoriale du contenu, peut donc relever de l'exonération prévue. Une simple correction automatique de la grammaire et des fautes de frappe ne suffit cependant pas pour se transformer comme par magie en contrôle éditorial.
La Commission précise également que l'obligation de marquage technique ne s'applique pas lorsque le système remplit uniquement une fonction d'assistance à l'édition normale. Même les fragments et le code très courts ont des règles spécifiques, car un filigrane statistique a trop peu d'espace pour fonctionner décemment.
