Anthropic étend son système de filigranage textuel à l’ensemble de ses modèles
Anthropic étend sa fonctionnalité de filigranage textuel à un plus large éventail de ses modèles d’IA, ce qui rend plus difficile de dissimuler l’origine du contenu généré.
Le filigranage invisible, annoncé initialement en août, est conçu pour identifier le texte créé par les modèles Claude d’Anthropic. Ce déploiement est une réponse aux réglementations de l’Union européenne exigeant la transparence dans les outils d’IA générative.
Initialement limité aux modèles les plus récents, le filigranage est désormais intégré aux systèmes plus anciens, notamment Mythos 5, Opus 4.7, Opus 4.6 et Sonnet 4.6. La fonctionnalité est obligatoire pour tous les utilisateurs dans le monde entier, quel que soit leur lieu de résidence.
Actuellement, la détection du filigranage est limitée aux entités spécifiques définies par la législation européenne, telles que les régulateurs, les forces de l’ordre, les journalistes, les chercheurs et les entreprises ayant besoin de vérifier le filigranage dans le cadre de l’IA Act de l’UE. Les utilisateurs généraux ne peuvent pas déterminer si leurs écrits sont marqués.
L’annonce initiale d’août a suscité des critiques, des inquiétudes étant soulevées quant à l’impact sur les tâches telles que la correction d’épreuves et le potentiel pour les utilisateurs de contourner le système en reformulant le texte à l’aide d’outils d’IA alternatifs.
Anthropic reconnaît les limitations, telles que le risque que les textes plus courts ne disposent pas de motifs de filigranage suffisants. Toutefois, l’entreprise a réfuté les allégations selon lesquelles le filigranage dégraderait la qualité de la production.
Certains utilisateurs disposent de solutions de contournement. En ajustant les paramètres dans l’API, les utilisateurs d’Opus 4.6 et de Claude Sonnet 4.6 peuvent supprimer le filigranage. De plus, les utilisateurs peuvent sélectionner des modèles plus anciens, dont des versions datant d’Opus 3 (publié en 2023), qui ne sont pas soumis au filigranage.
Bien que d’autres entreprises se préparent également à se conformer aux réglementations de l’UE, la mise en œuvre mondiale d’Anthropic est remarquable. OpenAI, par exemple, a introduit textGrain dans ChatGPT, mais son application automatique est limitée à l’Europe.