Claude et le marquage IA invisible, les utilisateurs quittent le service

Anthropic traverse une zone de turbulence en effet l’entreprise a récemment introduit un système de marquage invisible des contenus générés avec Claude. Cette mesure est censée renforcer la transparence autour de l’intelligence artificielle et répondre aux nouvelles obligations européennes.

La démarche rencontre de multiples reproches dont certains concerne les contenus professionnels. En effet cette signature et traçabilités imposées dans des offres payantes concerner aussi les contenus professionnels et le code informatique, ce qui inquiète certains clients utilisant Claude dans leur activité.

Un marquage invisible jusque dans les textes corrigés

Cloude a redoublé d’effort pour mettre en place une technique qui modifie subtilement la manière dont certains mots ou séquences sont sélectionnés lors de la génération. Si pour un lecteur, le résultat reste naturel, des outils adaptés peuvent de leur coté détecter la présence du motif.

Ce marquage et cette traçabilité ne concernent pas uniquement les textes produits par Claude. Il subsiste lorsque l’IA intervient pour corriger ou retravailler un contenu initialement écrit par un humain.

Des développeurs annulent leur abonnement Claude

Selon Business Insider, le mécontentement est là avec parfois des décisions radicales. Des clients payants ont décidé de quitter l’aventure en résiliant leur abonnement à Claude.

Des développeurs redoutent qu’un code simplement corrigé ou optimisé avec Claude puisse être identifié comme ayant bénéficié d’une intervention de l’IA.

Anthropic tente de rassurer en soulignant que son système de marquage indique uniquement qu’un contenu est passé par Claude. Il ne permet pas d’affirmer que l’intégralité du document ou du programme a été produite par l’IA.

Il est encore trop tôt pour dire quel pourrait être l’impact pour Anthropic. Le géant a déclaré qu’il n’avait pas vu de tendance à une hausse des annulations depuis qu’il a annoncé le filigrane.

En attendant, si Anthropic a déclaré qu’il avait ajouté le filigrane afin de se conformer à la loi sur l’IA de l’Union européenne, l’entreprise a aussi indiqué qu’elle prévoyait de déployer une interface de programmation d’application gratuite, ou API, qui permettra aux utilisateurs et aux tiers de vérifier le texte du filigrane de Claude .

Transparence contre contrôle des utilisateurs

Cette polémique n’est probablement que le début d’un problème plus large auquel sont désormais confrontés les fournisseurs d’IA. Si les autorités veulent pouvoir identifier les contenus artificiels, les professionnels veulent de leur coté conserver le contrôle sur leurs productions.

Certains concurrents envisagent déjà des approches plus flexibles, notamment avec la possibilité de retirer certains marqueurs selon les usages. En effet Google permettra à ses utilisateurs de supprimer complètement les filigranes des textes et médias générés à l’avenir.