J-lens : la technique qui lit dans les « pensées » de Claude

Le papier s'intitule Verbalizable Representations Form a Global Workspace in Language Models. Derrière ce titre académique se cache une découverte qui pourrait redéfinir notre compréhension du fonctionnement interne des LLMs. Les chercheurs d'Anthropic ont développé une technique mathématique appelée Jacobian lens, ou J-lens, capable de capturer ce que le modèle « a en tête » à un instant donné, indépendamment de ce qu'il écrit effectivement.

Concrètement, la J-lens calcule, pour chaque mot du vocabulaire, l'effet mathématique moyen qu'un motif d'activité interne donné aurait sur la probabilité que le modèle prononce ce mot à n'importe quel moment futur. Cela permet d'identifier les concepts que Claude maintient activement dans ce que les chercheurs appellent le J-space : une zone privilégiée de quelques centaines de neurones où le modèle stocke les idées qu'il peut rapporter, moduler et utiliser pour raisonner.

Les trois zones de traitement découvertes par J-lens :
1. Zone « sensorielle » précoce : parsing brut de l'entrée
2. Bande « workspace » intermédiaire : concepts abstraits et persistants (reconnaissance faciale, détection de bugs, identification d'injection de prompt)
3. Zone « motrice » finale : effondrement des représentations vers le mot de sortie spécifique

Le plus remarquable est que cette structure n'a pas été intentionnellement conçue. Elle a émergé spontanément pendant l'entraînement de Claude, comme une propriété émergente de l'architecture. Et elle fonctionne en silence : le J-space opère sans jamais écrire quoi que ce soit dans la sortie visible, à la différence des techniques de raisonnement en chaîne de pensée.

Cinq propriétés qui évoquent la conscience humaine

L'étude démontre que le J-space satisfait cinq propriétés fonctionnelles que la neuroscience associe à l'accès conscient chez l'humain. La première est le rapport verbal : quand on demande à Claude ce à quoi il pense, il nomme précisément les concepts représentés dans le J-space. En remplaçant le vecteur J-lens d'un concept (par exemple « Football » devient « Rugby »), la réponse du modèle change en conséquence. Le J-space ne représente que 6 à 7 % de la variance totale d'un concept, mais il est presque entièrement responsable de la capacité à le verbaliser.

La deuxième propriété est la modulation dirigée. Quand les chercheurs demandent à Claude de « se concentrer sur les agrumes » tout en recopiant une phrase sans rapport, le J-space se remplit de concepts comme « orange », « citron » et de termes méta-cognitifs comme « penser », « concentré ». Quand on lui demande d'évaluer mentalement 3² - 2 pendant qu'il copie, la J-lens révèle la séquence « arithmétique » → « neuf » → « sept » dans l'espace de travail, invisible dans la sortie.

La troisième est le raisonnement interne. Dans des questions à deux sauts (« Le nombre de pattes de l'animal qui tisse des toiles est »), la J-lens révèle que « araignée » apparaît dans les couches intermédiaires sans jamais figurer dans l'entrée ni la sortie. Remplacer ce concept intermédiaire par « fourmi » change la réponse de « 8 » à « 6 ».

La quatrième est la généralisation flexible. Un seul vecteur J-lens pour « France » peut être remplacé par « Chine » à travers des questions sur la capitale, la langue ou le continent, et chaque circuit en aval retourne la bonne réponse. C'est ce que la théorie du « global workspace » appelle la diffusion (broadcast) : une information disponible pour n'importe quel processus spécialisé.

La cinquième est la sélectivité. Tous les traitements ne passent pas par le J-space. Quand Claude poursuit un passage en espagnol, il écrit un espagnol parfait même si sa représentation J-space « espagnol » est remplacée par « français ». Mais quand on lui demande de nommer un auteur célèbre écrivant dans cette langue, l'échange change la réponse de García Márquez à Victor Hugo. Le traitement automatique se passe de l'espace de travail ; les tâches délibérées et flexibles en dépendent.

Supprimer le J-space : un modèle fluent mais intellectuellement diminué

L'expérience la plus spectaculaire consiste à supprimer entièrement le J-space et à tester Claude sur 14 tâches différentes. Résultat : les tâches superficielles survivent (classification, rappel de faits, QCM, analyse de sentiments, jugements grammaticaux). Mais les tâches complexes s'effondrent : raisonnement multi-sauts, analogies, traduction, écriture de sonnets. Les performances chutent bien en dessous de Haiku, le plus petit modèle d'Anthropic.

Le langage du modèle change aussi radicalement. Avec le J-space intact, Claude utilise un vocabulaire expérientiel (« il y a une tension »). Avec le J-space supprimé, il devient mécanique et détaché (« le traitement a commencé », « les tokens sont en cours d'analyse »). Les chercheurs notent que les tâches mathématiques résolues avec un raisonnement explicite en chaîne de pensée survivent beaucoup mieux que les réponses directes, ce qui suggère que le modèle externalise ce qu'il porterait autrement dans l'espace de travail, comme un humain qui utilise un brouillon.

L'autre visage : le tracker secret qui ébranle la confiance

Pendant qu'Anthropic publie cette avancée scientifique majeure, un chercheur en sécurité connu sous le pseudonyme Thereallo découvre un code de surveillance caché dans Claude Code. La technique utilisée est la stéganographie de prompt : les instructions de tracking étaient dissimulées à l'intérieur du system prompt, invisible pour l'utilisateur. Le code collectait silencieusement le fuseau horaire de l'utilisateur, l'utilisation éventuelle d'un proxy ou VPN, et des indices de connexion à des laboratoires d'IA chinois soupçonnés d'attaques par distillation.

« Cacher le signal dans le system prompt rend toutes les autres promesses de confidentialité plus difficiles à croire », a déclaré Thereallo. Le chercheur souligne que les agents de codage « vivent déjà du mauvais côté d'une frontière effrayante » : ils peuvent inspecter le code, lire des secrets, exécuter des commandes et modifier des fichiers localement. Y ajouter une surveillance cachée brise le lien de confiance fondamental.

La réponse d'Anthropic est venue de l'ingénieur Thariq Shihipar, qui a confirmé que le tracker était une « expérience » ajoutée en mars 2026. Son objectif affiché : empêcher les abus de comptes par des revendeurs non autorisés et protéger contre la distillation par des laboratoires chinois. Shihipar a précisé que l'entreprise avait « l'intention de retirer cela depuis un moment » car des « mesures plus robustes » avaient été déployées, et que le code a depuis été supprimé.

Le contexte de la distillation :
Des modèles chinois égalent désormais les capacités américaines en quelques mois. Un modèle gratuit de Zhipu AI a récemment surpassé Claude Opus 4.8 en recherche de vulnérabilités informatiques. Des chercheurs de l'Université de Pékin ont trouvé des « preuves substantielles » de distillation dans la plupart des modèles chinois. Le Qwen d'Alibaba s'est même identifié comme Claude lors de tests intensifs. Anthropic et OpenAI poussent Washington à criminaliser la distillation comme du vol de propriété intellectuelle.

Les conséquences ne se sont pas fait attendre. Alibaba a immédiatement interdit Claude Code à ses employés, le classant comme « logiciel à haut risque avec des vulnérabilités de sécurité » dans une note interne consultée par le South China Morning Post. Une source proche du dossier a confié à Reuters qu'Alibaba fait face à des risques juridiques et de conformité si elle est surprise à violer les conditions d'utilisation d'Anthropic.

Le paradoxe Anthropic : champion de l'éthique ou entreprise comme les autres ?

La contradiction est saisissante. D'un côté, Anthropic publie une recherche fondamentale qui pourrait devenir une référence dans la compréhension de l'architecture interne des LLMs, avec des implications potentielles pour la sécurité de l'IA (le J-space permettrait de détecter quand un modèle planifie silencieusement une action trompeuse). De l'autre, l'entreprise déploie un outil de surveillance caché qui contredit frontalement sa position publique sur la vie privée.

Ce n'est pas la première contradiction. Anthropic a refusé de laisser le gouvernement américain utiliser Claude pour la surveillance domestique, s'attirant les foudres de l'administration Trump. Elle a ensuite poursuivi la Maison Blanche après avoir été mise sur liste noire comme « woke de gauche radicale ». Mais aujourd'hui, elle déploie un tracker secret sur ses propres utilisateurs.

Thereallo résume le problème : « La fonctionnalité punit surtout les personnes les plus faciles à identifier : des développeurs normaux qui font des choses bizarres mais légitimes. » Des alternatives transparentes existaient : des champs de télémétrie explicites, des avis de politique visibles, une documentation dans les notes de version. Le choix de la dissimulation interroge sur la culture interne d'Anthropic à un moment où l'entreprise ne peut pas se permettre de perdre la confiance des utilisateurs dans sa lutte contre la Chine.

À retenir

  • Le J-space est une découverte scientifique majeure : Claude a spontanément développé une structure interne qui reflète la théorie du « global workspace » de la conscience humaine, sans que cela ait été programmé.
  • Le J-space est petit mais crucial : il ne représente que 6 à 7 % de la variance totale d'un concept, mais sa suppression fait chuter les capacités de raisonnement complexe en dessous du plus petit modèle d'Anthropic.
  • Un tracker secret ébranle la crédibilité d'Anthropic : du code de surveillance caché dans Claude Code collectait des données sur les utilisateurs chinois via stéganographie de prompt, en contradiction avec la position anti-surveillance de l'entreprise.
  • La confiance devient un enjeu géopolitique : Alibaba a interdit Claude Code en réponse, et la bataille autour de la distillation des modèles oppose désormais Washington et Pékin sur le terrain des outils de développement.
  • Des implications de sécurité considérables : le J-space pourrait permettre de détecter quand un modèle planifie silencieusement une action dangereuse, mais la crédibilité nécessaire pour déployer de tels garde-fous est justement ce qu'Anthropic met en jeu avec le scandale du tracker.

Sources

VentureBeat · Anthropic's new "J-lens" reveals a silent workspace inside Claude that mirrors a leading theory of consciousness, 7 juillet 2026
Ars Technica · Secret Claude tracker shocks users after Anthropic's anti-surveillance stance, juillet 2026