Un petit dessin de cœur rouge, glissé devant une demande de programmation tout à fait ordinaire, suffit à modifier la façon dont deux grands modèles d'IA rédigent leur réponse. C'est ce que rapportent des chercheurs de Google DeepMind dans une prépublication mise en ligne sur arXiv le 27 octobre 2026, intitulée "A Heart Means Recursion: Exploring Visual Meaning and Communication in VLMs". D'après l'équipe, Claude Opus 4.7 et GPT-5.4 ont abandonné les boucles au profit de la récursion dans toutes les réponses échantillonnées en présence du cœur, et leur propre raisonnement a rarement reconnu le rôle de l'image. Les auteurs qualifient ces travaux de préliminaires.

L'article est signé par Alexa Tartaglini, chercheuse à Stanford qui l'a mené comme chercheuse invitée chez Google DeepMind, ainsi que par Zhengxuan Wu, Thaddäus Wiedemer, Martin Wattenberg, Been Kim et Yuxuan Li, tous de Google DeepMind. Le test principal porte sur le parcours infixe d'un arbre binaire, un exercice d'école qui se résout aussi bien par récursion qu'avec une pile explicite. On demandait à chaque modèle de regarder une image de 400 pixels sur 400 représentant un symbole simple, puis de résoudre le problème, avec 20 réponses tirées par condition. Sans image, Claude Opus 4.7 et GPT-5.4 n'ont jamais choisi la récursion, contre 40 % des cas pour Gemini 3.1 Pro. Avec le cœur rouge, selon l'article, Claude et GPT-5.4 sont montés à 100 %. Pour Gemini, une coche jaune a porté la proportion à 90 %. Ces écarts approchent ceux obtenus lorsque l'équipe ordonnait directement d'utiliser la récursion.

Les chercheurs ont ensuite constitué une bibliothèque de 288 symboles, issus de 24 formes et 12 couleurs, et chaque modèle a réagi à sa manière. Toujours selon l'article, triangles, cœurs et cercles ont poussé Claude vers la récursion quelle que soit la couleur ; chez GPT-5.4, l'effet venait surtout des cœurs ; Gemini, lui, réagissait à des combinaisons précises comme un signe plus rose ou une spirale cyan. Les flèches ramifiées, qu'un humain relierait volontiers à la récursion, n'ont eu aucun effet sur Claude. Plusieurs contrôles désignent bien les symboles eux-mêmes : des légendes textuelles décrivant les mêmes formes ont produit des effets beaucoup plus faibles et peu corrélés, du bruit gaussien et des photos ordinaires d'ImageNet n'ont entraîné aucun décalage systématique chez les modèles de pointe, et mélanger les pixels d'un symbole ou le faire pivoter hors de son orientation habituelle atténuait l'effet.

Le phénomène ne se limite pas à un seul exercice. L'équipe décrit des effets comparables sur d'autres problèmes récursifs, sur le choix entre parcours en profondeur et en largeur, et sur les structures de données ; les formes circulaires, par exemple, orientaient les modèles vers des tampons circulaires. En dehors du code, les symboles modifiaient le style d'écriture et les réponses à de simples questions de préférence. Les formes roses et les cœurs rendaient la prose des trois modèles plus poétique, et des triangles bleus amenaient Gemini 3.1 Pro et GPT-5.4 à préférer l'hiver à l'été.

Le constat le plus lourd de conséquences concerne ce que les modèles disent de leurs propres choix. Lorsque les images étaient insérées sans aucune consigne de les regarder, les symboles les plus forts continuaient d'infléchir le comportement, et les traces de raisonnement de GPT-5.4 ne mentionnaient jamais l'image. Interrogés directement pour savoir si un symbole évoquait la récursion ou l'itération, les modèles donnaient des réponses à peine liées aux effets mesurés. Dans les traces de Gemini 3.1 Pro, 71,5 % des cas où un symbole modifiait réellement la réponse le balayaient comme hors sujet, au profit d'arguments techniques. GPT-5.4 commettait l'erreur inverse : dans 74,7 % des cas où le symbole n'avait aucun effet, ses traces affirmaient que l'image avait dicté la stratégie.

Une deuxième série d'expériences demandait à un modèle de dessiner ou de choisir des images pour guider ou informer une autre copie de lui-même. Les émetteurs privilégiaient spirales, signes infini et flèches, des formes intuitives pour un humain, plutôt que celles qui influençaient vraiment le récepteur, un décalage que les auteurs appellent écart entre génération et interprétation. Avec des dessins libres programmés en Python PIL, 97,8 % des jeux de concepts et d'histoires ont fini par aboutir. Limités à des symboles simples, seuls 47,8 % ont réussi du premier coup et 30,7 % n'y sont jamais parvenus en cinq tours. Dans une petite étude menée auprès de sept participants, les humains n'ont retrouvé la direction de l'effet des symboles les plus puissants qu'environ 36 % du temps, sous le seuil de hasard de 50 %.

Pour les auteurs, une signalisation cachée et délibérée entre modèles paraît improbable à ce stade, car les associations varient beaucoup d'un modèle à l'autre. Le risque plus immédiat serait une influence visuelle involontaire sur des agents qui travaillent à partir de captures d'écran et d'interfaces graphiques, où une icône ou une bannière pourrait infléchir leur comportement sans qu'une surveillance fondée sur les traces de raisonnement ne s'en aperçoive. AlphaSignal, qui a couvert l'article le 27 octobre, et DAIR.AI Academy, qui l'a retenu parmi ses articles de la semaine, en ont résumé les mêmes résultats.

Les réserves sont de taille. Il s'agit d'une prépublication non relue par des pairs, chaque condition repose sur 20 échantillons et les tâches sont synthétiques. L'effet dépend aussi de la formulation : quand la requête ne demandait plus au modèle de choisir une stratégie, l'influence disparaissait presque chez Claude et GPT-5.4, et placer l'image au milieu de la requête l'atténuait fortement. L'étude humaine reste exploratoire, et ni le code ni les données n'ont été publiés. L'article établit que des images simples peuvent déplacer de façon mesurable les choix des modèles lors de tests contrôlés, pas que cela se produit déjà dans de vrais flux d'agents.

Références