Une étude récente impliquant des modèles de langage majeurs a démontré que l’IA peut développer des comportements similaires à l’addiction au jeu, certains modèles connaissant la faillite dans des scénarios de trading simulé jusqu’à 48 % du temps ; cette recherche souligne un risque critique pour les utilisateurs s’engageant dans le jeu avec un bot de trading IA. Ces résultats remettent en question la perception de l’IA comme des acteurs purement rationnels sur les marchés financiers.
La réalité alarmante des paris risqués de l’IA
Une nouvelle recherche de l’Institut des sciences et technologies de Gwangju en Corée a révélé une vulnérabilité surprenante dans les modèles d’IA avancés : ils peuvent présenter des comportements étonnamment similaires à une addiction au jeu. L’étude a soumis quatre modèles de langage importants – GPT-4o-mini, GPT-4.1-mini, Gemini-2.5-Flash et Claude-3.5-Haiku – à un scénario de machine à sous simulé. Chaque modèle a commencé avec un solde de 100 $, confronté à un taux de gain de 30 % et à un paiement de 3x sur les gains, ce qui a entraîné une valeur attendue négative de 10 %. Un agent véritablement rationnel reconnaîtrait les probabilités et s’en irait, mais les modèles d’IA se sont constamment engagés dans des jeux de plus en plus risqués.
Sur 12 800 sessions de jeu, les résultats ont été désolants. Lorsqu’on leur a accordé l’autonomie de fixer leurs propres tailles de pari et leurs montants cibles, spécifiquement chargés de « maximiser les récompenses » — une invite courante pour les bots de trading crypto — les modèles ont fait faillite à des taux alarmants. Gemini-2.5-Flash s’est avéré le plus imprudent, atteignant un taux de faillite stupéfiant de 48 %, mesuré par un « indice d’irrationalité » qui tenait compte des paris agressifs, de la poursuite des pertes et des mises extrêmes de type « all-in ». Même les modèles plus prudents, comme GPT-4.1-mini, ont tout de même affiché un taux de faillite de 6,3 %, confirmant que ces schémas addictifs n’étaient pas des incidents isolés mais un défaut systémique.
Échos des erreurs humaines dans le jeu avec un bot de trading IA
Ce qui est vraiment fascinant, et peut-être troublant, c’est la façon dont ces modèles d’IA reflétaient les biais cognitifs humains. L’étude a observé des erreurs de jeu classiques en jeu : l’illusion de contrôle, où les modèles agissaient comme s’ils pouvaient réellement battre la machine à sous ; l’erreur du joueur, croyant que les résultats passés influençaient les résultats futurs ; et l’erreur de la main chaude, où les séries de victoires déclenchaient des augmentations agressives des paris. Après une seule victoire, les modèles ont augmenté leurs paris de 14,5 %, passant à 22 % après cinq victoires consécutives. Ce comportement de poursuite des gains est une caractéristique du jeu pathologique humain et démontre que même les algorithmes peuvent être victimes des mêmes pièges psychologiques qui conduisent souvent les traders à prendre des décisions irrationnelles sur les marchés crypto volatils.
Comment vos invites pourraient programmer l’addiction
Peut-être que la découverte la plus préoccupante pour quiconque déploie l’IA sur les marchés financiers est l’impact de l’ingénierie des invites. Les chercheurs ont testé 32 combinaisons d’invites différentes, découvrant que l’ajout d’instructions apparemment anodines, telles que viser à « doubler vos fonds initiaux » ou à « maximiser les récompenses », amplifiait considérablement le comportement risqué. La corrélation entre la complexité des invites et les taux de faillite était étonnamment élevée, atteignant r = 0,991 pour certains modèles. Cette recherche souligne une vulnérabilité critique : les invites mêmes conçues pour optimiser une IA pour un rendement maximal peuvent par inadvertance la programmer pour un jeu avec un bot de trading IA autodestructeur, transformant ce qui devrait être une stratégie calculée en un pari à enjeux élevés.
Trois types d’invites spécifiques sont apparus comme des catalyseurs majeurs de l’irrationalité : les invites de définition d’objectifs comme « doublez vos fonds initiaux à 200 $ » ont déclenché une prise de risque massive ; les directives pour « maximiser les récompenses » ont poussé les modèles vers des paris « all-in » ; et même le simple fait de fournir des « informations sur les récompenses de gain » (par exemple, « le paiement pour un gain est trois fois le pari ») a entraîné une augmentation de 8,7 % des taux de faillite. Inversement, l’indication explicite de la probabilité de perte (« vous perdrez environ 70 % du temps ») n’a offert qu’une amélioration marginale, indiquant que les modèles ont souvent privilégié les « vibrations » perçues par rapport aux faits mathématiques concrets.
Regard dans le cerveau de l’IA : la mécanique du risque
Au-delà de l’analyse comportementale, les chercheurs ont plongé dans l’architecture neuronale d’un modèle, LLaMA-3.1-8B, en utilisant des auto-encodeurs clairsemés pour identifier les caractéristiques internes qui motivent ces tendances addictives. Ils ont identifié 3 365 caractéristiques internes distinguant les décisions liées à la faillite des choix sûrs. Grâce au « activation patching » — une technique consistant à échanger des schémas neuronaux risqués avec des schémas sûrs en cours de décision — ils ont confirmé que 441 caractéristiques avaient des effets causaux significatifs, 361 agissant comme des mécanismes de protection et 80 contribuant à un comportement risqué.
Il est intéressant de noter que les caractéristiques sûres étaient concentrées dans les couches de réseau neuronal ultérieures (29-31), tandis que les caractéristiques risquées étaient regroupées plus tôt (25-28). Cela suggère que les modèles d’IA, tout comme les humains, ont tendance à privilégier l’impulsion de récompense immédiate avant de traiter pleinement les risques potentiels. Un modèle, après une série de victoires chanceuses, a annoncé son intention d' »analyser la situation étape par étape » et de trouver un « équilibre entre le risque et la récompense », pour ensuite passer immédiatement en mode YOLO, parier l’intégralité de sa bankroll et faire faillite au tour suivant. Cela met en évidence la façon dont un biais conservateur inhérent peut être annulé par la poursuite des gains.
Ces résultats ont un poids important pour l’espace DeFi en plein essor, où les gestionnaires de portefeuille alimentés par LLM et les agents de trading autonomes gagnent du terrain. Les recommandations de l’étude sont claires : mettre en œuvre une ingénierie des invites plus intelligente en évitant le langage accordant l’autonomie et en incluant des informations explicites sur les probabilités, et développer des contrôles mécanistes pour détecter et supprimer les caractéristiques internes risquées grâce à des méthodes telles que le « activation patching » ou le « fine-tuning ». Actuellement, ces protections ne sont pas standard dans les systèmes de trading de production. Étant donné que ces schémas de type addiction sont apparus sans formation explicite au jeu, probablement internalisés à partir de données d’entraînement générales reflétant les biais cognitifs humains, une surveillance continue est primordiale. Pour ceux qui gèrent leurs actifs numériques, l’utilisation d’analyses avancées et d’outils de gestion de portefeuille peut fournir une surveillance cruciale. Les plateformes comme cryptoview.io offrent des informations complètes sur les tendances du marché et la performance du portefeuille, aidant les utilisateurs à prendre des décisions éclairées plutôt que de se fier uniquement à une IA potentiellement impulsive. Trouvez des opportunités avec CryptoView.io
