Uber : macdonald dénonce le 'tokenmaxxing' et l'inefficacité de l'ia
Andrew Macdonald, directeur des opérations d’Uber, a levé le voile sur une pratique controversée qui gangrène l’utilisation de l’intelligence artificielle : le ‘tokenmaxxing’. Cette stratégie, consistant à exploiter au maximum les crédits de tokens des chatbots, s’avère, selon lui, loin de générer les gains de productivité escomptés et soulève des questions sur la gestion des coûts.
Un débat éclot dans le sillage de l’inflation des tokens
Macdonald, dans une interview récente, a exprimé son scepticisme quant à un lien direct entre l’augmentation de l’utilisation de tokens et une véritable amélioration de la productivité. Ses déclarations, rapidement viralisées sur X, ont suscité un tollé dans le secteur technologique.
« Je ne vois pas encore le lien », a-t-il déclaré, soulignant que le bénéfice réel de cette approche reste flou. Il pointe du doigt une difficulté à établir une corrélation entre l’utilisation massive de tokens et une augmentation concrète des fonctionnalités utiles pour les consommateurs.
Chaque token représente environ trois quarts de mot, ce qui incite à une utilisation intensive pour optimiser la productivité. Mais cette course aux tokens, loin de booster l’efficacité, pourrait se transformer en un gouffre financier pour les entreprises.
Des entreprises englouties par les coûts de l’ia
La situation est d’autant plus préoccupante que de nombreuses entreprises américaines, telles que Meta, Disney et JPMorgan Chase, investissent massivement dans l’ia. Meta, par exemple, commence à recruter des « développeurs ia » et vise à créer des équipes dédiées à l’innovation en intelligence artificielle. Visa, quant à elle, récompense les équipes les plus rapides grâce à l’ia et affiche un budget mensuel consacré aux tokens dépassant les 2 milliards de dollars.
Cependant, des voix s’élèvent pour dénoncer un gaspillage colossal. Akshat Bubna, cofondateur de Modal, a estimé que 50% des dépenses internes en tokens étaient inutiles, soulignant une absence de retour sur investissement tangible. Karthik Hariharan, un ingénieur, a quant à lui évoqué des dépenses de millions de dollars en tokens sans résultats significatifs.
Un risque de bulle imminente ?
Sundar Pichai, PDG de Google, a d’ailleurs exprimé ses inquiétudes quant à la gestion des budgets de l’ia, soulignant que de nombreux responsables informatiques sont préoccupés par la « combustion » des dépenses. Le débat sur le ‘tokenmaxxing’ alimente également la crainte d’une bulle spéculative sur l’ia.
Michael Burry, célèbre investisseur de “The Big Short”, a qualifié cette pratique de « phase folle et précipitée », prévoyant une chute brutale des actions de Nvidia. La prudence est donc de mise.
Une étude de Jellyfish suggère même que le 10% des utilisateurs les plus intensifs de Claude Code consomment 10 fois plus de tokens que le reste de la communauté, sans pour autant produire deux fois plus de travail. La solution ? Lier les coûts aux métriques concrètes, comme les pull requests, au lieu de récompenser simplement la quantité de tokens utilisés.
En définitive, l’avenir de l’IA dépendra de la capacité des entreprises à maîtriser leurs dépenses et à s’assurer que l’investissement en intelligence artificielle se traduit réellement par une valeur ajoutée pour les consommateurs. La stratégie du ‘tokenmaxxing’ pourrait bien être un chemin semé d’embûches.