« Un algorithme ultra-compressé entre dans un bar. Il prend moins de place… mais laisse tout le monde sur le carreau ! » Voilà pour l’ambiance, car aujourd’hui, on ne parle pas de bière mais bien de la dernière création des cerveaux bien rembourrés (dans tous les sens du terme) chez Google : TurboQuant. Si ce nom ne vous fait pas déjà penser à une Formule 1 des octets, attendez de voir ce que l’internet en pense…
Depuis l’annonce fracassante mardi, la toile s’est déchaînée avec un clin d’œil appuyé à « Pied Piper », la fameuse startup fictive qui a fait les belles heures de la série HBO « Silicon Valley ». Pour les fans, TurboQuant, c’est comme si Google avait décidé de piquer le brevet magique de la bande à Richard Hendricks et de le faire tourner à fond les bytes. Irrésistible, la comparaison envahit X, Twitter et cie, avec plus de memes que de RAM dans un ordinateur bas de gamme.
Mais au-delà de la blague, il y a un fond de vérité. Pied Piper, c’était un algorithme de compression révolutionnaire (on vous épargne le Weismann Score), qui promettait de faire tenir l’internet mondial dans une clé USB. TurboQuant, lui, s’attaque à un vrai problème de geek : faire tenir plus d’intelligence artificielle dans moins de mémoire, grâce à une technologie qui compresse la mémoire dite « KV cache » sans trop sacrifier la qualité. Résultat, plus besoin de cartes graphiques de compétition pour entraîner ou utiliser des modèles d’IA.
TurboQuant, c’est du « Pied Piper » sauce Google : la fiction rencontre la start-up nation… mais attention à ne pas zapper la réalité du labo !
Concrètement, l’équipe de Google planche sur deux méthodes : la quantification vectorielle, baptisée PolarQuant, et une optimisation maison, QJL (aucun lien avec le Jamel Comedy Club). L’ensemble promet de réduire d’au moins 6x la mémoire mobilisée pendant l’inférence, ce moment où l’IA vous répond avec brio à vos questions existentielles. De quoi faire saliver tous ceux qui veulent faire tourner des LLM dernier cri pour le prix d’une bonne raclette (soit beaucoup moins qu’aujourd’hui).
Évidemment, le gratin du web tech regarde tout ça avec des étoiles dans les yeux et un brin de scepticisme. Certains, comme le boss de Cloudflare, parlent d’un « DeepSeek moment » à la sauce Google, référence à la start-up chinoise qui a fait trembler OpenAI. Mais, avant de sabrer le code, rappelons que TurboQuant reste, pour l’instant, coincé dans le labo des chercheurs, aussi perdu que le code source de Pied Piper lors de la finale de TechCrunch Disrupt.
Il faut tempérer les ardeurs : la révolution n’est pas encore là. TurboQuant ne résoudra pas le problème de la RAM dévorée par le training des modèles géants (pour le moment, seule la mémoire d’inférence passe au régime sec). Alors pour ceux qui espéraient pouvoir faire tourner GPT-8 sur leur vieux PC familial, il faudra encore patienter… et économiser un peu plus pour la prochaine carte graphique.
En attendant, si Google cherche un nom de code pour la prochaine version, l’internet a déjà tranché : « Pied Piper 2.0 » est sur toutes les lèvres. Mais avec tout ce buzz, attention à ne pas finir, comme dans la série, à dormir sur une montagne de memes et de promesses compressées !
Allez, on referme ce dossier futuriste avec un dernier jeu de mots (ne m’en voulez pas, j’ai TurboQuant à mes lacunes) : finalement, ce n’est ni la taille qui compte, ni la vitesse, mais la capacité… de faire rire toute la Silicon Valley !
Source : Techcrunch
