95% de tokens en moins sans changer une ligne de code

C'est la promesse, et elle me met mal à l'aise Headroom, open-sourcé par Tejas Chopra, ingénieur senior chez Netflix Plus de 45 000 stars en quelques mois Ça se glisse en proxy local entre toi et le modèle Avant que ta requête parte, ça compresse les logs, le JSON, le code Tes données restent sur ta machine Le timing est parfait, tout le monde flippe sur sa facture d'IA, un outil qui coupe la conso de 60 à 95%, forcément ça parle Mais compresser ce qui part dans le modèle, ça revient à lui retirer du contexte Eux disent garder les mêmes réponses Sauf que ce sont leurs propres benchmarks, pas ta codebase en prod Donc deux lectures Soit c'est le chaînon qui rend enfin les agents abordables Soit tu dégrades ton modèle en silence pour payer moins, et tu le découvres sur le bug que t'aurais dû attraper Perso j'ai testé, et je trouve les résultats prometteurs Tu laisserais un proxy décider de ce que ton LLM a le droit de voir, ou tu veux qu'il voie tout ?