525 Go de mémoire

Au minimum, compressé en 4 bits, juste pour charger le modèle dont Mistral ouvre les poids aujourd'hui Et presque tous ceux qui vont crier à la souveraineté ne pourront jamais le faire tourner Il y a trois semaines je saluais les 3 800 GPU de Le Chonk J'ai bossé sur l'app Le Chat, je suis le premier à vouloir qu'ils gagnent Mais là je vais dire le truc qui fâche 1 050 milliards de paramètres, en MoE À chaque token, il n'en active que 52 milliards Beaucoup en concluent qu'il est léger Faux, les 1 050 milliards doivent être chargés en mémoire avant la moindre réponse Le MoE économise du calcul, la mémoire reste celle du modèle entier Donc ton laptop, le serveur de ta boîte, ta petite infra on-premise, oublie Pour le servir à une équipe, c'est un serveur multi-GPU Et franchement c'est une excellente nouvelle Un modèle de ce calibre, français, avec des poids ouverts, qu'un hébergeur européen pourra servir depuis l'Europe si la licence suit Oui, Qwen ou DeepSeek peuvent déjà tourner sur des serveurs européens Mais avoir un modèle de cette taille conçu ici, ça pèse dans le rapport de force La souveraineté ne s'est jamais jouée sur ton laptop Elle se joue le jour où un hébergeur européen peut servir ce modèle sans demander la permission à personne Ceux qui vont annoncer demain qu'ils l'hébergent eux-mêmes, je les attends avec leur facture GPU En face, l'API est à 1,36 dollar le million de tokens en entrée Alors sois honnête Tu vas vraiment le faire tourner chez toi, ou tu vas finir sur l'API comme tout le monde ?