2026-11-03 · 5 min de lecture

DeepSeek-V4.1-Flash-1017 Coder : un modèle de programmation compressé pour stations de travail grand public

Dans un article précédent, nous avons vu comment lancer DeepSeek-V4.1-Flash sur une station de travail grand public en combinant VRAM, mémoire système et stockage NVMe. Aujourd'hui, nous revenons avec une seconde option résolument tournée vers le développement logiciel : DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF, publié par ISTA-DASLab. Cette version reprend le même modèle de base et supprime une grande partie de ses experts creux, ce qui réduit suffisamment les fichiers de poids pour qu'un assistant de programmation complet tienne entièrement dans la mémoire graphique et la mémoire système, sans aucun déport sur NVMe.

Ce que change la variante coder

La nouvelle compilation n'est pas une simple requantification. Il s'agit d'une version ciblée sur les capacités : la chaîne de compression a été conçue autour des charges de travail de programmation et d'agents, de sorte que les parties du réseau les plus importantes pour le code sont conservées avec une précision plus élevée tandis que le reste est réduit de manière agressive. Le résultat est un modèle qui se comporte comme un spécialiste plutôt que comme un généraliste, et qui tient dans du matériel que la plupart des développeurs possèdent déjà.

GSQ et RCO : les deux piliers de la compression

Le premier pilier est la quantification Gumbel-Softmax (GSQ). Au lieu d'arrondir les poids sur une grille fixe, GSQ apprend les affectations de grille par coordonnée en même temps que les échelles par groupe, ce qui produit une quantification scalaire en bits faibles bien plus précise. Le second pilier est l'optimisation sous contraintes riemanniennes (RCO), qui traite le budget de bits de chaque tenseur comme une contrainte stricte pendant l'optimisation conjointe. En pratique, RCO décide où doivent aller les bits disponibles, en accordant plus de précision aux couches sensibles et moins à celles qui supportent une compression intense. Ensemble, les deux techniques maintiennent la cohérence du modèle à des débits binaires qui détruiraient normalement la qualité.

Élagage des experts : de 384 à 192 experts routés

Le changement le plus visible est structurel. La moitié des couches routées du mélange d'experts creux est entièrement supprimée : sur les 384 experts routés d'origine par couche, exactement 192 sont conservés, choisis pour leur pertinence sur les tâches de programmation. Les poids survivants gardent la précision par tenseur de la compilation IQ2_XXS. Comme des experts entiers disparaissent au lieu d'être simplement quantifiés, l'économie est bien plus importante que ne le permettrait une simple réduction de la largeur de bits.

Empreinte mémoire

Les poids du transformateur occupent désormais 72,1 Go, contre 138,2 Go pour la compilation IQ2_XXS non élaguée. Rapporté aux paramètres du transformateur du modèle d'origine, cela représente environ un bit effectif par paramètre, bien que les paramètres survivants atteignent en moyenne 2,06 bits, car les tenseurs denses sont conservés à une précision plus élevée. Le modèle utilise toujours la table de correspondance Engram partagée de 110,6 Go issue de la version non élaguée ; elle lit une ligne par jeton et peut rester sur le disque ou dans la mémoire système, sans devoir résider dans la VRAM.

Graphique à barres des capacités de programmation de DeepSeek-V4.1-Flash-1017 Coder

Configurations matérielles

La conséquence pratique est qu'une station de travail bi-GPU dotée d'une quantité généreuse de mémoire système peut héberger l'ensemble sans solliciter le disque NVMe. Deux cartes RTX 3090, ou deux cartes AMD R9700, associées à 192 Go de RAM, suffisent à garder à la fois les poids du transformateur et la table Engram en mémoire rapide. Si vous préférez dépenser moins, vous pouvez toujours déporter une partie de la table Engram sur un disque NVMe ; même dans ce cas, l'empreinte totale reste inférieure à 50 Go par rapport à la quantification d'origine en 2,2 bpw du modèle de base.

Plans mémoire typiques pour la compilation coder
ConfigurationMémoire GPUMémoire systèmeUtilisation NVMe
Deux RTX 309048 Go192 Goaucune
Deux AMD R970064 Go192 Goaucune
Un GPU avec déport24 Go128 Golignes Engram sur disque
← Faites défiler vers la droite pour en voir plus →

Résultats des benchmarks

Un élagage agressif coûte généralement en précision, mais les évaluations publiées montrent que l'essentiel des capacités de programmation survit. Sur LiveCodeBench v6, la compilation coder obtient 88,57 contre 89,71 pour le modèle de base, conservant 98,7 pour cent de la capacité d'origine. Sur SWE-bench Verified, elle atteint 77,00 et préserve 94,8 pour cent des performances de référence. Autrement dit, un modèle de programmation de plusieurs milliards de paramètres qui exigeait autrefois un serveur tourne désormais sur une station de travail en ne perdant que quelques points sur des tâches réalistes d'ingénierie logicielle.

Premiers pas

Les fichiers GGUF, la configuration de quantification et les graphiques d'évaluation sont disponibles dans le dépôt ISTA-DASLab sur Hugging Face. Téléchargez la variante adaptée à votre budget mémoire, chargez-la avec votre moteur d'inférence préféré et pointez-la vers votre base de code. Si vous venez du guide précédent consacré à DeepSeek-V4.1-Flash, le déroulement est identique ; seuls les fichiers du modèle et le plan mémoire changent.

Travaillons ensemble

Vous avez besoin de plus d'informations, d'aide pour votre projet ou pour développer une idée?

Qu'il s'agisse d'une question simple, d'un doute rapide ou d'une discussion de 5 minutes, envoyez-moi un message—cela ne coûte rien et je suis toujours prêt à vous aider. J'aime comprendre un problème, être créatif dans les solutions et me concentrer sur des idées simples, fiables et faciles à réaliser rapidement.

Me contacter →

Changer de sujet

Choisissez un sujet spécialisé à explorer: