Inférence IA : DeepSeek libère son moteur secret pour casser les prix du cloud
Introduction : Pour soutenir le tel débit d’inférence sans ruiner son modèle économique, l’entreprise chinoise DeepSeek s’appuiera désormais sur une infrastructure logicielle ultra-optimisée. Plutôt que de conserver cet avantage compétitif sous clé, le laboratoire frappe un grand coup en publiant le code source de DeepInfer sur GitHub. Ce framework haute performance, qui propulse les services de production à grande échelle du modèle V4.1-Flash, est désormais accessible aux développeurs du monde entier sous licence libre Apache 2.0…. Afin de s’assurer que les entreprises qui auto-hébergent la solution obtiennent un comportement strictement identique au service en ligne officiel, l’éditeur a couplé cette sortie avec la publication du composant deepseek-recipe (sous licence MIT). Ce script essentiel se charge de convertir le protocole des requêtes de l’API en instructions natives compréhensibles par le modèle, gérant avec précision les formats de complétion et de messages. Sur le plan matériel, l’infrastructure ne fait aucun compromis. Le système cible les puces de pointe en prenant en charge les GPU NVIDIA SM100 ainsi que les NPU Huawei Ascend 950. Cette compatibilité confirme la stratégie du laboratoire : s’appuyer sur le silicium national pour ses futurs entraînements tout en maintenant une excellence technologique sur les composants américains.