DeepSeek : L'ouverture d'un moteur d'inférence qui fait grincer des dents
Ah, DeepSeek. Cette entreprise qui a déjà fait couler beaucoup d'encre, notamment à cause de ses liens présumés avec l'armée chinoise, revient sur le devant de la scène. Cette fois, c'est pour annoncer la publication de DeepInfer, son moteur d'inférence pour V4.1-Flash, sous licence Apache 2.0. Mais ne vous emballez pas trop vite, car comme d'habitude, il y a un hic.
Un moteur d'inférence... limité
DeepInfer est compatible avec les puces NVIDIA SM100 et Huawei Ascend 950. Jusque-là, tout va bien. Mais ce qui est moins reluisant, c'est que la version actuelle est limitée à l'inférence hors ligne. Oui, vous avez bien lu. Oubliez le cache KV, l'équilibrage de charge entre réplicas et la séparation complète prefill/decode. Autant dire que ce moteur est loin d'être prêt pour les heures de pointe.
Des promesses de rentabilité qui laissent sceptique
DeepSeek affirme que DeepInfer peut générer 38 dollars de revenu par GPU-heure à tarif réduit. Impressionnant, non ? Sauf que ce chiffre est comparé à un revenu théorique de mars 2025, sur une base que même DeepSeek admet être peu comparable. Alors, est-ce vraiment une avancée ou juste un coup de pub pour redorer leur blason ?
Un timing qui interroge
Rappelons que cette publication intervient après que DeepSeek ait renoncé en avril 2025 à ouvrir son moteur interne. Pourquoi maintenant ? Peut-être pour détourner l'attention des controverses qui entourent l'entreprise. Ou peut-être est-ce une tentative désespérée de rattraper le train en marche dans le marché des infrastructures IA.
Opportunités et menaces
- Opportunités : L'optimisation des coûts grâce à l'industrialisation de la production de contenu via l'IA est une perspective alléchante. Mais encore faut-il que la technologie suive.