L'exécution locale des modèles est présentée comme une solution plus économique pour les applications IA.
Les modèles de langage compacts promettent monts et merveilles : rapidité, économie, et respect de la vie privée. Mais avant de vous emballer, voyons ce que cela implique vraiment.
