Il existe une opportunité pour innover dans les infrastructures d'IA afin de réduire les coûts d'inférence.
Les coûts d'inférence des modèles d'IA pourraient bientôt dépasser ceux de l'entraînement, selon Amin Vahdat de Google. Cette évolution soulève des questions cruciales sur la viabilité économique des applications d'IA à grande échelle.