Une technique antérieure d'attention creuse, utilisée comme point de comparaison pour la vitesse de SubQ.
Subquadratic, une startup de Miami, prétend avoir résolu un goulot d'étranglement des LLM avec son modèle SubQ. Promettant vitesse et efficacité, est-ce une avancée ou une illusion ?