Une équipe de recherche de l’université Sejong a dévoilé un nouvel accélérateur matériel qui pourrait permettre d’exécuter des modèles linguistiques avancés basés sur des transformateurs directement sur des appareils, sans avoir besoin d’un accès constant au nuage. Leur Scalable Transformer Accelerator Unit (STAU) utilise une architecture adaptative qui traite efficacement les calculs complexes tout en s’adaptant aux différentes tailles et structures d’entrée. En réduisant les blocages de mémoire, en optimisant les opérations matricielles et en rationalisant les flux de données, le système maintient une grande précision tout en accélérant considérablement les temps de traitement. Cette avancée pourrait permettre de déployer localement de puissants outils d’intelligence artificielle sur des appareils de tous les jours, en garantissant des performances en temps réel, le respect de la vie privée et la réactivité, sans les limites des serveurs distants.
