Glossaire
TOPS
Tera-Operations Per Second — une métrique commerciale du débit des accélérateurs IA. Plus c'est élevé, mieux c'est, mais la précision des opérations (INT8, FP16, FP4) et les hypothèses de sparsité comptent autant que le chiffre.
Les TOPS mesurent combien d'opérations IA une puce peut exécuter par seconde. Les fabricants les citent pour les NPU, GPU et SoC.
Les astérisques
- Précision. 40 TOPS en INT8 ≠ 40 TOPS en FP16. Une précision plus basse donne plus de TOPS.
- Sparsité. « Sparsité activée » double les TOPS théoriques en sautant les poids nuls, mais les vrais modèles atteignent rarement la sparsité théorique.
- Soutenu vs pic. La plupart des chiffres cités sont des pics ; le débit soutenu sous limites thermiques est plus faible.
Pourquoi c'est important en 2026
Les PC Windows Copilot+ exigent un NPU d'au moins 40 TOPS pour les fonctions Copilot embarquées. L'Apple Neural Engine se situe autour de 35 TOPS. Le RTX mobile de NVIDIA écrase les deux — 200+ TOPS — mais à une consommation bien plus élevée.
Pour l'inférence de LLM, la bande passante mémoire totale crée souvent le goulot d'étranglement avant les TOPS.
Où ça compte
Categories that use tops
Continuer la lecture