Glossário
TOPS
Tera-Operations Per Second — uma métrica amigável ao marketing para o throughput de aceleradores de IA. Quanto maior, melhor, mas a precisão da operação (INT8, FP16, FP4) e as suposições de esparsidade importam tanto quanto o número.
O TOPS mede quantas operações de IA um chip consegue executar por segundo. Fabricantes o citam para NPUs, GPUs e SoCs.
As ressalvas
- Precisão. 40 TOPS em INT8 ≠ 40 TOPS em FP16. Precisão menor gera mais TOPS.
- Esparsidade. "Esparsidade ativada" dobra o TOPS teórico ao pular pesos zerados, mas modelos reais raramente atingem a esparsidade teórica.
- Sustentado vs pico. A maioria dos números citados é de pico; o throughput sustentado sob limites térmicos é menor.
Por que importa em 2026
PCs Windows Copilot+ exigem uma NPU com ≥40 TOPS para recursos de Copilot no dispositivo. O Apple Neural Engine fica em torno de 35 TOPS. A RTX móvel da NVIDIA supera ambos — 200+ TOPS — mas com consumo muito maior.
Para inferência de LLM, a largura de banda total de memória muitas vezes é o gargalo antes do TOPS.
Onde isso importa
Categories that use tops
Continuar lendo