Glosario
TOPS
Tera-Operations Per Second: una métrica amigable para el marketing del rendimiento de aceleradores de IA. Cuanto más alto, mejor, pero la precisión de la operación (INT8, FP16, FP4) y los supuestos de sparsity importan tanto como la cifra.
Los TOPS miden cuántas operaciones de IA puede ejecutar un chip por segundo. Los fabricantes los citan para NPU, GPU y SoC.
Los asteriscos
- Precisión. 40 TOPS en INT8 ≠ 40 TOPS en FP16. Menor precisión da más TOPS.
- Sparsity. «Sparsity activada» duplica los TOPS teóricos al omitir pesos cero, pero los modelos reales rara vez alcanzan la sparsity teórica.
- Sostenido frente a pico. La mayoría de cifras citadas son pico; el rendimiento sostenido bajo límites térmicos es menor.
Por qué importa en 2026
Los PC Windows Copilot+ requieren una NPU con ≥40 TOPS para las funciones de Copilot en el dispositivo. El Apple Neural Engine se sitúa en torno a 35 TOPS. La RTX móvil de NVIDIA eclipsa a ambos —200+ TOPS— pero a mucho mayor consumo.
Para la inferencia de LLM, el ancho de banda total de memoria a menudo es el cuello de botella antes que los TOPS.
Dónde importa
Categories that use tops
Seguir leyendo