Sözlük
TOPS
Tera-Operations Per Second — yapay zeka hızlandırıcı verimi için pazarlama dostu bir metrik. Daha yüksek daha iyidir ama işlem duyarlılığı (INT8, FP16, FP4) ve seyreklik varsayımları sayı kadar önemlidir.
TOPS, bir yonganın saniyede kaç yapay zeka işlemi yürütebileceğini ölçer. Üreticiler bunu NPU'lar, GPU'lar ve SoC'ler için belirtir.
Yıldız işaretleri
- Duyarlılık. INT8'de 40 TOPS ≠ FP16'da 40 TOPS. Daha düşük duyarlılık daha fazla TOPS verir.
- Seyreklik. "Seyreklik açık", sıfır ağırlıkları atlayarak teorik TOPS'u ikiye katlar ama gerçek modeller nadiren teorik seyrekliğe ulaşır.
- Sürekli mi, tepe mi. Belirtilen rakamların çoğu tepedir; termal sınırlar altında sürekli verim daha düşüktür.
2026'da neden önemli
Windows Copilot+ PC'ler, cihaz üstü Copilot özellikleri için ≥40 TOPS'lu bir NPU gerektirir. Apple Neural Engine 35 TOPS civarındadır. NVIDIA'nın mobil RTX'i her ikisini de gölgede bırakır — 200+ TOPS — ama çok daha yüksek güçte.
LLM çıkarımı için, toplam bellek bant genişliği genellikle TOPS'tan önce darboğaz oluşturur.
Bu nerede önemli
Categories that use tops
Okumaya devam et