Glossar
Tensor cores
Spezialisierte Matrizenmultiplikations-Einheiten auf NVIDIA-RTX-GPUs, optimiert für die Halbpräzisions-Mathematik, die im Deep Learning verwendet wird. Treiben DLSS, Frame Generation und On-Device-KI-Inferenz an.
Tensor-Cores führen Fused-Multiply-Accumulate-Operationen auf kleinen Matrizen aus (typischerweise 4×4 FP16/BF16/INT8), weit schneller als CUDA-Cores es können. Der architektonische Gewinn: Hunderte TOPS auf Consumer-Karten.
Was sie nutzt
- DLSS — neuronales Upscaling und Frame Generation.
- NVIDIA Broadcast — Hintergrundunschärfe, Rauschentfernung.
- Lokale LLMs — Llama-, Mistral-Inferenz mit brauchbarer Geschwindigkeit.
- Stable Diffusion — Bildgenerierung 5–10× schneller als nur mit CUDA.
Generationen
- Turing — 1. Generation.
- Ampere — 3. Generation, ergänzte Sparsity.
- Ada — 4. Generation, ergänzte FP8.
- Blackwell — 5. Generation, ergänzte FP4 + deutlich höheren Durchsatz.
Wo das zählt
Categories that use tensor cores
Weiterlesen