Sözlük
Tensor çekirdekleri
NVIDIA RTX GPU'larındaki, derin öğrenmede kullanılan yarı duyarlıklı matematik için optimize edilmiş özel matris çarpma birimleri. DLSS, kare üretimi ve cihaz üstü yapay zeka çıkarımını güçlendirir.
Tensor çekirdekleri, küçük matrisler (tipik olarak 4×4 FP16/BF16/INT8) üzerinde birleşik çarp-topla işlemlerini CUDA çekirdeklerinin yapabileceğinden çok daha hızlı yürütür. Mimari getiri: tüketici kartlarında yüzlerce TOPS.
Neler kullanır
- DLSS — sinirsel ölçeklendirme ve kare üretimi.
- NVIDIA Broadcast — arka plan bulanıklığı, gürültü giderme.
- Yerel LLM'ler — kullanılabilir hızda Llama, Mistral çıkarımı.
- Stable Diffusion — yalnızca CUDA'dan 5–10 kat daha hızlı görüntü üretimi.
Nesiller
- Turing — 1. nesil.
- Ampere — 3. nesil, seyreklik eklendi.
- Ada — 4. nesil, FP8 eklendi.
- Blackwell — 5. nesil, FP4 + çok daha yüksek verim eklendi.
Bu nerede önemli
Categories that use tensor çekirdekleri
Okumaya devam et