GPU (grafik işlem birimi), binlerce küçük çekirdeğiyle aynı anda çok sayıda hesap yapabilen ve yapay zekâ modellerinin eğitimi ile çalıştırılmasında temel donanım olan işlemcidir.
GPU ne demek?
Başlangıçta oyun grafikleri için tasarlanan GPU'lar, sinir ağlarının ihtiyaç duyduğu matris çarpımlarını paralel yaptıkları için yapay zekânın vazgeçilmezi oldu. NVIDIA'nın H100 ve B200 gibi veri merkezi GPU'ları büyük modellerin eğitiminde kullanılır.
Bir modelin hangi GPU'da çalışabileceğini büyük ölçüde GPU belleği (VRAM) belirler.
Yakın kavramlar
VRAM (GPU Belleği)Video RAMVRAM, GPU'nun üzerindeki hızlı bellektir; bir modelin bir ekran kartında çalışıp çalışamayacağını belirleyen en önemli etkendir.Altyapı, Donanım & APITPUTensor Processing UnitTPU (tensör işlem birimi), Google'ın yapay zekâ hesaplamaları için özel olarak tasarladığı ve kendi bulut altyapısında kullandığı işlemcidir.Altyapı, Donanım & APICUDACUDA, NVIDIA GPU'larında genel amaçlı paralel hesaplama yapmayı sağlayan yazılım platformu ve programlama modelidir.Altyapı, Donanım & APIÇıkarımInferenceÇıkarım, eğitimi tamamlanmış bir modelin yeni bir girdi için tahmin ya da çıktı üretmesi, yani modelin kullanılması aşamasıdır.Altyapı, Donanım & APIBüyük VeriBig DataBüyük veri, hacmi, üretilme hızı ve çeşitliliği nedeniyle geleneksel araçlarla saklanması ve işlenmesi zor olan veri kümelerini anlatan kavramdır.Veri & DeğerlendirmeDerin ÖğrenmeDeep LearningDerin öğrenme, çok sayıda katmandan oluşan yapay sinir ağlarıyla büyük veriden karmaşık örüntüleri öğrenen makine öğrenmesi yöntemidir.Temel Kavramlar