Microsoft’un, büyük bir ölçekli yapay zeka için özel olarak tasarlanan 700W TDP’ye sahip yeni çipi Microsoft Azure Maia 100 netlik kazandı.
Yapay zeka çip pazarında iyi bir pazar payı olan NVIDIA’ya, güzel bir alternatif geldi. Geçtiğimiz yıl tanıtılan Microsoft Azure Maia 100, bu yıl düzenlenen Hot Chips konferansında detaylandırıldı.
Microsoft Azure Maia 100
Bu çip, Microsoft’un veri merkezlerinde özellikle OpenAI modellerini sorunsuz bir şekilde hızlandırarak çalıştırabilmek için öne çıkıyor. TSMC’nin 5nm üretim süreci üzerine kurulan Maia 100’ün, 500 watt‘lık bir güç tüketimi var. Fakat 500 watt’lık tüketim gücü olmasına rağmen, 700 watt‘lık bir destek sunabiliyor. 820mm² büyüklüğünde olan Maia 100, TSMC’nin COWOS-S interposer teknolojisi ile birlikte üretiliyor.
Maia 100 ile NVIDIA H100 çiplerinin karşılaştırmasını yapacak olursak H100, 80GB HBM2E RAM sunuyor. Maia 100 ise, yalnızca 64GB HBM2E RAM sunabiliyor. Maia 100’de kullanılan bu RAM’ler, 1.8TB bant genişliği sağlıyor. Yaptığımız RAM karşılaştırmasında NVIDIA açık ara fark ile önde. Fakat Microsoft, Maia 100’ün genel performans ve işlevsellik açısından oldukça iddialı olacağını belirtti. Hatta söz konusu çip için, maliyet açısından tasarruflu verimlilik açısından da performanslı olduğu açıklandı.
NVIDIA’nın hala çok daha önde olduğunu belirtelim. Çünkü, NVIDIA‘nın 192GB HBM3E‘li Blackwell çipleri de yakında karşımıza çıkacak.(RAM miktarları yapay zeka iş yükleri için bir hayli önemli.)
Çip, yüksek hızlı bir tensor birimi (16xRx16) ile güçlendirilmiş ve düşük hassasiyetli veri türleri de dahil olmak üzere geniş bir veri segmentini destekliyor. FP32 ve BF16 veri türlerini destekleyebilmesi için özel bir ISA ile oluşturulan vektör işlemcisi de çipte yer alıyor.
Ekstra olarak Microsoft, geliştiricileri için Maia 100’e özel olarak tasarlanan SDK‘yı da sunuyor. Bu kit sayesinde Pytorch ve Triton yazılan modellerin çok daha hızlı bir şekilde port edilmesine olanak sağlayan araçlara erişebiliyorsunuz.
