Şirket tarafından düzenlenen Intel Vision 2024 etkinliği kapsamında en yeni Intel Gaudi 3 tanıtıldı. Peki NVIDIA H100 ile yarışacak Gaudi 3 neler vadediyor?
TSMC’nin 5nm süreci üzerine inşa edilen Gaudi 3; 32 tensor çekirdeğine sahip. Donanımda büyük artış olmamasına rağmen Intel, Gaudi 3’ün büyük dil modellerinde Nvidia H100’den daha iyi olduğunu iddia etti.
Gaudi 3 çipi saniyede 1,8 trilyondan fazla kayan nokta işlemi ile makine öğrenimi performansında büyük bir artış vadediyor.
Meta Llama 2, GPT-3 ve Falcon dil modelleriyle yapılan testlerde performansta yüzde 50 ve verimlilikte yüzde 40 daha başarılı olduğunu belirtiyor.
Ayrıca bir önceki modele kıyasla bellek bant genişliğinde 1,5 kat artış sunuyor.
BF16 için 4 kat daha fazla yapay zeka hesaplamasının kapısını aralıyor.
Öte yandan 900 watt enerjiye ihtiyaç duymasıyla; bir önceki modele kıyasla yüzde 50 daha fazla güç çekiyor. Ancak Intel, daha yüksek güçlü sıvı soğutmalı versiyonları satışa sunacağını ifade etti. Tüm modeller PCIe Gen 5 x16 arayüzü üzerinden sunuculara bağlanacak.
Gaudi 3’ün 2024’ün üçüncü çeyreğinde tedarik ortaklarına gönderilmesi planlanıyor. Intel, büyük ortaklar arasında Dell Technologies, HPE, Lenovo ve Supermicro olduğunu ifade etti.
