Amazon, yeni nesil çiplerinin AI eğitimi için dört kat daha hızlı olduğunu söylüyor

Bir bütün olarak ele alındığında bu haberler, şirketin
yapay zeka platformlarına yönelik uzun vadeli
hedeflerine kısa bir bakış atmamızı sağlıyor.

Her şeyden önce AWS, model eğitimi ve eğitimli modelleri
çalıştırmaya yönelik en yeni nesil yapay zeka çiplerini tanıttı.
Model eğitimi için olduğu açık olan Trainium2, selefine kıyasla 4
kata kadar daha iyi performans ve 2 kata kadar
enerji verimliliği sağlayacak şekilde tasarlandı. Amazon, bu
çiplerin, enerji kullanımındaki azalma nedeniyle programcıların
modelleri hızlı ve daha düşük bir maliyetle eğitmelerine olanak
tanıyacağının sözünü veriyor. Amazon destekli OpenAI yarışmacısı
Anthropic, Trainium2 çiplerini kullanarak modeller
oluşturma planlarını zaten duyurmuştu.

Amazon, yeni nesil çiplerinin AI eğitimi için dört kat daha
hızlı olduğunu söylüyor

Graviton4 ise daha çok genel kullanıma yönelik. Bu işlemciler
Arm mimarisini temel alıyor ancak Intel veya AMD
çiplerine göre daha az enerji tüketiyor. Amazon, Graviton4
işlemciye gömülü eğitimli bir yapay zeka modeli kullanıldığında
genel performansta %30’luk bir artış vaat ediyor. Bu, düzenli
olarak AI modellerini kullanan kuruluşlar için bulut bilişim
maliyetlerini düşürecek ve bir partide Harry Potter’ın sahte
fotoğraflarını çekmek isteyen sıradan kullanıcılar için hızda hafif
bir artış sunacaktır.

Sonuç olarak Graviton’un, AWS müşterilerinin
“daha büyük miktarlarda veri işlemesine, iş yüklerini
ölçeklendirmesine, sonuç alma süresini iyileştirmesine ve toplam
sahip olma maliyetlerini düşürmesine” olanak sağlaması bekleniyor.
Önümüzdeki aylar için planlanan daha geniş bir sürümle birlikte
bugün bir ön izleme de mevcut.