Google I/O 2024 etkinliğinde, bugüne kadarki en güçlü ve enerji verimli Tensör İşleme Birimi (TPU) olan 6. nesil TPU’su Trillium’u duyurdu.
Trillium TPU’lar, TPU v5e’ye kıyasla çip başına en yüksek işlem performansında 4,7 kat artış sağlıyor. Google, Yüksek Bant Genişlikli Bellek (HBM) kapasitesini ve bant genişliğini iki katına çıkardı ve ayrıca TPU v5e’ye göre çipler arası bağlantı (ICI) bant genişliğini iki katına çıkardı.
Trillium, gelişmiş sıralama ve öneri iş akışlarında yaygın olarak kullanılan ultra büyük katıştırmaları işlemek için özel bir hızlandırıcı olan üçüncü nesil SparseCore ile geliyor. Bu, yapay zeka modellerinin daha hızlı eğitilmesini ve daha düşük gecikme süresi ile maliyet avantajı sağlıyor.
ENERJİ VERİMLİLİĞİNDE ZİRVE: %67 DAHA VERİMLİ
TPU’nun 6. nesli, aynı zamanda en sürdürülebilir TPU: Trillium TPU’lar, TPU v5e’ye göre %67’den fazla enerji verimliliği sunuyor. Bu özellik, Google’ın çevresel sürdürülebilirlik hedefleriyle uyumlu olarak, enerji tüketimini azaltıyor.
SÜPER BİLGİSAYAR MİMARİSİ
Trillium, tek bir yüksek bant genişliği, düşük gecikme süresi bölmesinde 256 TPU’ya kadar ölçeklenebiliyor. Bu pod düzeyinde ölçeklenebilirliğin ötesinde, multislice teknolojisi ve Titanium Yapay Zeka İşleme Birimleri (IPU’lar) ile Trillium TPU’lar yüzlerce pod’a ölçeklenebilir, on binlerce çipi saniyede çoklu petabit veri merkezi ağı ile birbirine bağlayarak bina ölçeğinde bir süper bilgisayar oluşturuyor.
YAPAY ZEKA ODAKLI DONANIMIN ÖNCÜSÜ
Google, on yıldan uzun bir süredir yapay zeka alanına özel donanımlar geliştirerek ölçek ve verimlilik sınırlarını zorluyor. TPU’lar olmasaydı, Google’ın gerçek zamanlı sesli arama, fotoğraf nesne tanıma ve etkileşimli dil çevirisi gibi en popüler hizmetleri ve Gemini, Imagen ve Gemma gibi son teknoloji temel modelleri mümkün olmazdı.
TRILLIUM VE AI HYPERCOMPUTER
Trillium TPU’lar, Google Cloud’un son teknoloji yapay zeka iş yükleri için özel olarak tasarlanmış çığır açan süper bilgisayar mimarisi olan AI Hypercomputer’ın bir parçası. AI Hypercomputer, performans için optimize edilmiş altyapıyı (Trillium TPU’lar dahil), açık kaynaklı yazılım çerçevelerini ve esnek tüketim modellerini entegre ediyor.
ESNEK TÜKETİM MODELLERİ VE DWS
AI Hypercomputer, ayrıca yapay zeka ve makine öğrenmesi iş yükleri için gereken esnek tüketim modellerini de sunuyor. Dinamik İş Yükü Zamanlayıcısı (DWS), yapay zeka ve makine öğrenmesi kaynaklarına erişimi ele alıyor ve müşterilerin harcamalarını optimize etmelerine yardımcı oluyor.
Trillium TPU’lar, yapay zeka modelleri ve aracılarının bir sonraki dalgasını güçlendirecek ve Google, bu gelişmiş yetenekleri müşterilerine sunmaktan heyecan duyuyor. Otonom araç şirketi Nuro, Deep Genomics ve Deloitte gibi öncü firmalar, Trillium’un sunduğu avantajlarla iş süreçlerini ve teknolojilerini geliştiriyor.
SATIŞA SUNULUYOR
Trillium TPU’lar, on yılı aşkın bir araştırma ve inovasyonun sonucu ve bu yıl içinde satışa sunulacak. Google, Trillium ile yapay zeka inovasyonunda yeni bir çağı başlatmayı hedefliyor.
