Google har skruvat upp ambitionerna rejält på årets Cloud Next-konferens. Här presenterade företaget sin åttonde generation av TPU-chip, alltså specialbyggda AI-processorer som ska driva både träning av stora modeller och de snabba svar vi möter i moderna AI-tjänster.
Den mest uppmärksammade nyheten är TPU 8i, som är riktad mot inference — alltså den del där AI ska svara, reagera och utföra uppgifter i realtid. Enligt Google levererar den upp till 80 procent bättre prestanda per dollar än föregående generation. Samtidigt har chipet tre gånger mer on-chip SRAM, vilket ska göra det bättre för stora och krävande AI-modeller med låg latens.
Vid sidan av den lanserar Google även TPU 8t, som är byggd för de tyngsta träningsuppgifterna. Här uppger företaget att chipet kan leverera upp till 2,7 gånger bättre prestanda per dollar för storskalig träning jämfört med Ironwood-generationen. Det är den typen av förbättring som kan göra en tydlig skillnad för företag som tränar stora modeller och vill få mer beräkningskraft för pengarna.
Artikeln fortsätter efter annonsen
