- Inilabas ng Google ang TPU 8tx at 8i Max, dalawang variant para sa sensitibong AI at mahahabang konteksto na magiging available sa susunod na taon.
- Pinagsasama ng 8tx ang mga Google accelerator, AMD EPYC processor, at hardware encryption; isinasama naman ng 8i Max ang dalawang TPU 8i chips sa iisang pakete.
- Tinatantya ng mga analyst na ang gastos nito ay nasa humigit-kumulang 30% na mas mababa kaysa sa mga Nvidia GPU at hinuhulaan ang $135.000 bilyon na benta pagsapit ng 2028.
- Sinasabi ng Google na mayroon itong halos 100 na mga customer, mag-aalok ang Oracle ng TPU sa cloud nito sa susunod na taon, at ang kakulangan ng mga bahagi ay patuloy na naglilimita sa suplay.
Inilabas ng Google ang dalawang bagong variant ng Tensor Processing Units (TPUs) nito noong Lunes, Nobyembre 9: ang 8tx at ang 8i Max . Ang mga bagong chip na ito ay bahagi ng estratehiya ng kumpanya upang palawakin ang negosyo ng AI chip nito at makipagkumpitensya sa Nvidia. Inaasahan ng Google na magiging available ang mga bersyong ito sa susunod na taon ngunit hindi pa inihahayag ang presyo.
Hindi ito mga ganap na bagong disenyo ng silicon, kundi mga configuration na iniayon sa mga partikular na gawain. Ang 8tx ay nakatuon sa kumpidensyal na pag-compute para sa mga pamahalaan at kumpanya sa mga regulated na sektor; ang 8i Max ay dinisenyo para sa mga application na kailangang humawak ng mahahabang context window , tulad ng drug discovery, matematika, o programming.
Ano ang TPU 8tx at TPU 8i Max?
Ang TPU 8tx ay dinisenyo para sa mga workload na kinasasangkutan ng sensitibong impormasyon at pinagsasama ang mga Google accelerator, mga ikalimang henerasyong AMD EPYC processor , at hardware-level encryption. Pinapanatiling protektado ng arkitekturang ito ang data at ang modelo habang pinoproseso, na mahalaga para sa mga ahensya ng gobyerno at mga institusyong pinansyal na hindi maaaring ilantad ang kanilang impormasyon habang isinasagawa ang mga operasyon.
Ang 8i Max ay nahaharap sa isa pang hadlang: ang memorya. Pinagsasama ng Google ang dalawang 8i TPU chips sa isang pakete upang mapataas ang computing power at available na memorya. Ang mas malaking kapasidad ng imbakan na ito ay nagbibigay-daan para sa pagproseso ng mas maraming impormasyon sa isang query, isang lumalaking pangangailangan sa mga AI agent na sumusuri sa malawak na mga dokumento, mga repositoryo ng code, o malalaking dataset bago tumugon.
Si Amin Vahdat, ang pinuno ng mga chips ng Google, ay nagbuod ng estratehiya sa isang ideya: "Ang hinaharap ay iikot sa espesyalisasyon." Sa halip na gumawa ng iisang processor para sa lahat, ang kumpanya ay nag-aalok ng mga bersyon na iniayon sa bawat workload , isang tesis na humahantong din sa Nvidia patungo sa mas espesyalisadong mga sistema.
Bakit gustong makipagkumpitensya ng Google sa Nvidia
Ang hakbang na ito ay nangyayari sa isang merkado na pinangungunahan ng mga Nvidia GPU, kung saan ang demand ay patuloy na lumalampas sa supply. Mahigit isang dekada nang bumubuo ang Google ng mga TPU, una upang matugunan ang sarili nitong mga pangangailangan sa computing at kalaunan para sa mga gawain ng AI, at ngayon ay nais din nilang ibenta ang mga ito sa labas ng Google Cloud . Sa kontekstong ito, nakipagnegosasyon ang OpenAI na bumili ng mga AI chips mula sa Google upang pag-iba-ibahin ang mga supplier nito.
Ang pang-akit para sa mga customer ay nakasalalay sa ratio ng presyo-pagganap. Tinatantya ng mga analyst na ang mga TPU ay nagkakahalaga ng humigit-kumulang 30% na mas mura kaysa sa mga Nvidia GPU , bagama't hindi pa naglalathala ang Google ng opisyal na presyo. Ang bilang na ito ay dapat ituring na isang pagtatantya sa merkado, hindi isang nakapirming presyo para sa anumang partikular na gawain.
Ambisyoso ang mga pagtataya sa negosyo. Ang mga pagtatantya ring ito ay naglalagay ng mga benta ng mga TPU at mga kaugnay na produkto sa higit sa $135.000 bilyon sa 2028 , kumpara sa $12.000 bilyon na inaasahang para sa taong ito. Hindi kasama sa pagtataya ang mga customer na gumagamit ng mga chips sa pamamagitan ng Google Cloud.
Inaangkin ng Google na halos 100 organisasyon na ang gumagamit ng mga TPU nito, kabilang ang mga AI lab, unibersidad, retailer, at mga kumpanya sa pananalapi. Kabilang sa mga kliyente na nauugnay sa teknolohiyang ito ang Apple, Meta, Oracle, Anthropic , at Jump Trading, bagama't hindi lahat ay nagkumpirma ng kanilang paggamit ng mga bagong variant.
Sino-sino ang maaapektuhan ng mga bagong AI chips ng Google?
Ang pinakadirektang epekto ay nakatuon sa mga kumpanya at organisasyon na kailangang magpatakbo ng AI na may sensitibo o lubos na kontekstwal na datos . Ang 8tx ay angkop para sa mga pampublikong administrasyon, mga kumpanya sa pananalapi, at mga regulated na sektor; ang 8i Max ay naglalayong maging mga programmer assistant, pananaliksik sa matematika, at pagtuklas ng gamot.
- Mga administrasyon at mga regulated na sektorKailangan nilang iproseso ang kumpidensyal na impormasyon nang hindi ito inilalantad habang nagkalkula.
- Mga laboratoryo, unibersidad at mga kompanya ng pananaliksikGumagana ang mga ito sa mga modelo at dataset na nangangailangan ng mas maraming memorya at konteksto.
- Mga kompanya sa pananalapi at pangangalakalHinahangad nila ang pagganap upang sanayin at patakbuhin ang mga modelo ng AI na may kontroladong gastos.
Para sa end user, ang access ay hindi nagmumula sa pagbili ng chip, kundi sa pamamagitan ng mga serbisyo sa cloud at mga kumpanyang nag-a-deploy ng AI. Isinasagawa ng Google ang ilan sa paggamit na ito sa pamamagitan ng Google Cloud at mga tool na tugma sa mga kapaligiran tulad ng PyTorch; bilang karagdagan, mag-aalok ang Oracle ng mga TPU sa mga customer nito sa cloud sa susunod na taon.
Kailan magiging available ang mga AI chip ng Google, at ano ang mga panganib na maaaring mangyari?
Inaasahan ng Google ang pagdating ng 8tx at 8i Max sa susunod na taon , ngunit hindi pa tinukoy ang eksaktong petsa o presyo. Hindi rin ito naglabas ng mga datos tungkol sa konsumo ng enerhiya o kabuuang bilang ng memorya para sa 8i Max, ayon sa makukuhang impormasyon.
May trabahong dapat gawin ang negosyo. Kinikilala ng Google ang pressure mula sa kakulangan ng mga component tulad ng memory at kapasidad sa paggawa, at nahaharap ang sektor sa mga pagdududa tungkol sa bilis ng pamumuhunan sa mga data center. Dagdag pa rito ang mga bagong kakumpitensya at ang pagbuo ng sarili nilang mga chips ng mga kumpanyang potensyal ding customer.
Ang magiging susi ay kung makakagawa ang Google ng sapat na mga yunit at kung mapapanatili ng mga customer ang kanilang mga plano sa pamumuhunan. Sa ngayon, ang kumpanya ay gumawa na ng hakbang gamit ang dalawang chips na hindi nilayon upang palitan ang Nvidia sa lahat ng mga gawain, ngunit sa halip ay tugunan ang mga partikular na pangangailangan na may kaugnayan sa seguridad, memorya, at konteksto.
