Umetna inteligenca - Google predstavil dva nova sistema za umetno inteligenco - Nostalgija
Google predstavil dva nova sistema za umetno inteligenco
Umetna inteligenca
Google predstavil dva nova sistema za umetno inteligenco

Nova TPU 8tx in TPU 8i Max nista povsem nova procesorja, temveč različni konfiguraciji že obstoječih čipov. Google je osnovna TPU 8t in TPU 8i predstavil aprila letos, zdaj pa je z drugačno kombinacijo procesorjev, pomnilnika, omrežnih povezav in varnostnih funkcij pripravil še dve specializirani različici.

TPU 8tx je namenjen predvsem podjetjem, državnim ustanovam in organizacijam, ki pri uporabi umetne inteligence obdelujejo občutljive podatke. Sistem temelji na enakem siliciju kot TPU 8t, vendar uporablja dodatne strojne varnostne mehanizme in procesorje AMD EPYC pete generacije. Njegova posebnost je zaščita podatkov tudi med samim procesiranjem, ko so ti običajno že dešifrirani v delovnem pomnilniku.

Google je sistem opremil tudi z omrežno tehnologijo Boardfly, ki zmanjšuje zakasnitve pri komunikaciji med procesorji. Po navedbah podjetja TPU 8tx v primerjavi s TPU 8t dosega do dvakrat manjšo zakasnitev, pri čemer varnostni mehanizmi skoraj ne vplivajo na zmogljivost. Poleg izvajanja modelov omogoča tudi njihovo dodatno učenje z zasebnimi podatki in prilagajanje posameznim nalogam brez selitve podatkov med različnimi računalniškimi sistemi.

Druga novost, TPU 8i Max, rešuje drugačen problem. Sodobni sistemi umetne inteligence morajo pogosto hkrati obdelovati ogromne količine besedila, programske kode ali videoposnetkov, pri čemer omejitev vse pogosteje predstavlja prepustnost pomnilnika in ne sama računska moč.

Google je zato združil dva procesorja TPU 8i v en procesorski modul. Nova konfiguracija ima v primerjavi z osnovnim TPU 8i dvakrat več računske zmogljivosti, dvakrat več predpomnilnika SRAM in dvakrat večjo prepustnost pomnilnika HBM. Ker oba čipa zasedata prostor znotraj obstoječe zasnove strežniške omare, je mogoče brez povečanja njenega tlorisa občutno povečati gostoto računske moči.

»Zdaj vse bolj dobivamo povratne informacije zunanjih organizacij o njihovih posebnih potrebah. Podjetja zahtevajo pospeševalnike, ki lahko obdelujejo ogromna kontekstna okna modelov umetne inteligence, nekatere organizacije v strogo reguliranih panogah pa potrebujejo posebne možnosti šifriranja,« je pojasnil Amin Vahdat, vodja razvoja infrastrukture za umetno inteligenco pri Googlu.

Podjetje je ob predstavitvi napovedalo tudi širšo podporo odprtokodnemu ogrodju PyTorch. Razvijalcem želi omogočiti uporabo obstoječih modelov brez obsežnega prilagajanja programske kode. Med novostmi sta še sistem TPU Sync za učinkovitejše upravljanje pomnilnika in Agent Compute Engine, ki med čakanjem na zunanje podatke ali orodja začasno ustavi neaktivne procese umetne inteligence ter tako zmanjšuje stroške infrastrukture.

Za dodajanje komentarjev morate biti prijavljeni.
© Copyright 1999-2026 Avtomanija