Jednotky na spracovanie tenzora spoločnosti Google menia pravidlá strojového učenia

Jedným z najzaujímavejších - a nečakaných - oznámení, ktoré spoločnosť Google minulý týždeň na konferencii vývojárov I / O uviedla, bolo, že navrhla a implementovala vlastné čipy na strojové učenie. Počas svojho hlavného prejavu predstavil generálny riaditeľ spoločnosti Google Sundar Pichai, čo nazval Tensor Processing Units (TPU), a uviedol, že ich spoločnosť používa vo svojich strojoch AlphaGo, ktoré porazili víťaza Lee Lee Sedola.

„TPU sú rádovo vyšší výkon na watt ako komerčné FPGA a GPU, “ uviedol Pichai. Aj keď neuviedol veľa podrobností, výrazný technický inžinier spoločnosti Google Norm Jouppi v blogovom príspevku vysvetlil, že TPU je vlastný ASIC (integrovaný obvod špecifický pre aplikáciu). Inými slovami, je to čip špeciálne navrhnutý na spustenie strojového učenia a špeciálne prispôsobený pre TensorFlow, systém strojového vzdelávania spoločnosti Google.

V príspevku Jouppi uviedol, že je „tolerantnejší“ so zníženou výpočtovou presnosťou, čo znamená, že vyžaduje menej tranzistorov na operáciu. To spoločnosti Google umožňuje získať viac operácií za sekundu, čo používateľom umožňuje rýchlejšie dosiahnuť výsledky. Povedal, že doska s jednotkou TPU sa zmestí do slotu jednotky pevného disku v stojanoch na dátové centrá a ukázal obraz serverových stojanov naplnených modulmi TPU, ktoré podľa neho boli použité v počítačoch spoločnosti AlphaGo.

Spoločnosť Jouppi okrem toho uviedla, že jednotky TPU už pracujú na mnohých aplikáciách v spoločnosti Google vrátane RankBrain, ktoré sa používajú na zlepšenie relevantnosti výsledkov vyhľadávania, a Street View na zlepšenie presnosti a kvality máp a navigácie.

Na tlačovej konferencii viceprezident spoločnosti Google pre technickú infraštruktúru Urs Hölzle potvrdil, že TPU beží pomocou 8-bitovej celočíselnej matematiky, namiesto matematiky s vyššou presnosťou s pohyblivou rádovou čiarkou, pre ktorú sú navrhnuté najmodernejšie CPU a GPU. Väčšina algoritmov strojového učenia môže byť v poriadku s údajmi s nižším rozlíšením, čo znamená, že čip dokáže spracovať viac operácií v danej oblasti a efektívne riešiť zložitejšie modely. Toto nie je nová myšlienka, modul Nvidia Drive PX 2, ktorý bol ohlásený začiatkom tohto roka na CES, je schopný 8 teraflopov s presnosťou na 32 bitov s pohyblivou rádovou čiarkou, ale dosahuje 24 hlbokých učení „teraops“ (termín spoločnosti pre 8 -bitová celá matematika).

Hoci Hölzle odmietol ísť do špecifík, správy hovoria, že potvrdil, že Google dnes používa TPU aj GPU. Povedal, že to bude nejaký čas pokračovať, ale navrhol, aby spoločnosť Google považovala GPU za príliš všeobecné a uprednostňoval čip optimalizovaný pre strojové učenie. Uviedol, že spoločnosť vydá novinu, v ktorej sa opíšu výhody čipu neskôr, ale objasnil, že sú určené iba na interné použitie, nie na predaj iným spoločnostiam. Ďalšou aplikáciou, ktorú opísal, bolo použitie čipov na zvládnutie časti výpočtov za motorom rozpoznávania hlasu používaným v telefóne s Androidom.

Výber použitia ASIC je zaujímavá stávka od spoločnosti Google. Najväčší pokrok v strojovom vzdelávaní v posledných rokoch - technológia za veľkým tlakom na hlboké neurónové siete - bolo prijatie GPU, najmä línie Nvidia Tesla, na výcvik týchto modelov. Nedávno spoločnosť Intel kúpila spoločnosť Altera, popredného výrobcu FPGA (polne programovateľné hradlové polia), ktoré sú niekde uprostred; nie sú také všeobecné účely ako GPU alebo sú špeciálne navrhnuté pre TensorFlow ako čip spoločnosti Google, ale môžu byť naprogramované na vykonávanie rôznych úloh. Microsoft experimentuje s FPGA Altera pre hlboké vzdelávanie. Spoločnosť IBM vyvíja svoj neurosynaptický čip TrueNorth navrhnutý špeciálne pre neurónové siete, ktorý sa nedávno začal používať v rôznych aplikáciách. Kadencia (Tensilica), Freescale a Synopsys tlačia svoje DSP (procesory digitálneho signálu) na spustenie týchto modelov; Mobileye a NXP nedávno ohlásili čipy určené špeciálne pre vozidlá ADAS a automobily s vlastným riadením; a niekoľko menších spoločností vrátane Movidius a Nervana oznámilo plány na čipy špeciálne navrhnuté pre AI.

Je príliš skoro na to, aby sme vedeli, ktorý prístup bude z dlhodobého hľadiska najlepší, ale mať veľmi odlišné možnosti znamená, že v najbližších rokoch pravdepodobne uvidíme nejakú zaujímavú konkurenciu.