Nespravodlivá výhoda: nečakajte, že ai bude hrať ako človek

Nedávne využitie DeepMindu vo vývoji umelej inteligencie, ktorá môže poraziť svetových hráčov na StarCraft II, vyvolalo veľa rozruchu. Zatiaľ čo to DeepMind označil za zásadný prielom, iní tvrdili, že je podvádzanie, nespravodlivé a nadľudské.

Celá diskusia však naznačuje, že možno potrebujeme zmeniť kontext, v ktorom diskutujeme a hodnotíme schopnosti AI - a prestať porovnávať jeho hranie s vlastnou.

AlphaStar, hrací robot StarCraft spoločnosti DeepMind, používa hlboké vzdelávanie, populárne pole AI, v ktorom programátori rozvíjajú správanie svojich modelov AI tým, že im dávajú šialené množstvo príkladov. AlphaStar sa najprv vyškolil na rozsiahlej databáze údajov o ľudských hrách vydaných spoločnosťou Blizzard, hral proti sebe milióny hier, aby sa naučil a ovládal pravidlá StarCraft. Potom bol postavený proti ľuďom a zametal amatérskych hráčov DeepMindu pred tým, ako pokračoval v majstrovstvách sveta.

Keď AlphaStar porazil TLO a MaNa, dvoch z najlepších svetových hráčov, existoval dôvod veriť, že priemysel umelej inteligencie prešiel míľnikom. V blogovom príspevku spoločnosť DeepMind nazvala AlphaStar „krokom vpred v našom poslaní vytvárať inteligentné systémy, ktoré nám jedného dňa pomôžu odomknúť nové riešenia niektorých najdôležitejších a základných vedeckých problémov sveta“.

Ale potom prišla kritika.

Nespravodlivá výhoda

Kritici tvrdia, že AlphaStar má niekoľko vlastností, vďaka ktorým je nespravodlivým súperom proti ľuďom.

Po prvé, AlphaStar rýchlo horí. Inžinieri spoločnosti DeepMind tvrdia, že obmedzili AlphaStar, aby mu zabránil vykonávať viac akcií, ako by mohol človek vykonať. Ľudskí hráči však robia veľa kliknutí na spam alebo impulzívnych akcií, ktoré nemajú žiadnu hodnotu ani za nimi myslia.

Napríklad, keď hráči chcú nariadiť, aby sa ich jednotky presunuli na miesto alebo zaútočili na nepriateľa, často klikajú opakovane na rovnaké miesto alebo na trajektóriu smerom k cieľu, pretože to dáva falošný pocit, že kliknutie túto akciu urýchli. V skutočnosti jednotky vykonajú iba posledný príkaz a budú ignorovať predchádzajúce. Naopak, každý krok AlphaStar je presný.

Kritici tvrdia, že tento nesúlad umožňuje AlphaStar micromanage hru nadľudským spôsobom. Napríklad vo veľkej bitke, kde je zapojených veľa jednotiek, môže AlphaStar dať jednotlivým jednotkám individuálne príkazy s rýchlosťou a presnosťou, čo by pre jeho ľudských oponentov nebolo možné. V analýze výkonnosti AlphaStar Timothy B. Lee z ArsTechnica opísal niekoľko scenárov, v ktorých by rýchlosť a presnosť AlphaStar poskytla nespravodlivú výhodu.

Iní analytici zdôraznili, že AlphaStar dostáva viac informácií ako ľudskí hráči. Verzia robota, ktorý porazil MaNu a TLO, mala prístup k celej mape, na rozdiel od toho, aby videl hodnotu bojového priestoru monitora ako ľudský hráč. Stále však bola obmedzená „vojnou hmlou“, čo znamená, že nemohla získať informácie z oblastí, v ktorých nemali aktívne jednotky.

Iní však kritizovali limity AlphaStar: Môže hrať iba ako Protoss, jeden z troch závodov v StarCraft a iba na jednej z mnohých máp hry. Vzhľadom na novú rasu a mapu by AlphaStar pravdepodobne prehral s amatérskymi ľudskými súpermi, pretože z pohľadu AI by to bolo ako hrať úplne inú hru.

Čo je to Fair Play?

DeepMind stále nezverejnil technické podrobnosti, ale niektorí majú podozrenie, že namiesto toho, aby museli spracovávať surové pixely, ako to robia ľudia, mohol mať AlphaStar prístup k nespracovaným herným údajom prostredníctvom rozhraní API (rozhrania programovania aplikácií).

Vďaka! ale to nehovorí, či konkrétny softvér, ktorý zvíťazil proti odborníkom, používal pixely alebo pripravené veci APi, ktoré sú dostupné, ale veľmi odlišné

- Gary Marcus (@GaryMarcus) 31. januára 2019

Ars 'Timothy B. Lee dospel k tomuto záveru: „Konečným spôsobom, ako vyrovnať podmienky na ihrisku, by bolo, aby AlphaStar používal rovnaké užívateľské rozhranie ako ľudskí hráči.“ To znamená, že podobne ako ľudský hráč pozerajúci sa na počítačový monitor, AI by mala prístup iba k grafike hry a musela simulovať stlačenia klávesov, kliknutia myšou a posúvanie namiesto interakcie s hrou prostredníctvom hovorov API.

To by bolo spravodlivé, keby sme očakávali, že AI replikuje ľudský mozog a zmysly presne. Avšak hlboké učenie a neurónové siete, ktoré sú stále špičkou AI, majú zreteľné limity, ktoré im bránia reprodukovať niektoré z najzákladnejších ľudských funkcií.

Hlboké učenie je úzka umelá inteligencia, čo znamená, že je veľmi dobrý pri vykonávaní konkrétnych úloh, ako je označovanie obrázkov alebo rozpoznávanie reči, ale je to hrozné zovšeobecňovať úlohy alebo preniesť svoje znalosti do iných domén. Čím viac rozširujete problémovú oblasť, tým obmedzenejšie sa stáva schopnosť AI a tým viac tréningu potrebuje. Preto AlphaStar nebude môcť hrať ďalšiu hru RTS, napríklad Warcraft 3 alebo Company of Heroes.

Zvládnutie Protossu na jednej úrovni si vyžadovalo aj 200 rokov hry AlphaStar. Naučiť sa hrať Terran alebo Zerg, ďalšie dva preteky StarCraftu, by pravdepodobne trvalo rovnako. Naopak, ľudský hráč by mohol rýchlo sprostredkovať vedomosti, ktoré získal z jednej hry na novú.

Stále sme desaťročia vzdialení (aspoň) od všeobecnej inteligencie, typu, ktorý môže zodpovedať kognitívnym schopnostiam ľudí. Niektorí vedci veria, že sa nám nikdy nepodarí reprodukovať ľudský mozog.

Úzky AI je však veľmi dobrý pri spracovaní veľkého množstva informácií za veľmi rýchle sadzby. Preto AlphaStar dokáže spracovať celú mapu StarCraft súčasne. Dizajnéri StarCraftu mohli modifikovať hru tak, aby hráčom poskytovali úplné zobrazenie hernej mapy, čo by však hráčom skôr zamieňalo než pomohlo. Ľudia môžu mať tiež prístup k nespracovaným údajom o hre, ale to by tiež nepomohlo.

Ľudia spracúvajú údaje pomaly, ale majú zdravý rozum a schopnosti abstraktného myslenia, ktoré im umožňujú plánovať a robiť rozhodnutia bez úplných informácií. Preto dávajú prednosť obmedzenému pohľadu na mapu a sústredeniu sa na jednu časť bojiska; zároveň majú zmysel pre to, čo sa deje v iných častiach hry a môžu vytvoriť všeobecný herný plán.

Je AlphaStar podvádzanie?

Vzhľadom na rozdiely medzi AI a ľudským mozgom je spravodlivé povedať, že kritici mali správne hodnotenie: DeepMind upravil konkurenciu v prospech AlphaStar tým, že ju obmedzil na jednu mapu a jedinú rasu. Debata o AlphaStar nás však môže priviesť k veľmi dôležitým záverom.

Po prvé, hlavným bodom hry by nemalo byť overenie, či AI môže kliknúť a posúvať sa ako človek. Namiesto toho by sme sa mali zamerať na to, ako AI hrá v hre, ktorá poskytuje nedokonalé informácie a vyžaduje rozhodovanie v reálnom čase. V tomto ohľade AlphaStar odviedol celkom dobrú prácu.

• Čo by vás prinútilo dôverovať pomocníkovi AI? A čo tvár? Čo by vás prinútilo dôverovať pomocníkovi AI? A čo tvár?
• Rok etického zúčtovania odvetvia AI Rok etického zúčtovania odvetvia AI
• Tento AI je príliš silný na zverejnenie. Tento AI je príliš mocný na zverejnenie

Po druhé, StarCraft nemusí byť najlepším miestom na testovanie strategických a plánovacích schopností AI. Ako zdôraznil jeden analytik, „StarCraft II je hra, ktorá sa dá zlomiť mechanickou dokonalosťou.“ To znamená, že AI môže kompenzovať svoje zlé strategické zručnosti svojou nadľudskou rýchlosťou a chirurgickou presnosťou.

AI a ľudská inteligencia sú konečne také odlišné, že by pravdepodobne nebolo možné medzi nimi vytvoriť rovnaké podmienky. Najmenšími zmenami pravidiel by sa hra rýchlo naklonila v prospech jednej alebo druhej strany do takej miery, že by konkurencia bola nespravodlivá.

Mali by sme hľadať prostredia a nastavenia, v ktorých môžeme uvoľniť a otestovať AI na plný potenciál namiesto toho, aby sme ich spomalili s umelými ľudskými obmedzeniami. Čo by mohli ľudia a AI dosiahnuť, keď spolupracujú namiesto toho, aby súťažili?