Video: Garry Kasparov Answers Chess Questions From Twitter | Tech Support | WIRED (November 2024)
Garry Kasparov bol jednou z prvých obetí automatizačnej revolúcie AI. Jeho strata v spoločnosti Deep Blue spoločnosti IBM z neho urobila prvého šampióna ľudských šachov, ktorý prehral zápas s počítačom. Kasparov však nie je unavený; jeho kniha Deep Thinking skúma, ako nám môže AI skutočne pomôcť stať sa ľudskejším.
Dan Costa: Po kariére hrania šachu a bojovania s Deep Blue ste sa odvtedy stali odborníkmi na rôzne druhy šachov. Ako chcete, aby ľudia rozumeli umelej inteligencii?
Garry Kasparov: Musím sa priznať, že poznám hranice svojej nevedomosti. Preto som rád, že môžem hovoriť o veciach, v ktorých som presvedčený o svojej vlastnej odbornosti, a myslím si, že mám určité vedomosti o vzťahoch medzi človekom a strojom a s budúcou autoritou môžem hovoriť o budúcich výsledkoch.
Tiež si myslím, že sme stále vo veľmi ranom veku umelej inteligencie, a mali by sme diskutovať aj o niektorých pojmoch. Je to o sémantike, o filozofii a vždy hovorím, že si ľudia myslia, že sme v ére Windows 10, zatiaľ čo my sme stále v MS-DOS.
V tejto chvíli je veľmi dôležité skutočne porozumieť: „Čo je AI? Keď povieme AI, čo to znamená?“ Pretože ak sa pýtate 10 expertov na AI, stavím sa, že dostanete 11 alebo 12 odpovedí. Stále existuje dosť nezhoda.
Stále existujú podrobnosti, ale myslím si, že vo všeobecnosti vieme, že existuje skupina ľudí, ktorých budeme nazývať optimistami, ktorí čelia veľkému davu doomsayerov. Akokoľvek, verejnosť je ochotnejšia akceptovať scenáre doomsayerov, myslím si, že je to náš inštinkt, ktorý sa obáva budúcnosti, čo je tiež zaujímavé, pretože keď sa vrátite do 50. a 60. rokov, sci-fi bola veľmi optimistická. Bolo to všetko o nás, len o práci so strojmi.
Teraz, keď sa pozriete na 70., 80. a 90. roky, presunula sa na dystopické videnie. Je to o terminátoroch. Je to o Matrixe a teraz je žáner sci-fi takmer mŕtvy, pretože je to viac o fantázii, je to o mágii. Ľudia sa naozaj boja hovoriť o budúcnosti, pretože nie sme si istí, čo sa tam stane. Myslím si, že by sme si mali jednoducho uvedomiť, že AI nie je čarovná prútik, ale nie terminátor. Nie je to predzvesť utópie alebo dystopie. Je to nástroj. Mali by sme nájsť spôsob, ako sa vysporiadať.
Nie je to otváranie pekelných brán, ale nie je to raj. Nie je to riešenie pre všetko. Nejde o spasenie. Pozrime sa na problémy Zeme a dnes ma najviac znepokojujú zabijaci roboti alebo nejaká virtuálna realita, ktorá by mohla zničiť náš zmysel pre realitu, ale je to o zlých hercoch. Je to o teroristoch. Je to o rockovom priestore, ktorý využíva túto technológiu, aby nám ublížil. Vždy hovorím, že ľudia… majú monopolné zlo. To je miesto, kde by sme sa mali sústrediť, ale malo by tiež uznať, že AI by pre nás mohla urobiť toľko skvelých vecí, pretože to, čo ľudia povedia: „Ach, AI vytvára nové výzvy. AI môže odniesť veľa pracovných miest.“ Presne tak. To sa stalo s pracovnými miestami v poľnohospodárstve, pracovnými miestami vo výrobe. Rušivá technológia vždy ničí priemysel, ale zároveň vytvára nové pracovné miesta.
Hovorím, že technológia je hlavným dôvodom, prečo sa tak veľa ľudí stále sťažuje na technológiu, pretože jednoducho nepoznáme, že priemerná životnosť rástla, myslím, že 45, 47 začiatku 20. storočia až teraz 75, vďaka technológii. Chceme výhody, chceme pohodlie a nepozeráme sa na cenu. Ľudia kupujú Alexu alebo si stiahnu aplikáciu na rozpoznávanie tváre a potom si sťažujú na súkromie. Je čas, aby sme pochopili, čo od týchto technológií očakávame, tak ako sa s nimi chceme vysporiadať? Ako môžu zlepšiť náš život a zároveň uznať, že by sme nemali diskutovať o rozliatom mlieku. Stane sa to.
Nemali by sme sa pýtať, či to chceme alebo nie, deje sa to. Akýkoľvek pokus o urážku na agóniu a spomalenie procesu si myslím, že je iba kontraproduktívny, pretože úlohy, ktoré sú odsúdené na zánik, nemožno uložiť. Musíme však myslieť na nové priemyselné odvetvia. Ako môžeme vytvoriť nejaké nové pracovné miesta, ktoré nám pomôžu vytvoriť… finančný vankúš na starostlivosť o tých, ktorí zostali pozadu?
Dan Costa: To bol jeden z bodov, ktoré ste uviedli v Deep Thinking . AI predstavuje príležitosť, aby sme boli viac ľudskí. Myslím si, že musíme toto telo rozvíjať a prinútiť ľudí, aby sa cítili a chápali.
Garry Kasparov: Správa McKinseyho o trhu práce v USA v roku 2016 bola jasnou demonštráciou. Aká malá kreativita bola použitá?
Mnoho pracovných miest robíme opakujúce sa pracovné miesta, surové pracovné miesta. Duševné pracovné miesta sa tiež môžu opakovať. Stroje ich tiež môžu ľahko vykonávať oveľa efektívnejšie. Tu sa dostávate k bodu, keď sme sa dozvedeli z hier… šachu, golfu, akejkoľvek inej hry, pokiaľ máme rámec vytvorený ľuďmi a vieme, čo robíme, stroje budú fungovať lepšie.
Mali by sme si len uvedomiť, že v každom uzavretom systéme budú stroje vynikajúce. Mimochodom, nemusíme pochopiť, ako to robia. To je ďalšia chyba. Chceme vysvetliteľnosť. Stroje to dokázali urobiť veľmi nepríjemne z našich štandardov. Lietadlá rýchlo lietali a vták hore mával krídlami. Preto je nesprávne myslieť si, že stroje nás prekonajú aj pri chybách intelektu, keď urobíme niečo, čomu rozumiete. Mali by sme hľadať výsledky a to je ďalší problém pre podniky, pretože existuje toľko nariadení, ktoré vyžadujú, aby vysvetlili, čo robia, ale vysvetliteľnosť nemusí existovať, ak chcete hľadať efektívnosť a produktivitu.
Dan Costa: Vystúpili ste na pódiu o Go a vec, vďaka ktorej sa Go AI stala oveľa efektívnejšou, je, keď sa naučila hrať hru. Nemalo pravidlá, ktoré ukladá človek.
Garry Kasparov: Teraz je to rovnaké ako šach. Opäť platí, že to bude budúcnosť vzťahov s ľudskými misiami veľmi dobre na ľuďoch, ktorí sa správajú ako pastieri, pretože budeme musieť nájsť spôsob, ako vytvoriť tieto chladné systémy, oblasti úzkej inteligencie, kde stroje dokážu prácu oveľa lepšie ako ktorýkoľvek iný človek, Potom sa pozrite, ako sa pripájajú. Tieto oblasti úzkej inteligencie k všeobecnej oblasti, k otvorenému systému. Opäť to znie ľahko, ale myslím si, že je to veľká výzva, pretože priestor pre ľudí a ich vzťahy so strojmi by sa mohli zmenšovať menšie a menšie. Možno aj posledných pár desatinných miest, ale na tom nezáleží. Mohlo by to byť oveľa efektívnejšie, pretože existuje toľko energie. Jeho nasmerovanie alebo zmena smeru o 0, 1 percenta tohto uhla by mohla mať obrovský, masívny rozdiel, cieľ vzdialený jednu míľu.
Dan Costa: Jednou z vecí, ktoré ma znepokojujú pri AI, je to, že dobré systémy AI sú poháňané množstvom a množstvom údajov a skutočne skvelými algoritmami. Ak sa pozriete na to, kto práve teraz získal väčšinu údajov v tomto priestore, je to veľká technológia, sú to štátne vlády. Ako vidíte úlohu jednotlivca v tejto revolúcii AI? Pretože sa zdá, že existuje určitá asymetria v prístupe k týmto novým technológiám a rôzne motivácie.
Garry Kasparov: Áno. Nemohol som viac súhlasiť. Máme tento problém a myslím si, že verejnosť tento problém uznáva, ale stále nie je dostatočný tlak vlád na to, aby skutočne stanovili veľmi prísne pravidlá a veľmi represívne opatrenia voči korporáciám, ktoré porušujú súkromie.
Jednou z mojich obáv ako predsedu Nadácie pre ľudské práva je skutočnosť, že pravidlá sa líšia od demokratického sveta k svetu neslobodnému. Je pre mňa veľmi znepokojujúce, že títo nadnárodní obri - napríklad Google, Apple, Microsoft, Facebook - uplatňujú veľmi odlišné pravidlá na svojich zákazníkov v Amerike alebo Európe a na tých, ktorí nemali také šťastie, že sa narodili v slobodnom svete a žijú v nich. Čína, Rusko, Turecko - kde by zverejnenie údajov zo spoločenských aktivít mohlo byť doslova otázkou života a smrti. Myslím si, že je to krok číslo jedna, ale mali by sme tiež uznať, či sa údaje vytvárajú, budú sa zhromažďovať.
Som si istý, že existuje mnoho spôsobov, ako by vlády mohli obmedziť používanie týchto údajov. Tiež si myslím, že je to bonus pre verejnosť, pretože po svedectve Marka Zuckerberga v Senáte USA, ktoré som našiel… bolo úžasným prejavom nevedomosti zákonodarcov USA. Nemohli klásť dobré otázky päť hodín; mali ho na horúcom sedadle a bol to odpad. Nevidel som rozhorčenie verejnosti. Takáto veľká príležitosť sa minul.
Jednoduchá rada: „Rozdeľme ich.“ Nie je to štandardný olej. Ak sa začnete rozdeľovať - a nenávidím monopoly -, potom budete mať okolo seba veľa, veľa spoločností Google s údajmi rozloženými. Mali by sme nájsť spôsob, ako posilniť postavenie jednotlivcov. Neviem technológie blockchainu, ale pravdepodobne to je spôsob, ako skutočne pomôcť ľuďom ovládať svoje vlastné údaje a svoju budúcnosť. Myslím, že ešte stále existuje chvíľa, keď ide o pôvodný koncept internetu, sociálnej siete. Náhle sú to sociálne médiá. Ľudia jednoducho nepoznajú. Nie je to sémantický rozdiel.
Dan Costa: Speňažuje sa úplne iným spôsobom.
Garry Kasparov: Ide o spájanie ľudí. Je to o celej myšlienke bolo, ako nás spojiť. Ako zastaviť jednotlivca, získať prístup k údajom a vyrobiť niečo, čo by mu mohlo prospieť a byť len súčasťou tohto globálneho systému. Sociálne médiá sú iné, ste cieľ. Teraz ste… cieľom veľkých spoločností. Ako sa vrátime k tomuto konceptu sociálnej siete? Nemám riešenia, priznávam tu svoju nevedomosť o technických riešeniach, ale viem, že to je presne filozofia, na ktorú je potrebné položiť správnu otázku. Myslím si, že verejnosť nechápe závažnosť tejto výzvy.
Dan Costa: Ste ruský občan...
Garry Kasparov: Aj chorvátsky občan, mám e-pas, takto cestujem.
Dan Costa:… žijúci v Spojených štátoch, ale veľa ste napísali o propagande, jej účinkoch a právomociach a o tom, ako ju používa ruská vláda. V USA tu máme teraz Facebook, Twitter, mediálny vesmír Google, ktorý je takmer ako súkromný propagandistický stroj, ku ktorému môžu mať prístup vlády, jednotlivé spoločnosti. Aké rady máte ako niekto, kto sa zaoberal týmito problémami a chápe ich, pre Spojené štáty americké? Keď sa sťahujeme do tohto systému, kde už nemôžeme uveriť tomu, čo vidíme online.
Garry Kasparov: Pozri, v Putinovom Rusku čelím od začiatku tohto storočia vzostupu falošného spravodajského priemyslu a tovární na výrobu trollov. Zhruba okolo rokov 2004 - 2005, Putinov experti na propagandu, chlapci KGB, urobili verné rozhodnutie, že nebudú nasledovať Čínu firewally. Ale skôr, vytvorenie falošných internetových stránok, ktoré nesú veľa skutočných informácií o týchto jedovatých kúskoch. Namiesto toho, aby ste mali prednú stranu správnych novín, príbeh, ktorý musia nasledovať všetci, líniu strany, môžete ju rozložiť na mnoho kusov, v desiatkach kusov. Vložte ho do balíčka zabaleného do mnohých skutočných príbehov.
Nie je to také jednoduché ako hovoriť, Garry Kasparov je nepriateľom štátu. Nie, niekto hovorí, že Garry Kasparov je nepriateľom štátu, ale potom niekto, kto príde povedať nie, ale bol to skvelý šachista, ale pravdepodobne teraz bol infiltrovaný hlasom a propagandou. Niekto povie, nie, nie, nie, je to dobrý človek. Celá stránka komentárov by teda mohla byť falošná.
Dan Costa: Roboti sa hádajú s robotmi.
Garry Kasparov: Bots a sú v tom veľmi dobrí, preto jedného dňa, keď Putin zaútočil na americké voľby, mal skutočne viac ako 10 rokov skúseností s týmito odvetviami. Práca v Rusku, v susedných krajinách s veľkými ruskými spoločenstvami vo východnej Európe, v západnej Európe.
V mojej knihe Zima prichádza: Prečo sa musí Vladimir Putin a nepriatelia slobodného sveta zastaviť v roku 2015, povedal som, že to bola len otázka času. Nie je to tak, ale kedy a kde zaútočí. Pretože tento stroj už postavili a je relatívne lacný. Stále to sú miliardy dolárov investícií, ale v porovnaní s otvoreným vojenským zásahom, konfrontáciou… je to relatívne lacné. A tiež to vyhovovalo Putinovej mentalite KGB, jeho pozadí KGB, špionážnemu pozadiu. Takže namiesto otvorenej konfrontácie vždy hľadá príležitosť infiltrácie. To je klasická judo metóda, využívate proti nemu silné stránky svojho súpera. Pre Putina to bolo brilantné, pretože to bola západná technológia a slobodný svet a mohli ste ho použiť na podkopanie samotného základu slobodného sveta.
Dan Costa: Máte nejaké rady, ako sa dostať z tejto situácie? Pretože sa zdá, že sa to deje, nezastavilo sa to.
Garry Kasparov: Nie, nezastaví sa. Odpoveď je zrejmá pre každého, kto má neobmedzené odborné znalosti. Obrana je strácajúcim sa návrhom. V oblasti kybernetickej bezpečnosti môžete budovať obranu, ale na konci dňa je jedinou odpoveďou odstrašenie. Je to ako studená vojna, páči sa mi alebo nepáči, je to počítačová studená vojna. Putin alebo iní nepriatelia slobodného sveta neustále čelia útokom. Či už ide o štáty ako Irán, Severná Kórea alebo Čína, alebo kvázi-štátne organizácie, ktoré používajú rovnaké metódy.
Iba odradenie mohlo tieto útoky zastaviť alebo ich obmedziť. Pretože pochopia dôsledky prílišnej agresivity. V snahe chrániť naše slabé miesta tu a tam, je dôležité, aby sme si vybudovali obranu. Je dôležité, aby sme zvyšovali povedomie verejnosti o hrozbách, ale nebude to fungovať. Pokiaľ ide o falošný spravodajský priemysel, v našej slobodnej spoločnosti existuje veľa výziev, ktoré falošnému spravodajskému priemyslu umožnili. Ide o strach z partizánstva, o absenciu dialógu medzi ľuďmi s rôznymi ideologickými názormi, ktoré Putinovi a iným nepriateľom slobodného sveta pomohli využiť falošné správy na prekonanie tejto medzery.
Dan Costa: Takže teraz pracujete s Avastom, spoločnosťou, s ktorou sú čitatelia PCMag veľmi dobre oboznámení. Aké rady dávate spotrebiteľom, ako zvýšiť svoju úroveň obrany?
Garry Kasparov: Pokiaľ ide o individuálnu úroveň obrany, je to veľmi jednoduché. Prvá správa je majiteľom inteligentných domov. Bol som trochu šokovaný, pretože aj na tomto juhozápadnom juhozápade som hovoril s mnohými ľuďmi, ľudia s dobrou odbornosťou nechápu, aké zraniteľné sú dnes inteligentné domácnosti.
Americká domácnosť, 39 miliónov, má aspoň jedno zraniteľné zariadenie. Ľudia nechápu, že jedno zraniteľné zariadenie robí celý inteligentný dom zraniteľným. Pretože silné stránky vašej obrannej pyramídy závisia od najslabšieho článku. Jedno zlé jablko robí celé balenie hnilobou.
Väčšinu problémov spôsobujú výrobcovia tradičných domácich spotrebičov - práčky, kávovary - pretože neexistujú žiadne odborné znalosti v oblasti budovania digitálnych systémov. Ale musia to urobiť hneď. Za veľmi nízke náklady, pretože ide o cenovú konkurenciu, ale chcú byť súčasťou systému. Väčšina systémov jednoducho nemá adekvátnu obranu. Myslím, že potrebujeme… vládny dohľad, musíme vyvinúť nátlak, aby sme splnili určité normy.
Ale tiež musí poskytnúť samostatné príručky, pretože nikto nečíta 100-stranovú príručku. Na strane 85 si prečítate niečo o tomto digitálnom obsahu, ľudia ho nečítajú. Väčšina z nich používa predvolený režim, čo je samozrejme otvorená pozvánka pre hackera. Myslím, že je veľmi dôležité, aby ľudia začali robiť to, čomu hovorím digitálna hygiena, pretože si umývame ruky, čistíme si zuby, robíme to automaticky. Nezachráni nás to pred niektorými vážnymi chorobami, ale dá sa vyhnúť 90 percentám problémov. Rovnako ako v prípade mobilných pripojených zariadení by sme sa stále mali chrániť pred vírusmi, ale veľa vecí by sa dalo dokázať preukázaním, že nám na tom záleží, pretože je rovnako dôležitá ako naše zdravie.
Dan Costa: Chcem sa vás opýtať na tri otázky, ktoré kladiem všetkým, ktorí prichádzajú na predstavenie. Existuje technologický trend, ktorý sa vás týka a ktorý vás udržuje v noci?
Garry Kasparov: Nie, som nenapraviteľný optimista. Bojím sa o zlých ľudí, nie o zlú technológiu, pretože každá technológia má dvojaké použitie. Môžete postaviť jadrový reaktor, ale skôr, žiaľ, vybudujete atómovú bombu. Je dosť nešťastné, že ničenie je ľahšie ako konštrukcia. Preto v histórii vždy vieme, že nová, rušivá technológia bola testovaná na nejaké poškodenie.
Dan Costa: Nebojíte sa, že to isté sa stane s AI? Budem zvyknutý ničiť skôr, ako si zvykne vytvoriť?
Garry Kasparov: Opäť tu nejde o zabijakov. Je to o zlých chlapcoch, zlých hercoch za tým. Ľudia povedia, že by sme mali myslieť na etické AI. AI nemohla byť viac etická ako jeho tvorcovia. Nerozumiem, čo to znamená, ako napríklad etická elektrina. Ak máme v našej spoločnosti zaujatosť, AI ju nasleduje. Vidí nerovnosť, či už je to rasová, rodová alebo príjmová. Zohľadňuje to; AI je algoritmus založený na pravdepodobnosti. Sťažovanie sa na etické AI je teda ako sťažovať sa na zrkadlo, pretože sa nám nepáči, čo tu vidíme.
Dan Costa: Existuje technológia, ktorú používate každý deň a ktorá stále inšpiruje zázraky?
Garry Kasparov: Nie. Pre mňa je skutočným zázrakom sveta prístup k informáciám. Keďže môžem zbierať údaje, uľahčuje to. Vyrastal som v Sovietskom zväze a informácie boli vzácne, nebolo veľa kníh. Faktom je, že môžem Kindle… len sa cítim dobre. Teraz nás obklopuje toľko technológie, ktorá nám pomáha zlepšovať sa. Čo je úžasné, ľudia sa stále sťažujú, čo môžeme robiť? Nie je nič nové, čo by sa dalo vymyslieť… a hovorím počkať chvíľu. Pozeráte sa na toto zariadenie vo vrecku, poďme späť v roku 1976 alebo 1977, superpočítač Cray bol ako zázrak. Čo je toto zariadenie? Desaťtisíckrát silnejší?
- AI je (tiež) sila pre dobré AI je (tiež) sila pre dobré
- Tento AI je príliš silný na zverejnenie. Tento AI je príliš mocný na zverejnenie
- Tento AI predpovedá online trolling skôr, ako sa stane
Dan Costa: Silnejší ako raketoplán.
Garry Kasparov: Presne tak. Máme toľko sily a… chcem, aby sme začali opäť snívať o veľkých veciach. Pretože teraz máme tieto príležitosti. Je mi veľmi ľúto vesmírneho závodu, zastavili sme prieskum vesmíru, prieskum hlbokého oceánu. Vráťme sa, skúsme robiť veľké veci. Pred štyrmi rokmi som začal úvodný prejav na univerzite v Saint Louis v Missouri. Pokiaľ ide o postgraduálnych študentov, povedal som sa pozrieť, musíte oživiť ducha prieskumu, najmä preto, že St. Louis je bránou na západ a dnes je bezpečnejšie letieť na Mars ako pre Columbus, ktorý prekročí Atlantik. Pretože aspoň poznáme vzdialenosť a máme mapu. Dúfam, že naše deti, naše vnúčatá… budú agresívnejšie vo svojich snoch. Pomocou tejto fenomenálnej technológie nás posunú vpred, pretože si myslím, priznajme, priznajme túto dôležitú skutočnosť; naša generácia spomaľuje našu snahu objavovať zázraky sveta, vesmíru alebo oceánov.
