Techonómia: ako opraviť chyby v službách google a facebook

Asi najprekvapivejšou témou tohtoročnej Techonómie bolo to, ako sú mnohí rečníci naštvaní na Facebook, Google a Twitter, s kritikou zameranou na ich prístup k súkromiu a najmä na možnú úlohu, ktorú zohrali pri umožňovaní ruského hackovania volieb v roku 2016.

Široká škála rečníkov presadzovala rôzne druhy regulácie týchto „internetových gigantov“ a nikto z vyššie uvedených spoločností nebol na konferencii, aby poskytol alternatívne hľadisko. To sa veľmi líšilo od minuloročnej konferencie, keď generálny riaditeľ Facebooku Mark Zuckerberg povedal, že predstava, že falošné správy na Facebooku ovplyvnili voľby, bola „dosť šialený nápad“.

Odvtedy, ako poznamenal spoluzakladateľ Techonomy Simone Ross, sme sa dozvedeli, že „technológia nám umožňuje rozdeliť nás rovnako ľahko, ako nás spájať.“ Spoluzakladateľ konferencie David Kirkpatrick (vyššie) nastavil tón konferencie a povedal, že „technológia je sila pre dobré, ale iba vtedy, ak je vaším cieľom dobrý“, a ďalej uviedol, že verí, že veľké technologické spoločnosti potrebujú „proaktívny“ križovatka “s vládou, či už sa to nazýva regulácia alebo nie.

Autorita v umelom, inteligentne prepojenom svete

Známy investor Roger McNamee z Elevation Partners, skorý investor na Facebooku a Google, bol možno najnegatívnejším zo všetkých rečníkov. McNamee povedal, že tieto spoločnosti „začali zachraňovať svet“, ale to sa zmenilo, keď sa reklama stala ich obchodným modelom. Uviedol, že smartfón v kombinácii s osobnými údajmi umožnil „vytvoriť takú úroveň hackingu mozgu, ktorá v médiách nikdy predtým nevidela“.

McNamee povedal, že veril, že Zuckerberg bol úprimný, keď povedal, že neveril, že takéto hackovanie je možné pred rokom, ale uviedol, že úlohu, ktorú teraz hrajú spoločnosti Google a Facebook, nemožno preceňovať. Komentoval: „musí byť ťažké byť teraz a uvedomiť si, že ste zničili západnú civilizáciu.“

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, Centrum elektronických informácií o ochrane osobných údajov (EPIC); Stratford Sherman, Accompli

Táto diskusia sa uskutočnila v rámci panela na tému „Autorita v prepojenom, umelo inteligentnom svete“, do ktorého sa zapojili aj danah boyd, sociálny vedec spoločnosti Data & Society a Microsoft Research; Marc Rotenberg, predseda elektronického informačného centra o ochrane osobných údajov (EPIC); a moderátorka Stratford Sherman of Accompli. Sherman povedal, že zatiaľ čo Facebook a Google začínajú ako fóra pre verejný prejav, sú „radikálne neregulované“. Pri AI, ktorá by mohla zásadne ovplyvniť ľudskú rasu na obzore, Sherman povedal, že sa obáva neúmyselných dôsledkov technologického rozvoja, ktoré sme už videli.

Rotenberg povedal, že aj keď sa stále obáva, že tradičné obavy o súkromie budú sledované a profilované, rovnako ho znepokojuje nedostatočná hospodárska súťaž, nedostatok inovácií a riziko pre demokratické inštitúcie. Povedal, že internetoví giganti majú obrovskú moc a údaje, ktoré vlastnia, vytvárajú skutočnú prekážku vstupu, takže neexistuje významná hospodárska súťaž. Rotenberg povedal, že je vo Washingtone od Reaganovej administratívy a po prvý krát sa „voľby v minulom roku necítili dobre známe“.

V predošlej relácii chlapec, ktorý napísal knihu s názvom Je to komplikované , hovoril o ťažkostiach pri manipulácii s internetom.

Hovorila o eskalujúcom procese manipulácie za posledných 20 rokov, ktorý začal s deťmi, ktoré šoférovali na Oprah a postupoval k „rickrollom“ ak veciam, ako je zmena výsledkov vyhľadávania pre názov „Santorum“. V poslednom čase sa s Gamergate stali hráči, vrátane štátnych aktérov, väčším obsadením postáv. boyd povedal, že internetové spoločnosti si myslia, že ich AI môže chrániť, ale skupiny, ktoré sa snažia manipulovať s výsledkami, už experimentujú so spracovaním prirodzeného jazyka a čo je najdôležitejšie, manipulujú so zdrojmi údajov. Napríklad, injekcia zlých údajov do systému je podľa jej názoru novou zraniteľnosťou. Napriek tomu chlapec povedal, že jedinou odpoveďou bude „zabudovať technické protilátky do nášho priemyslu“.

Na tomto stretnutí chlapec povedal, že technické spoločnosti počítajú s manipuláciou na niekoľkých frontoch, a poznamenal, že zatiaľ čo všetci sa pozerajú na Rusko, existuje veľa ďalších štátov, ktoré podnikajú podobné kroky. Napríklad čínske spoločnosti sa snažia zabezpečiť, aby kontrolovali AI, a povedala, že to predstavuje inú výzvu, pretože nejde o priemyselnú konkurenciu, ale o konkurenciu so štátom.

Na otázku Shermana, či je to vojna, chlapec povedal, že si myslí, že je, zatiaľ čo McNamee povedal, že je to klasická partizánska vojna v tom, že naši nepriatelia používajú našu technológiu proti nám. McNamee povedal, že problémom nie sú sociálne siete alebo vyhľadávanie, ale reklamný model. V boji o pozornosť ľudí povedal, že látka je pochovaná senzáciou, a citoval staré príslovie, že „ak krváca, vedie to“.

Sherman poznamenal, že strach a hnev sú omnoho magnetickejšie, a teda oveľa lacnejšie. Povedal, že hoci sa ekologické správy používajú na oslovenie viac ako 125 miliónov ľudí, cieľom úsilia bolo, aby reklamy rozdelili ľudí do skupín na základe zdieľaných záujmov.

Rotenberg povedal, že je za to, aby boli algoritmy transparentné a reklama regulovaná, ale povedal, že musíme rešpektovať právo jednotlivcov hovoriť online. McNamee však uviedol, že „prvý pozmeňujúci a doplňujúci návrh bol vyzbrojený“ a že online priestory sa zásadne líšia od verejného námestia.

Boyd opísal, čo nazýva „bumerangovým efektom“, alebo inými slovami myšlienka, že podnecovanie médií, aby podali správy o poburujúcich veciach, je dôležité, pretože to posilňuje pôvodnú správu segmentu publika, ktorý nedôveruje médiám. Ako príklad hovoril chlapec o Pizzagate. Poznamenala, že pred internetom médiá často používali „strategické ticho“, aby sa vyhli pokrývaniu vecí, ako sú samovraždy a Klanove zhromaždenia, aby sa vyhli ich propagácii.

Rotenberg súhlasil s tým, že veľká časť tejto tradície usilovnosti a dohľadu sa stratila, a uviedol, že napríklad sekcia 230 (ktorá hovorí, že internetové spoločnosti nie sú zodpovedné za veci, ako sú príspevky používateľov), sťažila tradičným správam konkurenciu.

McNamee, ktorý požiadal o riešenia, uviedol, že Facebook je kult a že musí prestať popierať problém a riešiť ho, ako aj začať oslovovať „deprogramovanie“ oslovením každého zo svojich používateľov. Rotenberg podporoval myšlienku regulácie. A chlapec navrhol, že musíme investovať peniaze do spoločnosti, aby sme „znovu zosieťovali“ Ameriku.

Spätná väzba s novými hegemonistami

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, University of Alabama; David Kirkpatrick, Techonómia

V úvodnom paneli „Reckoning with the New Hegemonists“ takmer všetci súhlasili s Joyce Vance z University of Alabama, ktorý povedal, že technológia skutočne prekročila zákon, ktorý zúfalo potrebuje dohnať. Vance však varoval, že existuje aj riziko „slipshod“ politických odpovedí.

Dave Morgan zo spoločnosti Simulmedia uviedol, že „bude existovať regulácia“, uviedol, že je možné, že veľké spoločnosti sa budú môcť vyhnúť veľkému dopadu.

Morgan poznamenal, že história mediálneho priemyslu poskytuje paralely s tým, čo vidíme teraz, pretože noviny by sa považovali za tlačiarenské spoločnosti a spoločnosti poskytujúce včasné vysielanie sa považovali za technologické spoločnosti. Všetky tieto možnosti umožňujú zabezpečenie kontaktu so spotrebiteľmi, čo je jednoznačne to, čo robia spoločnosti Google a Facebook. V dôsledku takejto koncentrovanej mediálnej sily došlo k mnohým protimonopolným prípadom a vláda ich dokázala vládnuť. Jedným z veľkých rozdielov je, že iné technológie si dnes vyžadovali geografickú súvislosť, ktorú internetové spoločnosti nepotrebujú.

Vance poznamenal, že Senát teraz zvažuje návrh zákona, ktorý by od týchto spoločností vyžadoval zachovanie ich reklamnej histórie, ako aj objasnenie toho, kto platí za politické reklamy. Morgan však zdôraznil, že v súčasnosti ide o globálne spoločnosti so širším dosahom. Pokiaľ ide o európske nariadenia o ochrane súkromia GDPR, spoločnosť Vance uviedla, že USA možno v tejto oblasti postúpili vodcovstvu EÚ. Povedala, že si nemyslí, že americké spoločnosti budú schopné dosiahnuť súlad v rôznych geografických oblastiach odlišne, takže spoločnosti v predvolenom nastavení budú dodržiavať európske nariadenia.

Mark Mahaney z spoločnosti RBC Capital Markets uviedol, že spoločnosti už sú regulované, najmä v Európskej únii, pričom spoločnosť Google je pod kontrolou najmä za združovanie alebo propagáciu svojich služieb spolu s výsledkami vyhľadávania alebo so systémom Android. Kirkpatrick uviedol, že si myslí, že protimonopolné urovnanie skutočne pomohlo Microsoftu, ale Mahaney namietal, že to nie sú regulačné orgány, ktoré Microsoft zastavili, ale konkurencia.

Môže technika a vláda zachrániť demokraciu?

Tim Hwang, FiscalNote; Minnie Ingersoll, kód pre Ameriku; Marc Rotenberg, Electronic Information Information Center; Molly Turner, UC Berkeley Haas School of Business; Jon Fine, Inc Magazine; Lawrence Norden, NYU School of Law

Podobná téma prišla na raňajkový stôl s názvom „Môže technika a vláda zachrániť demokraciu?“, V ktorom moderátor Jon Fine z Inc Magazine požiadal o riešenia. Okrúhly stôl s tým však neprišiel.

Hwang povedal, že problém nie je technologická platforma, ale skôr hnev, ktorý ľudia cítia v dôsledku odpojenia sa od ekonomiky.

Lawrence Norden z Brennanového centra v NYU School of Law uviedla, že zákony vyžadujúce viac zverejnenia o politických reklamách sú jednoduchou odpoveďou, ale bohužiaľ, veľkým problémom sú „tmavé príspevky“ alebo príspevky neznámeho pôvodu. V tomto ohľade povedal, že internet je skôr ako námestie.

Rotenberg však povedal, že je to naopak, a že internet je skôr ako firemné mesto, kde platformy stanovujú pravidlá a rozhodujú o tom, čo uvidíte. Minnie Ingersoll of Code for America sa pýtala, či je problémom zahraničné rušenie alebo spoločnosť Google riadi to, čo hovoríme. Regulačné orgány musia lepšie pochopiť tieto problémy.

Molly Turner z UC Berkeley Haas School of Business uviedla, že internet sa stal najväčším prostriedkom na vyjadrenie, ale obáva sa, že to podkopáva občiansky diskurz. Na druhej strane sa obáva požiadaviek na platformy, ktoré majú odstrániť určité druhy informácií (napríklad ak bol oslabený zákon o komunikácii, alebo kvôli iným druhom regulácie), pretože v tomto prípade sa platforma zrazu stáva „arbitrom reč."

Rotenberg odpovedal, že zatiaľ čo automobilové spoločnosti kedysi bojovali proti bezpečnostným predpisom, nakoniec to pomohlo zvýšiť bezpečnosť vozidiel a viedlo k ďalším inováciám. Navrhoval, že stabilné regulačné prostredie môže platformám skutočne pomôcť. Rotenberg poznamenal, že technologické spoločnosti presadzujú „neutralitu siete“ pre telekomunikačné spoločnosti, ale nie pre seba, a vyzval na rovnaké podmienky pre všetkých.

Internet je pod útokom

Mark Anderson, Strategic News Service; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, Nová Amerika; David Kirkpatrick, Techonómia

Záverečný panel s názvom „Internet pod útokom“ pokračoval v tejto diskusii.

Rebecca MacKinnon, ktorá vedie projekt Ranking Digital Rights v Novej Amerike, uviedla, že kedysi existoval predpoklad, že z dôvodu internetu by sa autoritárske režimy nakoniec stali skôr demokraciami. Teraz sa bojí autoritárskych režimov a demokracie sa „stretnú uprostred“.

MacKinnon uviedol, že autoritárske režimy prispôsobujú internet svojim cieľom, zatiaľ čo demokracie čelia populizmu, manipulácii a „dozornému kapitalizmu“. Demokracie by však mala byť opatrná, pokiaľ ide o regulačnú reakciu - hoci súhlasí s tým, že pokiaľ ide o algoritmy a súkromie, je potrebná väčšia transparentnosť, je však znepokojená tým, že cenzúrny systém by uľahčil zásahy proti častiam spoločenskej vlády opovrhuje.

Peder Jungck, ktorý je vedúcim spravodajských a bezpečnostných služieb spoločnosti BAE Systems, súhlasil s tým, že vlády by chceli takéto systémy použiť na nájdenie disidentov, a uviedol, že nápad je produkt a rovnako ako akýkoľvek produkt, ktorý je možné tlačiť. Na otázku, či sú reklamné systémy zbrane, povedal: „Pandorina skrinka bola otvorená a nemôžeme sa vrátiť.“

Mark Anderson zo služby Strategic News Service povedal, že sme videli priamu líniu od čias ARPANET, keď neboli žiadni zlí, až po dnešný deň, keď vidíme čoraz viac škodlivého správania.

Anderson bol obzvlášť jasný pri opise toho, ako Čína kradne duševné vlastníctvo a používa ho na vytlačenie spoločností z podnikania. A navrhol, aby hacker Equifaxu mal všetky znaky vládneho útoku. Stručne povedané, Anderson povedal, že „nevidí riešenie“.

Jungck povedal, že by sme mali predpokladať, že zlí ľudia sú v našich systémoch a pracovať na riešeniach. Napríklad povedal, že číslo sociálneho zabezpečenia už nie je zabezpečiteľné, takže namiesto toho môžeme potrebovať riešenie blockchain.

V projekte Ranking Digital Rights vyhodnotil MacKinnon 22 globálnych spoločností v 35 otázkach týkajúcich sa napríklad slobody prejavu, súkromia a bezpečnosti. Povedala, že dve spoločnosti dostali „Ds“ a všetci ostatní zlyhali. Chce vedieť, čo spoločnosti robia s vašimi údajmi; s kým ho zdieľajú; či robia náležitú starostlivosť, hodnotenia bezpečnosti a riadenie rizika; a či chránia súkromie a bezpečnosť, obsah a výraz. Transparentnosť nie je dostatočná, povedala, ale je to nevyhnutný prvý krok.

Anderson povedal, že transparentnosť je dobrá vec, ale nie riešenie, a poznamenal, že niekto, kto chce manipulovať so systémom, nemusí platiť za reklamy, ale môže použiť 100 000 botnetov. Kirkpatrick potom navrhol, aby spoločnosti mohli presadiť identitu, a tak obmedziť používanie botnetov.

MacKinnon však namietal, že práve aktivisti v oblasti ľudských práv sú pri používaní týchto systémov najzraniteľnejší, pretože ak presadzujete identitu, nikto, kto by oponoval autoritárskej vláde, by nebol na sociálnych sieťach.

Jungck sa pýtal, prečo musíme presadiť identitu, keď stránky už vedia, kto ste a čo si kúpite. „Na internete nie je anonymita, je už dávno preč, “ povedal. Jediným rozdielom je, ako dlho trvá, kým zistíte, kto ste.

Na záver, MacKinnon uviedla, že je optimistická vo veľmi dlhodobom horizonte, ale nasledujúcich 100 rokov „nie toľko“.

Po vypočutí toho všetkého je ľahké byť pesimistickým alebo aspoň fatalistickým ohľadom množstva potrebnej regulácie a dopadu, ktorý to bude mať. Stále mám však tendenciu byť optimistom, a hoci si myslím, že je pravdepodobné a potrebné určité množstvo dodatočnej regulácie, domnievam sa, že je rovnako pravdepodobné, že dnešné internetové giganty alebo niektorí budúci hráči prídu s lepšou odpoveďou.

Aká je pravdepodobnosť, že odporučíte PCMag.com?