Rok etického zúčtovania odvetvia ai priemyslu

Odkedy hlboké neurónové siete zvíťazili v roku 2012 v najdôležitejšej svetovej súťaži o rozpoznávanie obrázkov, všetci boli nadšení z toho, čo by umelá inteligencia mohla odhaliť. Ale v závode vývoja nových techník a aplikácií AI sa možné negatívne dopady odrazili.

Teraz vidíme posun k väčšej informovanosti o etike AI. V roku 2018 si vývojári umelej inteligencie uvedomili možné následky svojich výtvorov. Mnoho inžinierov, výskumníkov a vývojárov dalo jasne najavo, že nebudú stavať technológie, ktoré poškodzujú alebo spôsobujú škody na živote nevinných ľudí, a držali svoje spoločnosti.

Uznávanie tváre pri presadzovaní práva

V minulosti bolo vytváranie aplikácií na rozpoznávanie tváre náročné, náročné na zdroje a náchylné na chyby. S pokrokom v počítačovom videní - podmnožine AI, ktorá počítačom umožňuje rozoznať obsah obrázkov a videa - sa však vytváranie aplikácií na rozpoznávanie tváre stalo oveľa ľahšie a na dosah každého.

Veľké technologické spoločnosti ako Microsoft, Amazon a IBM začali poskytovať cloudové služby, ktoré umožnili každému vývojárovi integrovať technológiu rozpoznávania tváre do svojho softvéru. Tým sa odomklo veľa nových prípadov použitia a aplikácií v rôznych doménach, ako napríklad ochrana a autentifikácia identity, bezpečnosť inteligentných domov a maloobchod. Aktivisti za ochranu súkromia však vyjadrili obavy z možného zneužitia.

V máji 2018 americká únia občianskych slobôd odhalila, že Amazon uvádzal na trh orgány presadzovania práva a vládne agentúry Rekognition, technológiu video-analytiky v reálnom čase. Podľa ACLU polícia v najmenej troch štátoch používa Rekognition na rozpoznávanie tváre pri sledovacích video kanáloch.

„Vláda teraz môže s programom Rekognition vybudovať systém na automatizáciu identifikácie a sledovania kohokoľvek. Ak by napríklad fotoaparáty policajných orgánov boli vybavené rozpoznaním tváre, zariadenia určené na transparentnosť a zodpovednosť dôstojníkov by sa ďalej transformovali na sledovacie zariadenia zamerané na verejnosť, “varoval ACLU. „Automatizáciou hromadného sledovania systémy rozpoznávania tváre, ako je Rekognition, ohrozujú túto slobodu a predstavujú osobitnú hrozbu pre spoločenstvá, ktoré sú v súčasnej politickej klíme nespravodlivo zacielené. Len čo sa vybudujú a zavedú výkonné systémy dohľadu, ako sú tieto, bude mimoriadne ťažké ublížiť na zdraví.."

Obavy ACLU zopakovali zamestnanci Amazonu, ktorí v júni napísali list generálnemu riaditeľovi spoločnosti Jeff Bezosovi a požadovali, aby prestal predávať Rekognition orgánom činným v trestnom konaní. "Naša spoločnosť by nemala byť v oblasti dohľadu; nemali by sme byť v policajnom priemysle; nemali by sme sa zaoberať podporou tých, ktorí monitorujú a potláčajú marginalizované populácie, " uviedol list.

V októbri anonymný pracovník spoločnosti Amazon odhalil, že najmenej 450 zamestnancov podpísalo ďalší list, v ktorom vyzvalo Bezos a ostatných vedúcich pracovníkov, aby prestali predávať Rekognition polícii. „Nemôžeme profitovať zo skupiny výkonných zákazníkov na úkor našich komunít; nemôžeme odvrátiť naše oči od ľudských nákladov na naše podnikanie. Nebudeme ticho budovať technológiu na utláčanie a zabíjanie ľudí, či už v našej krajine alebo v iných, " povedalo.

Pád vojenského projektu AI spoločnosti Google

Zatiaľ čo Amazon sa zaoberal týmto vnútorným odporom, Google zažíval podobné boje o kontrakt na vývoj AI pre americkú armádu, prezývaný Project Maven.

Google údajne pomáhal ministerstvu obrany vyvinúť technológiu počítačového videnia, ktorá by spracovávala videonahrávky z dronov. Množstvo videozáznamov zaznamenaných každý deň dronmi bolo príliš veľa na to, aby ich ľudskí analytici mohli skontrolovať, a Pentagon chcel časť procesu automatizovať.

Hovorca spoločnosti Google si uvedomil kontroverznú povahu úlohy a uviedol, že poskytuje iba rozhrania API pre platformu strojového učenia TensorFlow na zisťovanie objektov vo videoprenosoch. Google tiež zdôraznil, že vyvíja politiky a bezpečnostné opatrenia na riešenie etických aspektov svojej technológie.

Projekt Maven však nesedel dobre so zamestnancami spoločnosti Google - z ktorých 3 000 vrátane desiatok inžinierov čoskoro podpísalo otvorený list generálnemu riaditeľovi Sundarovi Pichai, v ktorom žiadalo ukončenie programu.

„Sme presvedčení, že spoločnosť Google by sa nemala zaoberať vojnou, “ čítal list. Požiadala spoločnosť, aby „navrhla, zverejnila a presadila jasnú politiku stanovujúcu, že spoločnosť Google ani jej dodávatelia nikdy nebudú stavať vojnovú technológiu“.

Zamestnanci spoločnosti Google tiež varovali, že ich zamestnávateľ v budúcnosti ohrozuje jeho reputáciu a schopnosť súťažiť o talenty. „Nemôžeme zveriť morálnu zodpovednosť za naše technológie tretím stranám, “ zdôraznili zamestnanci spoločnosti Google.

Krátko na to petícia podpísaná 90 akademikmi a vedcami vyzvala vedúcich pracovníkov spoločnosti Google, aby prerušili prácu na vojenských technológiách. Signatári varovali, že práca spoločnosti Google pripraví pôdu pre „automatické rozpoznávanie cieľov a autonómne systémy zbraní“. Varovali tiež, že keď sa táto technológia vyvíja, bude stáť „kúsok od autorizácie autonómnych robotov na automatické zabíjanie bez ľudského dohľadu alebo zmysluplnej ľudskej kontroly“.

S rastúcim napätím protestovalo niekoľko zamestnancov spoločnosti Google.

Ako technickí lídri reagovali

V júni spoločnosť Google pod tlakom vyhlásila, že po uplynutí jej platnosti v roku 2019 neobnoví svoju zmluvu s ministerstvom obrany na projekte Maven.

V blogovom príspevku vyhlásil generálny riaditeľ Sundar Pichai (obrázok nižšie) súbor etických princípov, ktoré by riadili vývoj a predaj technológie AI spoločnosti. Podľa Pichai bude spoločnosť odteraz uvažovať o projektoch, ktoré sú pre dobro spoločnosti ako celku, a zabráni rozvoju umelej inteligencie, ktorý posilní existujúce nespravodlivé predsudky alebo oslabí verejnú bezpečnosť.

Pichai tiež výslovne uviedol, že jeho spoločnosť nebude pracovať na technológiách, ktoré porušujú normy ľudských práv.

Amazonov Bezos bol pobúrený pobúrením nad Rekogníciou. „Budeme naďalej podporovať DoD a myslím si, že by sme mali, “ povedal Bezos na technickej konferencii v San Franciscu v októbri. „Jednou z úloh vedúceho vedenia je urobiť správne rozhodnutie, aj keď je to nepopulárne.“

Bezos tiež zdôraznil potrebu technickej komunity na podporu armády. „Ak sa veľké technologické spoločnosti obrátia chrbtom k DoD, táto krajina bude mať problémy, “ povedal.

Predseda Microsoftu Brad Smith, ktorého spoločnosť čelila kritike za svoju prácu s ICE, uverejnil v júli blogový príspevok, v ktorom požadoval odmeraný prístup pri predaji citlivých technológií vládnym agentúram. Aj keď Smith nevylúčil predaj služieb rozpoznávania tváre orgánom presadzovania práva a armáde, zdôraznil potrebu lepšej regulácie a transparentnosti v technologickom sektore.

• MIT minúť 1 miliardu dolárov na program na štúdium AI etiky MIT minúť 1 milión dolárov na program na štúdium AI etiky
• Naozaj hovorí AI náš jazyk? Naozaj hovorí AI náš jazyk?
• Rozbitie nezastaviteľnej továrne AI v Číne Rozbitie nezastaviteľnej továrne AI v Číne

„Zvolili sme zástupcov v Kongrese, ktoré majú nástroje potrebné na vyhodnotenie tejto novej technológie so všetkými jej dôsledkami. Využívame kontroly a vyváženie ústavy, ktorá nás videla od veku sviečok po éru umelej inteligencie. v minulosti toľkokrát potrebujeme zabezpečiť, aby nové vynálezy slúžili našim demokratickým slobodám v súlade so zásadami právneho štátu, “napísal Smith.

V roku 2018 sa vzdialené hrozby zabijáckych robotov a hromadná nezamestnanosť ustúpili obavám o bezprostrednejší etický a sociálny vplyv AI. V mnohých ohľadoch tento vývoj naznačuje, že toto odvetvie dozrieva, pretože algoritmy AI sa stávajú významnými v kritických úlohách. Ale ako sa algoritmy a automatizácia stávajú v našom každodennom živote viac zakorenenými, vynára sa viac diskusií.