Ako gdpr ovplyvní odvetvie ai Ben Dickson

Pokiaľ ide o druh pretekov v zbrojení, technické spoločnosti zhromažďujú veľké množstvo užívateľských údajov, aby zdokonalili algoritmy umelej inteligencie, ktoré poháňajú ich aplikácie a platformy. Doteraz sa väčšinou dokázali vyhnúť zodpovednosti, keď ich praktiky tlačili do legálne a eticky šedých oblastí.

To sa však môže zmeniť 25. mája, keď nadobudnú účinnosť všeobecné pravidlá Európskej únie o ochrane údajov (GDPR). GDPR zavedie bezprecedentné obmedzenia pri zbere a spracovaní užívateľských údajov v regióne EÚ a bude fackovať vysoké pokuty spoločnostiam, ktoré ich nedodržiavajú.

Môže to znieť ako zlá správa pre spoločnosti, ktoré používajú algoritmy AI, ktoré využívali laxné nariadenia o zbere údajov (a zdĺhavé, nudné a nejednoznačné podmienky servisných dokumentov). Niektorí sa obávajú, že prísnejšie pravidlá budú brzdiť inováciu a zavádzanie umelej inteligencie v mnohých aplikáciách a doménach. Iní sa domnievajú, že nová smernica vytvorí základ, v ktorom sa aplikácie AI stanú spoľahlivejšími a dôveryhodnejšími.

Bez ohľadu na to je v priemysle AI veľký posun v ére GDPR.

Vlastníctvo údajov a ochrana osobných údajov

„GDPR je pre AI veľký problém, pretože si vyžaduje odlišné myslenie o tom, ako zhromažďujeme a používame údaje, “ hovorí Tim Estes, zakladateľ a prezident spoločnosti Digital Reasoning. „Technologické spoločnosti už príliš dlho trvajú na tom, že ak chcete získať hodnotu zo svojich produktov a služieb, musíte sa vzdať svojich údajov.“

Predtým sa od spoločností vyžadovalo, aby dostali iba vágny súhlas od používateľov na zhromažďovanie všetkých druhov údajov. „AI pomohla udržať živý humbuk veľkých dát nažive - čo predstavuje ďalší dôvod, prečo by podniky mali zhromažďovať a ťažiť všetky dostupné údaje, “ hovorí Estes. „Mnoho spoločností začalo implementovať AI na analýzu svojich údajov len preto, že si myslia, že by mali - bez premýšľania o vplyve na súkromie používateľov alebo vlastníctvo údajov.“

Najzákladnejším predpokladom GDPR je to, že údaje patria používateľom. V rámci GDPR budú spoločnosti musieť odhaliť celý rozsah informácií, ktoré zhromažďujú, ako aj ako ich používajú a ako ich budú chrániť a ako zabrániť neoprávnenému prístupu. Nové pravidlá prinútia spoločnosti AI, aby boli dôkladnejšie o údajoch, ktoré zhromažďujú, namiesto toho, aby sa zapojili do nechceného hromadenia, spracovania a zdieľania informácií o užívateľoch.

Právo na zabudnutie

GDPR umožňuje používateľom požadovať, aby spoločnosť vymazala všetky svoje údaje zo svojich serverov. To nebude vyhovovať spoločnostiam AI, ktoré majú oprávnený záujem uchovávať čo najviac údajov používateľa na vykonávanie úloh, ako je predvídanie trendov a správanie používateľov.

„Na konci dňa je GDPR predovšetkým o tom, ako zhromažďujete a spravujete údaje, a nie nevyhnutne o tom, koľko údajov máte, “ hovorí Maryna Burushkina, generálna riaditeľka GrowthChannel. „Hlavným problémom, ktorému bude väčšina spoločností čeliť, nie je veľa o tom, ako sa prihlásiť, ale skôr o správe údajov, komunikácii o využívaní údajov používateľom a umožnení používateľom ich vymazať.“

Spoločnosti AI budú musieť urobiť ďalšie kroky na anonymizáciu svojich údajov, ak chcú mať stále prístup k týmto informáciám. Iné problémy však čelia spoločnostiam, ktoré už majú veľké zásoby užívateľských údajov.

„Ak chce spoločnosť vymazať konkrétny PII, musí v rámci GDPR zabezpečiť, aby bola vymazaná všade, “ hovorí Amnon Drori, generálny riaditeľ spoločnosti Octopai. Môže to byť skľučujúca úloha, ktorá sa vykoná ručne, keď sú vaše dáta roztrúsené na rôznych serveroch a uložené v rôznych štruktúrovaných a neštruktúrovaných formátoch.

Napríklad pri odstraňovaní čísla kreditnej karty používateľa (určite citlivej informácie) sa spoločnosti budú musieť pozrieť do každej správy, databázy, databázového objektu a ETL, kde sú informácie uložené. „Niekedy vidíme rôzne názvy metadát pre rovnakú položku: napríklad„ číslo kreditnej karty “, „ číslo cc “, číslo kreditnej karty“, „číslo karty“, „číslo kreditnej karty“. Zoznam pokračuje a, “hovorí Drori. Je často nemožné vedieť, kde hľadať, a tento proces môže trvať týždne alebo dokonca mesiace a rovnako ako mnoho manuálnych procesov je náchylný k ľudským chybám a nepresnostiam, hovorí Drori.

GDPR tiež zvýši náklady na ľudské chyby pri spracovaní údajov. „Preto toľko spoločností dnes hľadá automatizované riešenie na presné spravovanie svojich metadát, “ hovorí Drori. Možno je ironické, že samotná AI môže byť v tomto ohľade riešením. Nástroje na správu metadát poháňané AI môžu skenovať všetky zdroje údajov v organizácii a konsolidovať vzťahy medzi rôznymi nástrojmi a zdrojmi údajov.

Právo na vysvetlenie

Jednou z najvýznamnejších častí GDPR v súvislosti s AI je tzv. „Právo na vysvetlenie“. V smernici sa uvádza, že spoločnosti musia používateľov informovať o „existencii automatizovaného rozhodovania“ a poskytnúť im „zmysluplné informácie o príslušnej logike, ako aj o význame a predpokladaných dôsledkoch takéhoto spracovania pre dotknutú osobu“.

V zásade to znamená, že používatelia musia vedieť, či sa na nich priamo alebo nepriamo vzťahujú algoritmy AI, a mali by byť schopní napadnúť rozhodnutia, ktoré tieto algoritmy robia, a požadovať dôkaz o tom, ako sa dospelo k záveru. Bude to jedna z najväčších výziev, ktorým bude odvetvie AI čeliť.

Hlboké neurónové siete, hlavná technológia za súčasnými algoritmami AI, sú zložité softvérové ​​štruktúry, ktoré vytvárajú svoje vlastné pravidlá funkčnosti analyzovaním veľkých množín údajov a zisťovaním korelácií a vzorcov. Keď sa neurónové siete stávajú zložitejšími, ich správanie sa čoraz ťažšie rozkladá. Často ani inžinieri nevedia vysvetliť dôvody, ktoré viedli k rozhodnutiu, ktoré urobia ich algoritmy AI.

Nevysvetliteľnosť algoritmov AI, ktorá sa nazýva problém „čiernej skrinky“, sťažila ich implementáciu do rozhodnutí súdnej siene, vymáhania práva, žiadostí o pôžičku a úver, pri nábore, zdravotnej starostlivosti a ďalších kritických oblastiach. Ale bez akéhokoľvek právneho pákového efektu mali spoločnosti AI malú motiváciu zvyšovať transparentnosť svojich algoritmov AI, najmä keď boli úzko spojené s ich obchodným tajomstvom.

Teraz GDPR bude držať spoločnosti AI zodpovedné za rozhodnutia, ktoré urobia ich algoritmy.

„V rámci GDPR sú organizácie zodpovedné za to, že jasne opíšu spôsob spracovania v ľudskom jazyku a zároveň požiadajú subjekt o súhlas, “ hovorí Pascal Geenens, bezpečnostný výskumník v Radware. „Ako sa vyvíja hlboké vzdelávanie a vedci v oblasti údajov nie sú schopní charakterizovať deterministickú povahu za odôvodnením neurónovej siete, tento popis sa môže stať zložitejším a ťažko vysvetliteľným.“

V podstate GDPR je o tom, aby sa ľudia, ktorí spracúvajú údaje, zodpovedali, hovorí Geenens. Ak teda na spracovanie používate algoritmy strojového učenia, musíte ich navrhnúť tak, aby vám umožnili vysvetliť rozhodnutia, ktoré prijímajú vo vašom mene.

Hrsť organizácií sa snaží vyvinúť technológie na zvýšenie transparentnosti AI. Medzi nimi je vynikajúci výskumný projekt DARPA s vysvetliteľnou AI (XAI), ktorého cieľom je zabezpečiť, aby rozhodnutia založené na AI boli zrozumiteľné.

Outsourcing AI

GDPR ovplyvní aj organizácie, ktoré sprístupňujú svoje údaje tretím stranám. Významným príkladom takejto spoločnosti je Facebook; vo svojom škandále v Cambridge Analytica gigant sociálnych médií nezabránil spoločnosti zaoberajúcej sa ťažbou údajov zhromažďovať a zneužívať údaje 87 miliónov používateľov. GDPR však bude mať dopad aj na spoločnosti, ktoré zadávajú svoje funkcie AI externe a sprístupňujú svoje údaje poskytovateľom AI.

„Zatiaľ čo mnohí predpokladajú, že poskytovatelia AI sú ako iní poskytovatelia služieb - jednoducho ponúkajú svoje technológie výmenou za peňažnú kompenzáciu - pravdou je, že poskytovatelia AI tiež vstupujú do obchodných partnerstiev ako spôsob, ako stavať a rozvíjať svoje technológie, “ hovorí Estes, šéf vedúci oddelenia digitálneho zdôvodnenia. To znamená, že poskytovateľ AI možno bude chcieť držať údajov klienta, aby ďalej trénoval svoje vlastné algoritmy a používal ich v iných doménach.

Napríklad poskytovateľ AI, ktorý pomáha zdravotníckej organizácii nájsť vzory príznakov a zlepšiť diagnózy, môže naraziť na množinu údajov, ktorá vylepšuje vlastné algoritmy. Spoločnosť AI by potom mohla chcieť využiť údaje na zlepšenie svojich algoritmov pre iné typy starostlivosti o pacientov, aby vyvinula svoje schopnosti na pomoc iným poskytovateľom zdravotnej starostlivosti. Podľa GDPR bude zdravotnícka organizácia zodpovedná za údaje zodpovedná za akékoľvek neetické použitie poskytovateľom AI. Podľa Estes je kľúčom k tomu, aby podniky hľadali poskytovateľov AI, ktorí veria vo vlastníctvo algoritmov, nie údaje.

„GDPR bude nútiť podniky, aby venovali väčšiu pozornosť tomu, ako a kedy sa použijú ich údaje, kde sa ukladajú a čo sa s nimi stane po dokončení projektu, “ hovorí Estes. „To znamená spoluprácu s poskytovateľmi AI, ktorí pomáhajú definovať línie vlastníctva údajov a implementujú stratégie, ktoré chránia informácie o používateľoch, pričom však nebránia tomu, ako je schopný pomôcť rozvíjať úspech algoritmov AI.“

Bude GDPR brániť inovácii AI?

Odborníci, s ktorými sme hovorili, sa domnievajú, že hoci nové nariadenia budú spochybňovať súčasné postupy a zvyklosti spoločností, ktoré AI prijali, prinúti ich tiež nájsť nové spôsoby, ako inovovať a tiež zachovať rešpektovanie súkromia a etické normy.

„Po nadobudnutí účinnosti nariadenia GDPR prijímajú všetky hlavné softvérové ​​spoločnosti potrebné opatrenia, aby nielen zabezpečili súlad, ale aj inovovali a vymysleli nové možnosti na trhu, “ hovorí Burushkina spoločnosti GrowthChannel.

„GDPR nebude brzdiť inováciu, ale bude ju riadiť a motivovať, “ hovorí Drori zo spoločnosti Octopai. Medzitým bude GDPR tiež viesť k novým podnikom a technológiám, ktoré pomôžu organizáciám dosiahnuť a udržiavať súlad s GDPR.

Normy stanovené GDPR by v skutočnosti mohli pomôcť preklenúť zväčšujúcu sa medzeru v dôvere medzi poskytovateľmi a používateľmi služieb založených na AI. Estes verí, že GDPR spôsobí, že poskytovatelia AI aj tí, ktorí implementujú svoju technológiu, budú zodpovednejšie za to, ako a kde využívajú zdroje údajov, a budú ich tlačiť, aby používateľov uprednostňovali pred ziskom. „Na konci dňa, “ hovorí, „poskytovatelia umelej inteligencie by mali vlastniť len algoritmy - nie dáta -, aby inovovali svoje schopnosti a riešenia.“