Obsah:
Video: Milestones : ENGIE in 2019 (November 2024)
Zariadenie Amazon Echo nedávno zaznamenalo súkromnú konverzáciu používateľa a odoslalo ho jednému z jeho kontaktov bez ich vedomia a súhlasu. To (opäť) vzbudzuje obavy o bezpečnosť a súkromie inteligentných rečníkov. Ako sa neskôr ukázalo, neobvyklé správanie Alexy nebolo súčasťou zlovestného špionážneho sprisahania - skôr to bolo spôsobené radom prepojených zlyhaní pripisovaných spôsobu práce inteligentného reproduktora.
Scenár je okrajovým prípadom, typom incidentu, ktorý sa stáva veľmi zriedka. Je to však tiež zaujímavá štúdia v rámci limitov technológie umelej inteligencie, ktorá poháňa Echo a ďalšie takzvané „inteligentné“ zariadenia.
Príliš veľa dôvery v cloud
Aby sme porozumeli hlasovým príkazom, inteligentné reproduktory, ako sú Echo a Google Home, sa spoliehajú na algoritmy hlbokého učenia, ktoré vyžadujú rozsiahly výpočtový výkon. Pretože nemajú výpočtové prostriedky na vykonanie úlohy lokálne, musia poslať údaje na cloudové servery výrobcu, kde algoritmy AI transformujú údaje reči na text a spracovávajú príkazy.
Inteligentné reproduktory však nemôžu poslať všetko, čo počujú, na svoje cloudové servery, pretože by si to vyžadovalo, aby výrobca ukladal na svoje servery nadmerné množstvo údajov - väčšina z nich by bola zbytočná. Náhodné zaznamenávanie a ukladanie súkromných rozhovorov, ktoré sa konajú v domácnostiach používateľov, by tiež predstavovalo problém s ochranou súkromia a mohlo by priviesť výrobcov do problémov, najmä s novými nariadeniami o ochrane osobných údajov, ktoré prísne obmedzujú spôsob, akým technické spoločnosti ukladajú a používajú údaje.
Preto sú inteligentné reproduktory navrhnuté tak, aby sa spustili potom, ako používateľ vysloví slovo, ktoré prebudí, napríklad „Alexa“ alebo „Ahoj Google“. Až po vypočutí slova prebudenia začnú vysielať zvukový vstup svojich mikrofónov do cloudu na analýzu a spracovanie.
Aj keď táto funkcia zlepšuje súkromie, predstavuje to svoje vlastné výzvy, ako zdôraznil nedávny incident Alexa.
„Ak sa slovo - alebo niečo, čo znie veľmi podobne - pošle v polovici rozhovoru, Alexa nebude mať žiadny z predchádzajúcich súvislostí, “ hovorí Joshua March, generálny riaditeľ spoločnosti Conversocial. „V tom momente je veľmi ťažké počúvať akékoľvek príkazy súvisiace so zručnosťami, ktoré ste nastavili (napríklad ich aplikácia na odosielanie správ). Z väčšej časti sa súkromie výrazne zvyšuje obmedzením kontextu, ktorému Alexa venuje pozornosť (ako napríklad nezaznamenáva ani nepočúva žiadnu z vašich bežných konverzácií), hoci v tomto prípade to zlyhalo. ““
Pokroky v oblasti výpočtovej techniky môžu pomôcť pri riešení tohto problému. Keď sa AI a hlboké vzdelávanie dostanú do stále väčšieho počtu zariadení a aplikácií, niektorí výrobcovia hardvéru vytvorili procesory špecializované na vykonávanie úloh AI bez prílišného spoliehania sa na zdroje cloudu. Procesory Edge AI môžu pomôcť zariadeniam, ako je napríklad Echo, lepšie porozumieť a spracovávať konverzácie bez toho, aby porušovali súkromie používateľov tým, že pošlú všetky údaje do cloudu.
Kontext a zámer
Okrem prijímania rôznych a roztrieštených častí zvuku sa Amazonská umelá inteligencia snaží pochopiť nuansy ľudskej konverzácie.
„Aj keď za posledných niekoľko rokov došlo k veľkému pokroku v oblasti hlbokého učenia, ktorý softvéru umožnil lepšie porozumieť reču a obrazom ako kedykoľvek predtým, stále existuje veľa obmedzení, “ hovorí March. „Hlasoví asistenti dokážu rozpoznať slová, ktoré hovoríte, nemusia mať však vôbec žiadne skutočné porozumenie významu alebo zámeru, ktorý je za tým. Svet je zložité miesto, ale každý súčasný systém AI dokáže zvládnuť iba veľmi konkrétne, úzke prípady použitia. ““
Napríklad my, ľudia, máme mnoho spôsobov, ako zistiť, či je namierená veta voči nám, napríklad tón hlasu alebo vizuálne narážky - povedzme, akým smerom sa hovorí rečník.
Naopak, Alexa predpokladá, že je príjemcom akejkoľvek vety, ktorá obsahuje slovo „A“. To je dôvod, prečo ho používatelia často spúšťajú náhodne.
Súčasťou problému je to, že zveličujeme schopnosti súčasných aplikácií AI, často ich staviame na rovnakú úroveň s ľudskou mysľou alebo nad ňu a do nich vkladáme prílišnú dôveru. Preto sme prekvapení, keď veľkolepo zlyhajú.
„Súčasťou problému je aj to, že sa na trhu používa výraz„ AI “tak agresívne, že spotrebitelia nedôverujú množstvu viery vo výrobky, ktoré sú s nimi spojené, “ hovorí Pascal Kaufmann, neurovedec a zakladateľ spoločnosti Starmind. „Tento príbeh ilustruje, že Alexa má veľa schopností a relatívne obmedzené chápanie toho, ako a kedy by sa mali primerane uplatniť.“
Algoritmy hlbokého učenia sú náchylné na zlyhanie, keď čelia nastaveniam, ktoré sa odchyľujú od údajov a scenárov, pre ktoré sú trénované. „Jednou z definujúcich vlastností AI na ľudskej úrovni bude sebestačná kompetencia a skutočné porozumenie obsahu, “ hovorí Kaufmann. „Je to rozhodujúca súčasť skutočného úsilia AI považovať za inteligentnú a životne dôležitú pre jej rozvoj. Vytvorenie digitálnych asistentov, ktorí si uvedomujú sami seba a ktoré im prinášajú úplné porozumenie ľudskej prirodzenosti, bude znamenať ich transformáciu zo zábavnej novinky na skutočne skutočnú. užitočný nástroj. ““
Vytváranie AI na ľudskej úrovni, ktoré sa tiež označuje ako všeobecné AI, sa však ľahšie povie, ako urobí. Po mnoho desaťročí sme si mysleli, že je to hneď za rohom, len aby sme sa zdesili, pretože technologický pokrok ukázal, aká komplikovaná je ľudská myseľ. Mnoho odborníkov sa domnieva, že prenasledovanie všeobecnej AI je zbytočné.
Medzitým úzka umelá inteligencia (ako sú opísané súčasné technológie umelej inteligencie) stále predstavuje veľa príležitostí a môže sa stanoviť, aby sa predišlo opakujúcim sa chybám. Aby bolo jasné, hlboké vzdelávanie a strojové učenie sú stále rodiace sa a spoločnosti ako Amazon neustále aktualizujú svoje algoritmy AI tak, aby riešili prípadové problémy vždy, keď sa tak stane.
Čo musíme urobiť
„Toto je mladé, vznikajúce pole. Porozumenie prirodzenému jazyku je obzvlášť v plienkach, takže tu môžeme veľa urobiť, “ hovorí Eric Moller, technický riaditeľ spoločnosti Atomic X.
Moller verí, že algoritmy hlasovej analýzy AI môžu byť vyladené tak, aby lepšie porozumeli intonácii a skloňovaniu. „Použitie slova„ Alexa “v širšej vete znie inak ako volanie alebo príkaz. Alexa by sa nemala prebúdzať, pretože ste pomenovali toto meno, “ hovorí Moller. Pri dostatočnom školení by AI mala byť schopná rozlíšiť, ktoré konkrétne tóny sú nasmerované na inteligentného reproduktora.
Technické spoločnosti môžu tiež trénovať svoje AI, aby dokázali rozlíšiť, keď prijímajú šum na pozadí, na rozdiel od priameho rozhovoru. "Chatovanie na pozadí má jedinečný zvukový" podpis ", že ľudia sú veľmi dobrí pri výbere a selektívnom ladení. Nie je dôvod, prečo nemôžeme trénovať modely AI, aby robili to isté, " hovorí Moller.
Asistenti AI by mali preventívne hodnotiť vplyv rozhodnutí, ktoré robia, a zapojiť ľudské rozhodnutia v prípadoch, keď chcú urobiť niečo, čo je potenciálne citlivé. Výrobcovia by mali do svojich technológií upiecť viac záruk, aby zabránili odosielaniu citlivých informácií bez výslovného a jasného súhlasu používateľa.
„Aj keď Amazon uviedol, že sa Alexa pokúsil potvrdiť činnosť, ktorú interpretoval, niektoré akcie je potrebné starostlivo riadiť a držať na vyššej úrovni potvrdzovania zámeru používateľa, “ hovorí Sagi Eliyahi, generálny riaditeľ spoločnosti Tonkean. „Ľudia majú rovnaké problémy s rozpoznávaním reči, niekedy občas nevyhovujú žiadostiam. Na rozdiel od Alexa je však pravdepodobnejšie, že človek absolútne potvrdí, že rozumie nejasnej žiadosti, a čo je dôležitejšie, odhaduje pravdepodobnosť žiadosti v porovnaní s predchádzajúcimi požiadavkami.“
Medzitým…
Zatiaľ čo technické spoločnosti dokončujú svoje aplikácie AI, aby znížili počet chýb, používatelia budú musieť urobiť konečné rozhodnutie o tom, do akej miery chcú byť vystavení potenciálnym chybám, ktoré môžu spôsobiť ich zariadenia poháňané AI.
„Tieto príbehy ukazujú konflikt s množstvom údajov, ktoré sú ľudia ochotní zdieľať proti prísľube nových technológií AI, “ hovorí Doug Rose, odborník na vedu o údajoch a autor niekoľkých kníh o AI a softvéri. „Môžete Siriho dráždiť, že je pomalá. Najlepším spôsobom, ako dosiahnuť väčšiu inteligenciu, je napadnutie našich súkromných rozhovorov. Kľúčovou otázkou v nasledujúcom desaťročí je teda to, do akej miery umožníme týmto agentom AI nahliadnuť do nášho správania. ?"
„Ktorá rodina umiestni pomocníka v obývacej izbe a nechá túto osobu stále počúvať rozhovor?“ hovorí Kaufmann, neurovedec zo Starmindu. „Mali by sme aspoň uplatňovať rovnaké normy na takzvané„ AI “zariadenia (ak nie vyššie), aké uplatňujeme aj na ľudské inteligentné bytosti, pokiaľ ide o súkromie, utajenie alebo spoľahlivosť.“
