Obsah:
Video: Policie ČR: Pátráme po pachateli dopravní nehody (Septembra 2024)
12. marca spustila spoločnosť MIT Technology Review príbeh, ktorý sa začal takto: „Je to rok 2023 a autá s vlastným pohonom konečne navigujú ulicami nášho mesta. Prvý z nich prvýkrát zasiahol a zabil chodca obrovské mediálne pokrytie. Je pravdepodobné, že bude prebiehať žaloba na vysokej úrovni, ale aké zákony by sa mali uplatňovať? “
Aj keď sa incident stále vyšetruje, rozruch, ktorý z toho vyplynul, naznačuje, ako ďaleko sme od úspešnej integrácie umelej inteligencie do našich kritických úloh a rozhodnutí.
V mnohých prípadoch problém nie je s AI, ale s našimi očakávaniami a porozumením. Podľa Wired v minulom roku zomrelo pri dopravných nehodách iba v USA takmer 40 000 ľudí - z toho 6 000 chodcov. Len veľmi málo (ak vôbec) sa stalo titulkami, ako to urobila udalosť v Ubere.
Jedným z dôvodov, prečo havária v Ubere spôsobila taký rozruch, je to, že všeobecne očakávame nové technológie, aj keď sa stále vyvíjajú. Pod ilúziou, že čistá matematika riadi algoritmy umelej inteligencie, máme sklon veriť svojim rozhodnutiam a sú šokovaní, keď robia chyby.
Dokonca aj vodiči za volantom samohybných automobilov sa nechali hlídať. Zábery z incidentu v Ubere ukázali, že vodič bol rozptyľovaný, keď sa pozrel dolu pred nehodou.
V roku 2016 vodič modelu Tesla S, ktorý pracuje v režime Autopilot, zomrel po náraze vozidla do nákladného auta. Vyšetrovanie zistilo, že vodič mohol v čase kolízie sledovať film Harryho Pottera.
Očakávania dokonalosti sú vysoké a sklamania sú silné. Kritici rýchlo dokázali po incidente spochybniť celý projekt Uberovho vozidla s vlastným riadením; spoločnosť následne dočasne pozastavila testovanie motorových vozidiel.
AI nie je človek
Medzi kritikou, ktorá nasledovala po havárii, bolo to, že ľudský vodič by sa incidentu ľahko mohol vyhnúť.
„nevyskočila z kríkov. Uskutočňovala jasný pokrok vo viacerých jazdných pruhoch, ktoré mali byť v systéme, aby ich vyzdvihli, “ povedal jeden expert CNN.
Má pravdu. Skúsený ľudský vodič by ju pravdepodobne uvidel. Algoritmy AI však nie sú ľudské.
Algoritmy hlbokého učenia nájdené vo vozidlách s vlastným riadením používajú početné príklady na „učenie“ sa pravidiel svojej domény. Keď trávia čas na cestách, klasifikujú informácie, ktoré zhromažďujú, a naučia sa zvládať rôzne situácie. To však nevyhnutne neznamená, že používajú rovnaký rozhodovací proces ako vodiči. Preto by v niektorých situáciách mohli mať lepšiu výkonnosť ako ľudia a zlyhávať v tých, ktoré sa javia pre človeka bezvýznamné.
Dokonalým príkladom je algoritmus klasifikácie obrázkov, ktorý sa naučí rozpoznávať obrázky analýzou miliónov označených fotografií. V priebehu rokov sa klasifikácia obrázkov stala veľmi účinnou a v mnohých prostrediach prevyšuje ľudí. To však neznamená, že algoritmy chápu kontext obrázkov rovnako, ako to robia ľudia.
Napríklad, výskum expertov z Microsoftu a Stanfordskej univerzity zistil, že algoritmus hlbokého učenia trénovaný s obrázkami bielych mačiek veril s vysokým stupňom presvedčenia, že fotografia bieleho psa predstavuje mačku, omyl, ktorému by sa ľudské dieťa mohlo ľahko vyhnúť. V neslávnom prípade algoritmus klasifikácie obrázkov Google omylom klasifikoval ľudí tmavej farby pleti ako gorily.
Tieto situácie sa nazývajú „okrajové prípady“, na ktoré neboli algoritmy AI vyškolené, aby ich zvládli, zvyčajne pre nedostatok údajov. Nehoda v Ubere je stále predmetom vyšetrovania, ale niektorí experti na AI naznačujú, že by to mohol byť ďalší okrajový prípad.
Hlboké vzdelanie musí prekonať mnohé výzvy, aby sa mohlo uplatniť v kritických situáciách. Ale jeho zlyhania by nás nemali odradiť. Musíme prispôsobiť svoje vnímanie a očakávania a prijať skutočnosť, že každá veľká technológia zlyhá počas jej vývoja. AI sa nelíši.
