Dilema výučby etiky pre vozidlá s vlastným riadením | doug newcomb

Minulý týždeň netrvalo dlho v aute s vlastným pohonom spoločnosti Google, aby sme si uvedomili, že táto technológia nie je pripravená len na cestu, ale v niektorých prípadoch robí lepšie rozhodnutia ako vodiči - napríklad spomalenie a poddajnosť pre cyklistov.

Aby sa však autonómna technológia mohla viac než len plaziť po uliciach mesta, bude musieť urobiť také kritické rozhodnutia, ktoré sú skúsenosťami s ľudskými vodičmi druhoradé. A možno bude musieť rokovať o etických dilemách, ako aj o zložitých jazdných situáciách.

Ako príklad možno uviesť skutočnosť, že technológia s vlastným pohonom pridáva nové zvraty k storočnej filozofickej dileme známej ako „problém s vozíkom“. V tomto scenári sa osoba musí rozhodnúť, či potiahne páku na križovatke Y a prejde jednu osobu, ktorá je priviazaná k trati, aby zachránila päť ľudí priviazaných k susednej trati.

V prípade vozidiel s vlastným pohonom sa toto prepracovalo ako „problém tunela“. Predstavte si, že autonómne vozidlo cestuje po horskej ceste s jedným jazdným pruhom a chystá sa vstúpiť do tunela, keď dieťa neúmyselne križuje na svoju cestu tesne pred vstupom, takže auto musí urobiť druhé v poradí. Pokračuje to rovno a zasiahne dieťa? Alebo sa to zahne a zasiahne tunel, zraní alebo zabije cestujúcich na aute?

Deň po tom, ako som jazdil v samohybnom aute spoločnosti Google v Mountain View v Kalifornii, som sa zúčastnil udalosti v severoamerickom výskumnom a vývojovom stredisku Mercedes-Benz v blízkom Sunnyvale. Medzi niekoľkými témami, ktoré sa počas celého dňa venovali, predstavil profesor Stanford a vedúci univerzitného programu Revs Chris Gerdes prezentáciu, ktorá sa ponorila do témy etiky a autonómnych automobilov.

Gerdes odhalil, že Revs spolupracuje s Stanfordským filozofickým oddelením v etických otázkach týkajúcich sa autonómnych vozidiel, zatiaľ čo univerzita začala aj sériu testov, aby určila, aké rozhodnutia robotický automobil môže urobiť v kritických situáciách.

Keď sa filozofia ujme

V rámci svojej prezentácie Gerdes zdôvodnil, prečo potrebujeme filozofov, aby sme pomohli študovať tieto problémy. Poukázal na to, že etické problémy s autami s vlastným riadením sú pohyblivým cieľom a „nemajú žiadne hranice“, hoci je na inžinieroch, aby „problém vyriešili“.

Aby to bolo možné urobiť, a posunúť etiku technológie autonómneho riadenia nad rámec obyčajnej akademickej diskusie, Revs uskutočňuje experimenty s testovacím vozidlom Stanford's x1 tým, že kladie prekážky na cestu. Poznamenal, že umiestnenie rôznych priorít do softvérového programu vozidiel viedlo k „veľmi odlišnému správaniu“.

Gerdes tvrdil, že toto vznikajúce etické programovanie softvéru s vlastným riadením by sa mohlo stať „základnou požiadavkou“ pre túto technológiu - a nie niečo, o čom sa len diskutuje v vežiach zo slonoviny. Dodal, že etika nie je niečo, čo môžu výrobcovia automobilov získavať od dodávateľa „úrovne 1“, ako je napríklad palivové čerpadlo alebo obrazovka v palubnej doske. Nedávny škandál spoločnosti VW Dieselgate to určite ukázal.

Skúsení ľudskí vodiči sú už roky naprogramovaní tak, aby sa zaoberali rozhodnutiami druhej sekundy - a stále nie vždy robia správne. Ale po tom, čo som videl, ako vozidlá s vlastným riadením spoločnosti Google reagujú na každodenné rozhodnutia, a keď som počul o práci, ktorú Stanford Revs a oddelenie filozofie školy vykonávajú, vsádzam na to, že autá nakoniec urobia inteligentnejšie rozhodnutia.