Microsoft, ľad a problémy s „neutrálnou“ technológiou

Keď hľadáte slová, ktoré opíšu IBM, myslíte si, že sú solídne a stabilné, ale tiež sú zafarbené. Počas druhej svetovej vojny, pod vedením svojho predsedu a generálneho riaditeľa Thomasa Watsona, IBM pomáhala pri mechanizácii administratívnej práce Tretej ríše.

Nemecká dcérska spoločnosť spoločnosti v spolupráci a koordinácii materskej spoločnosti zriadila koncentračné tábory s prenajatými strojmi na triedenie kariet, ktoré udržovala, upravovala aplikácie a vybavovala papierom na ich uchovávanie v dierovacích kartách. Informácie, ktoré tieto stroje Hollerith zverejnili, zohrali úlohu pri umiestňovaní Židov za ploty, ktoré milióny neunikli.

Dnes sú tisíce detí prisťahovalcov a žiadateľov o azyl vo svojich vlastných klietkach s reťazami v amerických väzenských strediskách s čiarovými kódmi omotanými okolo zápästí. Spoločnosti za technológiou, ktorá ich sleduje - alebo nemá - sa nedočkajú tejto skutočnosti pochváliť.

V januári Microsoft prehovoril o partnerstve s imigračnými a colnými orgánmi (ICE), ktoré využívajú cloudovú službu vlády Azurovej vlády spoločnosti Redmond. Tento príspevok sa objavil tento týždeň uprostred rozruchu vládnej politiky oddelenia detí na hranici a na krátku dobu sa z nej vytratila akákoľvek zmienka o ICE. Zdroje so znalosťou problému informovali spoločnosť PCMag, že zamestnanec ho odstránil po tom, čo videl komentár v sociálnych médiách; Krátko nato bol obnovený.

Zdroj tiež uviedol, že neverí, že sa služby Azure alebo Azure využívajú na oddelenie rodín na južných hraniciach, čo generálny riaditeľ Satya Nadella zopakoval v liste, v ktorom odsudzuje administratívnu politiku oddeľovania rodín. Povedal, že Azure používa ICE iba na staršie úlohy súvisiace s poštou, kalendárom, správami a správou dokumentov.

Skutočne si však nemôže byť istý, ako presne agentúra využíva svoje služby. Niektorí zamestnanci spoločnosti Microsoft zjavne súhlasia; Napísali otvorený list, v ktorom požiadali spoločnosť, aby ukončila svoju zmluvu s ICE. Vývojári na serveri GitHub, ktorý spoločnosť Microsoft nedávno získala, urobili to isté.

V tomto prípade musia technologické spoločnosti robiť rozhodnutia z morálnych dôvodov; chcú obchodovať s vládnymi subjektmi, ktoré sa zaoberajú prácou, ktorú Vysoký komisár OSN pre ľudské práva označil za neúnosný?

Diskusia o rozpoznávaní obrázkov

Spoločnosť Vigilant Solutions podpísala zmluvu so spoločnosťou ICE, hoci mala nižší profil, a to na jej program na rozpoznávanie poznávacích značiek (LPR), ktorý sa používa na vyhľadávanie a sledovanie ľudí v reálnom čase. „Naše riešenie LPR nie je len na nájdenie ukradnutých vozidiel. Je to pre toto a ešte oveľa viac, “ hovorí web spoločnosti.

Spoločnosť Vigilant Solutions neodpovedala na otázku o jej práci so spoločnosťou ICE. A nie je to jediná spoločnosť, ktorá ostáva pevne presvedčená o technológii rozpoznávania obrazu, ktorú používajú orgány činné v trestnom konaní a vládne agentúry.

Amazon's Rekognition využíva hĺbkové vzdelávanie na odhaľovanie neživých predmetov, ľudí a aktivít. Hovorca Amazonu pri otázke legálneho, ale pravdepodobne spoločensky pochybného použitia, ak by sa ICE stal zákazníkom, uznáva potenciál zneužitia, ale uviedol, že Rekognition podlieha pravidlám akceptovateľného používania webových služieb Amazon.

Čítanie tejto politiky sa blíži spôsobmi, ktoré by zastavili nevhodné správanie. Najrelevantnejšia časť by zakázala „Akékoľvek činnosti, ktoré sú nezákonné, porušujú práva ostatných alebo ktoré môžu byť škodlivé pre ostatných, naše operácie alebo povesť“.

Rekonštrukciu ICE nepoužíva, ale používa ju niekoľko policajných oddelení, čo znepokojuje niektorých akcionárov Amazonu, ktorí požiadali spoločnosť, aby prestali predávať Rekognition orgánom činným v trestnom konaní.

NBC News odhalil množstvo technologických spoločností, ktoré majú zmluvy s ICE, vrátane HP Enterprise, Dell a Motorola. Jedna spoločnosť, ktorá pomáha ICE, by nemala byť žiadnym prekvapením: Palantir. Podľa dokumentov, ktoré získala agentúra Intercept, má pre spoločnosť ICE Investigative Case Management dohodu o objeme 41 miliárd dolárov, ktorá je pre agentúru „kritická z hľadiska poslania“.

Palantirov spoluzakladateľ a predseda Peter Thiel je od svojej kampane stabilným podporovateľom Donalda Trumpa. Samotný Thiel nehovoril o situácii na hraniciach, ale v roku 2008 venoval protimigrantskú skupinu NumbersUSA dar vo výške 1 milión dolárov, ktorý sa venuje znižovaniu legálneho aj nelegálneho prisťahovalectva. Thiel očividne nevidí žiadnu iróniu v tom, že sa stal občanom Nového Zélandu obchádzaním zvyčajného procesu.

Vládne zmluvy sú spoľahlivo lukratívne, ale ťažia z činností, ktoré sú také podobné činnostiam, ktoré viedli k niektorým z najhorších zverstiev v histórii, za príliš vysokú cenu. Stačí sa opýtať spoločnosti Google, ktorá sa sťažuje na svoju prácu s Pentagonom na kontroverznom programe pre robotníkov. Sociálny kapitál Silicon Valley získal v priebehu rokov a jeho schopnosti a zručnosti by sa mali dať na odstránenie hrôzy našej minulosti pre lepšiu budúcnosť.