Technika: inovácie, ai a etika

Niektoré z mojich obľúbených stretnutí na konferencii Techonomy začiatkom tohto mesiaca sa zaoberali etikou, hodnotami, inováciami a tým, ako v týchto oblastiach začala hrať umelá inteligencia.

Ľudské hodnoty pre technologizovaný vek

Zakladateľ technológie David Kirkpatrick začal konferenciu diskusiou o zameraní sa na ľudské hodnoty technológie. Prvá veľká konverzácia sa týkala „ľudských hodnôt“ s Julie Hannou, výkonnou predsedníčkou spoločnosti Kiva, ktorá hovorila o technológii ako demokratizačnej jednotke, a poznamenala, že väčšina sveta žije za menej ako 2 doláre na deň. Povedala, že „najväčšou formou spravodlivosti je spravodlivý prístup“.

Rev. Michael C. McFarland, pokladník z USA v severovýchodnej provincii Ježišovej spoločnosti, povedal, že sa musíme pýtať, kde je spravodlivosť, pokiaľ ide o spôsob použitia technológie, a premýšľať o predpokladoch zabudovaných do technológie. Obáva sa, že technológie na pracovisku, ktoré môžu priniesť vyššiu efektívnosť a produktivitu, sa často zavádzajú bez premýšľania o vplyve na pracovníkov, ktorí niekedy trpia ničivými následkami. Naliehal na publikum, aby začalo premýšľaním o skúsenostiach pracovníka.

Erica Kochi, výkonná riaditeľka pre inovácie a spoluzakladateľka spoločnosti UNICEF Innovation, poznamenala, že pred siedmimi rokmi neexistovalo dobré technologické riešenie zamerané na najchudobnejších z chudobných a jediným spoločným menovateľom bola textová správa. Jej skupina sa zamerala na vytváranie vlastných riešení pomocou textových správ a poznamenala, že aj keď existujú veľmi lacné telefóny s Androidom, OS bol postavený pre ľudí s dátovým plánom, nie pre tých, ktorí žijú z menej ako 2 dolárov na deň. „Ak sa chystáme stavať výrobky a služby pre ľudí, ktorí nie sme my, musíme o tom premýšľať z ich hľadiska, “ povedala.

Hanna hovorila o „nesprávnom výbere medzi účelom a ziskom, medzi misiou a produktom“ a uviedla, že kultúry riadené misiami sú lepšie miesta na prácu, zvyšujú lojalitu a pomáhajú budovať trvalé spoločnosti. Kochi povedal, že môžete robiť oboje, a povedal, že základný obchodný model musí byť v súlade so sociálnou zodpovednosťou, čo by sa nemalo robiť na strane.

McFarland hovoril o zameraní sa nielen na akcionárov, ale na všetky zainteresované strany v spoločnosti a pred rozpadom spoločnosti slúžil ako príklad spoločnosti Bell Labs spoločnosti AT&T. Znepokojuje ho neúspech v investovaní do dlhodobého výskumu a vývoja a povedal: „Musíme zmeniť kultúru toho, ako myslíme na podnikanie a čo to znamená byť úspešný.“

knižnica

Bol som ohromený neskoršou prednáškou Tonyho Marxa, prezidenta Verejnej knižnice v New Yorku, ktorý povedal, že na rozdiel od toho, čo tvrdia, že niektoré knižnice odchádzajú, videl novú technológiu, ktorá ponúka najväčšiu príležitosť v histórii pre aké knižnice vždy kandidovali - pomáhali ľuďom získať prístup k informáciám.

Poznamenal, že knižnice boli v minulosti brzdené fyzickými a finančnými obmedzeniami, ktoré viedli k tomu, že sa ľudia dostali do zbierok.

Knižnice môžu mať vplyv tromi veľkými spôsobmi. Prvým je spojenie ľudí a poznamenal, že jedna tretina Američanov nemá doma pripojenie na internet, ale knižnice môžu slúžiť aj na školenie ľudí, ako používať počítače, ako aj na kódovanie.

Povedal, že zatiaľ čo dnešné vyhľadávacie nástroje sú „neuveriteľné“, majú obmedzenia a poznamenal, že množstvo základných informácií o kvalite, ktoré vznikli počas tisícročia úsilia, stále nie je k dispozícii. Jeho víziou je ponúknuť patrónom knižnice „každú knihu, každý obrázok, každý dokument a každý archív kdekoľvek na svete zadarmo“.

Všetko sa vracia k staromódnemu ponímaniu knižnice ako nadácie, povedal Marx a naliehal na nás, aby sme si predstavili, či by všetok talent na svete mal schopnosť učiť sa, tvoriť a inovovať, akokoľvek si vybrali. „Máme nástroje, vďaka ktorým je nezastaviteľný, “ povedal. "Poďme na to."

Bohovia v krabiciach: Všemohúce algoritmy a skryté hodnoty

Oren Boiman, spoluzakladateľ a výkonný riaditeľ spoločnosti Magisto, ktorý používa AI na úpravu videí, uviedol, že „počítače sa stávajú čoraz viac čiernymi skrinkami“, pričom algoritmy vytvorené neurónovými sieťami bijú najlepšie algoritmy navrhnuté programátormi. Hoci tieto algoritmy dokážu robiť rozhodnutia oveľa lepšie ako ľudia, nikto celkom nerozumie, ako to robia.

Vivienne Ming, spoluzakladateľka a výkonná predsedníčka spoločnosti Socos, ktorá predáva softvér, ktorý pomáha deťom učiť sa posielaním jedného odporúčania denne rodičom, hovorila o vytvorení inteligentných algoritmov. Povedala, že veľa práce s hlbokými neurálnymi sieťami závisí od tréningových sád, a hovorila o algoritme rozpoznávania tváre, ktorý nerozpoznal čierne tváre kvôli prirodzenej zaujatosti v tréningu. „Počítače sú ako ľudia, “ povedala. „Záleží na tom, ako ich vychovávate.“

Hlavný vedec Yahoo Ron Brachman uviedol, že hoci na opis strojov používame antropomorfizované výrazy, medzi ľuďmi a počítačmi je stále zásadný rozdiel. Ľudia robia rozhodnutia na základe svojich potrieb a túžob, čo je veľmi odlišné od spôsobu, akým počítačové systémy v súčasnosti rozhodujú.

Boiman vysvetlil, ako je vo väčšine týchto „čiernych skriniek“ všetko prepojené a malé zmeny vo vstupe môžu spôsobiť veľké a niekedy chaotické rozdiely vo výsledkoch, napríklad keď sa videá stanú vírusovými. Povedal, že to robí veci nepredvídateľnými a je ťažké vysledovať veci späť k tomu, čo sa pôvodne stalo. Brachman poznamenal, že keďže nemáme spôsob, ako ovládať to, čo sa deti učia, to isté platí pre počítačové mechanizmy.

Inteligentné obchodné stroje

Diskusia o AI a etické problémy, ktoré sa objavujú, pokračovali na ďalšom paneli s vedúcimi predstaviteľmi niektorých špecializovaných softvérových spoločností. Babak Hodjat, spoluzakladateľ a hlavný vedecký pracovník spoločnosti Sentient Technologies pre strojové vzdelávanie, uviedol, že otázka etiky je trochu rozptyľujúca, pokiaľ ide o AI, a že etika ovplyvňuje aj rôzne druhy technológií, od smartfónov po skóre FICO., George John, predseda a zakladateľ programovej reklamnej spoločnosti Rocket Fuel, poznamenal výhody technológie a povedal: „Ak AI skutočne funguje, ľudia by sa mali dostať domov skôr.“ Hovoril o potrebe nových riadiacich schopností a riadení ľudí a inteligentných strojov. Hovoril tiež o hľadaní aplikácií AI, ktoré nie sú vhodné len pre veľké spoločnosti, ale môžu byť prínosom aj pre jednotlivcov.

Jag Duggal, vedúci oddelenia produktového manažmentu spoločnosti Quantcast pre oblasť merania publika, uviedol, že ide o nástroje, ktoré majú zvýšiť produktivitu, urobiť viac vecí a rozšíriť našu kapacitu. Uviedol, že existuje nespočetné množstvo inovácií a produktivity, ktoré z toho môžu vyplynúť, a povedal, že aj keď existujú obavy z toho, že technológia bude príliš dobrá, je oveľa viac znepokojený obmedzeniami technológie.

Obzvlášť ho znepokojovali stimuly a čo sa stane, keď algoritmy strojového učenia skončia po nesprávnych stimuloch. Napríklad poznamenal, ako na trhu s umiestňovaním reklamy online dodávatelia elektronického obchodu pripisovali kredit poslednej reklame, ktorú osoba videla pred zadaním objednávky. To vedie k zacieľovaniu viacerých reklám po tom, čo osoba už navštívila webové stránky elektronického obchodu a často potom, ako sa niekto rozhodol kúpiť; inými slovami, keď môže dôjsť k premrhaniu reklamy. Quantcast sa snaží uviesť lepšie príklady.

Jon Stein, zakladateľ a generálny riaditeľ investičnej spoločnosti Betterment založenej na AI, hovoril o dobrom, ktoré technológia dokáže, a súhlasil s tým, že je dôležité stanoviť jasné stimuly. Hovoril o dodržiavaní fiduciárnych štandardov, ako je konanie v najlepšom záujme vášho zákazníka, a uviedol, že transparentnosť musí hrať veľkú úlohu, aby ľudia mohli pochopiť, kde môžu nastať konflikty.

Stein povedal, že technológia časom sťaží byť zločincom, ale Duggal povedal, že je skeptickejší, pretože podvodníci majú tiež technológiu. Napriek tomu je ohromený potenciálom technológie a citoval príklad projektu od spoločnosti Google, kde AI dokáže identifikovať rakoviny v krtkoch na koži. Povedal, že sa obáva „nesprávneho pochopenia“ problému zo strany oponentov technológie.