Tehnonomie: inovație, ai și etică

Unele dintre sesiunile mele preferate la conferința Techonomy la începutul acestei luni s-au ocupat de etică, valori, inovație și modul în care inteligența artificială a intrat în joc în aceste domenii.

Valorile umane pentru o epocă tehnologizată

Fondatorul Techonomy, David Kirkpatrick, a început conferința cu o discuție despre accentul pus pe valorile umane ale tehnologiei. Prima mare conversație a fost despre „valorile umane” cu Julie Hanna, președintele executiv al Kiva, care a vorbit despre tehnologie ca o forță democratizantă și a remarcat că o mare parte a lumii trăiește cu mai puțin de 2 dolari pe zi. Ea a spus că „cea mai mare formă de justiție este accesul corect”.

Rev. Michael C. McFarland, trezorier, SUA, provincia de nord-est a Societății lui Isus, a spus că trebuie să ne întrebăm unde este justiția, în ceea ce privește modul de utilizare a tehnologiei și să ne gândim la presupunerile încorporate în tehnologie. Îi îngrijorează faptul că tehnologia la locul de muncă, care poate produce o eficiență și o productivitate mai mare, este adesea implementată fără a se gândi la impactul asupra lucrătorilor, care suferă uneori impacturi devastatoare. El a îndemnat publicul să înceapă gândindu-se la experiența lucrătorului.

Erica Kochi, director executiv pentru inovare și co-fondator al UNICEF Innovation, a menționat că, în urmă cu șapte ani, nu exista o soluție tehnologică bună, destinată celor mai săraci dintre săraci, iar singurul numitor comun era mesajul text. Grupul ei s-a concentrat pe crearea propriilor soluții folosind mesaje text și a menționat că, deși există telefoane Android foarte ieftine, sistemul de operare a fost creat pentru persoanele cu un plan de date, nu pentru cei care trăiesc cu mai puțin de 2 dolari pe zi. „Dacă vom crea produse și servicii pentru oameni care nu sunt noi, trebuie să ne gândim la asta din punctul lor de vedere”, a spus ea.

Hanna a vorbit despre „alegerea falsă între scop și profit, între misiune și produs” și a spus că culturile orientate spre misiune sunt locuri mai bune de muncă, generează mai multă loialitate și contribuie la construirea de companii de durată. Kochi a spus că puteți face ambele, și a spus că modelul principal de afaceri trebuie să fie unul aliniat la responsabilitatea socială, ceea ce nu ar trebui să fie ceva care se face pe plan lateral.

McFarland a vorbit despre concentrarea nu numai asupra acționarilor, ci asupra tuturor părților interesate dintr-o companie, și a folosit ca exemplu Bell Labs de la AT&T înainte de ruperea companiei. El este îngrijorat de eșecul de a investi în cercetare și dezvoltare pe termen lung și a spus că „trebuie să schimbăm cultura despre cum gândim despre afaceri și despre ce înseamnă să ai succes”.

Bibliotecă

Am fost impresionat într-o discuție ulterioară de Tony Marx, președintele Bibliotecii Publice din New York, care a spus că, spre deosebire de presupunerea unora au că bibliotecile pleacă, a văzut că tehnologia nouă oferă cea mai mare oportunitate din istorie pentru ceea ce bibliotecile. au fost întotdeauna pentru - ajutorarea oamenilor să acceseze informații.

El a menționat că, în trecut, bibliotecile erau reținute de constrângerile fizice și financiare de a aduce oamenii la colecții, dar a spus că acest lucru se schimbă.

Bibliotecile pot avea un impact în trei moduri mari, a spus el. Primul este doar prin conectarea oamenilor și a menționat că o treime dintre americani nu au conectivitate la internet acasă, dar bibliotecile pot servi, de asemenea, pentru a instrui oamenii cum să folosească calculatoarele, precum și cum să codeze.

El a spus că, deși motoarele de căutare de astăzi sunt „de necrezut”, acestea au limitări și a menționat că o mulțime de informații de bază de calitate produse de milenii de efort încă nu sunt disponibile. El a spus că viziunea sa este să ofere gratuit patronilor bibliotecii „fiecare carte, fiecare imagine, fiecare document și fiecare arhivă de oriunde în lume în mod gratuit”.

Totul revine la noțiunea de modă veche a unei biblioteci ca fundație, a spus Marx și ne-a îndemnat să ne imaginăm dacă tot talentul din lume are capacitatea de a învăța, de a crea și de a inova, oricât ar alege. „Avem instrumentele pentru a face imposibil de stopat”, a spus el. "S-o facem."

Zeii în cutii: algoritmi atotputernici și valori ascunse

Oren Boiman, co-fondator și CEO al Magisto, care folosește AI pentru a edita videoclipuri, a spus că „calculatoarele devin din ce în ce mai multe cutii negre”, cu algoritmi creați de rețelele neuronale care bate cel mai bun algoritm proiectat de programatori. Deși acești algoritmi pot lua decizii mult mai bine decât oamenii, nimeni nu înțelege foarte bine cum fac acest lucru.

Vivienne Ming, co-fondatoare și președinte executiv al Socos, care vinde software care îi ajută pe copii să învețe trimitând o recomandare pe zi părinților lor, a vorbit despre crearea algoritmilor inteligenți. Ea a spus că o mare parte din munca cu rețele neuronale profunde depinde de seturi de antrenament și a vorbit despre un algoritm de recunoaștere a feței care nu recunoaște fețele negre din cauza unei prejudecăți inerente în cadrul antrenamentului. "Calculatoarele sunt la fel ca oamenii", a spus ea. „Depinde de modul în care îi crești.”

Ron Brachman, cercetătorul șef Yahoo, a spus că, deși folosim termeni antropomorfizați pentru a descrie mașinile, există în prezent o diferență fundamentală între oameni și computere. Oamenii iau decizii în funcție de nevoile și dorințele lor, care este foarte diferită de modul în care sistemele de calcul iau decizii în aceste zile.

Boiman a explicat cum în majoritatea acestor „cutii negre” totul este conectat, iar micile schimbări de intrare pot face diferențe mari și uneori haotice în rezultate, cum ar fi atunci când videoclipurile merg virale. El a spus că acest lucru face imprevizibil lucrurile și este greu de urmărit lucrurile înapoi la ceea ce s-a întâmplat inițial. Brachman a menționat la fel cum nu avem nicio modalitate de a controla ceea ce învață copiii, același lucru este valabil și pentru mecanismele de calcul.

Mașini inteligente de afaceri

Discuția despre AI și problemele etice care apar au continuat într-un alt grup cu liderii unor companii de software mai specializate. Babak Hodjat, co-fondator și om de știință șef al companiei de învățare automată Sentient Technologies, a declarat că problema eticii este un pic de distragere când vine vorba de AI și că etica are, de asemenea, un impact asupra tuturor tipurilor de tehnologii, de la smartphone-uri la scoruri FICO..

George John, președinte și fondator al companiei de publicitate programatică Rocket Fuel, a remarcat avantajele tehnologiei și a spus „Dacă AI funcționează cu adevărat, oamenii ar trebui să ajungă mai devreme acasă”. El a vorbit despre nevoia de noi abilități de management și gestionarea atât a oamenilor, cât și a mașinilor inteligente. El a mai vorbit despre căutarea aplicațiilor de AI care nu sunt potrivite doar companiilor mari, dar ar putea beneficia și de persoane.

Jag Duggal, SVP al Managementului produselor pentru compania de măsurare a audienței Quantcast, a spus că acestea sunt instrumente concepute pentru a ne face mai productivi, a face mai multe lucruri și pentru a ne crește capacitatea. El a spus că există o multitudine de inovații și productivitate care pot ieși din acest lucru și a spus că, deși există temeri cu privire la faptul că tehnologia devine prea bună, el este mult mai preocupat de limitele tehnologiei.

El a fost preocupat în special de stimulente și ce se întâmplă când algoritmii de învățare automată ajung să urmeze stimulente greșite. De exemplu, el a menționat cum pe piața de plasare a anunțurilor online, vânzătorii de comerț electronic acordau credit ultimului anunț pe care o persoană îl vedea înainte de a efectua o comandă. Astfel, mai multe reclame sunt vizate după ce o persoană a vizitat deja un site de comerț electronic și deseori după ce cineva a decis să cumpere; cu alte cuvinte, când anunțul poate fi irosit. „Încearcă să pună exemple mai bune, a spus el.

Jon Stein, fondator și CEO al companiei de investiții Betterment bazate pe AI, a vorbit despre binele pe care îl poate face tehnologia și a convenit că este important să se stabilească stimulente clare. El a vorbit despre respectarea standardelor de încredere, cum ar fi acționarea în interesul clientului dvs. și a spus că transparența are un rol important, astfel încât oamenii să înțeleagă unde pot apărea conflictele.

Stein a spus că tehnologia va îngreuna să fie criminal în timp, dar Duggal a spus că este mai sceptic, pentru că escrocii au și tehnologie. Totuși, el este impresionat de potențialul tehnologiei și a citat un exemplu de proiect de la Google în care o AI poate identifica cancerele din alunițe de pe piele. El a spus că este îngrijorat de o „interpretare greșită” a problemei de către adversarii tehnologiei.