Tehnonomie: cum să remediați ce nu este în regulă cu google și facebook

Poate cea mai surprinzătoare temă de la Techonomy din acest an a fost cât de supărat sunt mulți dintre vorbitori cu Facebook, Google și Twitter, cu critici axate pe abordarea lor în privința vieții private și în special pe posibilul rol pe care l-au jucat în activarea piratării ruse a alegerilor din 2016.

O mare varietate de vorbitori au făcut eforturi pentru reglementarea diferitelor tipuri de „Giganți de Internet” și nimeni de la niciuna dintre companiile menționate nu a fost la conferință pentru a oferi un punct de vedere alternativ. Acest lucru a fost foarte diferit de conferința de anul trecut, când CEO-ul Facebook, Mark Zuckerberg, a spus că ideea că poveștile false de pe Facebook au influențat alegerile este „o idee destul de nebună”.

De atunci, după cum a menționat Simone Ross, cofondatorul companiei Techonomy, am aflat că „tehnologia face să ne divizeze cât de ușor să ne reunim”. Co-fondatorul conferinței, David Kirkpatrick (mai sus), a stabilit tonul conferinței, spunând că „tehnologia este o forță pentru bine, dar numai dacă este bine obiectivul tău” și a continuat să spună că a crezut că marile companii de tehnologie au nevoie de un „proactiv intersecție "cu guvernul, indiferent dacă se numește reglementare sau nu.

Autoritate într-o lume în rețea, artificial inteligentă

Cunoscutul investitor Roger McNamee al Elevation Partners, un investitor timpur atât în ​​Facebook, cât și în Google, a fost poate cel mai negativ dintre toți vorbitorii. McNamee a spus că aceste companii au „început să salveze lumea”, dar că acest lucru s-a schimbat atunci când publicitatea a devenit modelul lor de afaceri. El a spus că smartphone-ul, atunci când este combinat cu informații personale, a făcut posibilă „crearea unui nivel de hacking cerebral care nu a mai fost văzut până acum în mass-media”.

McNamee a spus că a crezut că Zuckerberg a fost sincer atunci când a spus că nu crede că un astfel de hacking a fost posibil în urmă cu un an, dar a spus că rolul pe care Google și Facebook îl joacă acum nu poate fi supraevaluat. El a comentat: „Trebuie să fie greu să fii acum și să realizezi că ai distrus civilizația occidentală”.

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, Centrul electronic de informare a confidențialității (EPIC); Stratford Sherman, Accompli

Această discuție a apărut într-o parte a grupului „Autoritatea într-o lume în rețea, artificial inteligentă”, care a inclus și Danah Boyd, un om de știință social cu Data & Society și Microsoft Research; Marc Rotenberg, președintele Centrului electronic de informații privind confidențialitatea (EPIC); și moderatorul Stratford Sherman de la Accompli. Sherman a spus că, în timp ce Facebook și Google au pornit ca forumuri pentru discursuri publice, acestea sunt „nereglementate radical”. Cu AI care ar putea avea un impact fundamental asupra rasei umane la orizont, Sherman a spus că este îngrijorat de consecințele neintenționate ale dezvoltării tehnologice pe care le-am văzut deja.

Rotenberg a spus că, deși rămâne îngrijorat de preocupările tradiționale de confidențialitate pentru a fi urmărit și profilat, este la fel de preocupat de lipsa concurenței, lipsa de inovație și riscul pentru instituțiile democratice. El a spus că giganții de pe Internet au o putere enormă, iar datele pe care le dețin creează o barieră autentică de intrare, deci nu există concurență semnificativă. Rotenberg a declarat că a fost la Washington de la administrația Reagan și, pentru prima dată, „alegerile de anul trecut nu s-au simțit cunoscute”.

Într-o ședință anterioară, boyd, care a scris o carte numită It's Complicated , a vorbit despre dificultatea de a confrunta manipularea pe Internet.

Ea a vorbit despre un proces de manipulare din ce în ce mai mare în ultimii 20 de ani, care a început cu copiii care au călătorit Oprah și a avansat la „rickrolls” și la lucruri precum schimbarea rezultatelor căutării pentru numele „Santorum”. Mai recent, cu Gamergate, o distribuție mai mare de personaje au devenit jucători, inclusiv actori de stat. boyd a spus că companiile de internet cred că AI le poate proteja, dar grupurile care încearcă să manipuleze rezultatele experimentează deja procesarea limbajului natural și, cel mai important, afectează sursele de date. Injectarea datelor rele într-un sistem, de exemplu, este o vulnerabilitate nouă. Totuși, boyd a spus că singurul răspuns va fi „construirea anticorpilor tehnici în industria noastră”.

În această sesiune, Boyd a spus că companiile tehnologice iau în calcul manipularea pe mai multe fronturi și a menționat că, deși toată lumea se uită la Rusia, există multe alte state care urmăresc acțiuni similare. De exemplu, companiile chineze încearcă să se asigure că vor controla AI, iar ea a spus că aceasta prezintă o provocare diferită, deoarece nu este vorba de concurența industrială, ci de concurența cu un stat.

Întrebat de Sherman dacă acesta este un război, Boyd a spus că crede că este așa, în timp ce McNamee a spus că este războiul clasic de gherilă prin faptul că dușmanii noștri au folosit tehnologia noastră împotriva noastră. McNamee a spus că problema nu este rețelele sociale sau căutarea, ci modelul de publicitate. El a spus că în lupta pentru atenția oamenilor, substanța este îngropată de senzație și a citat vechiul zical că „dacă sângerează, duce”.

Sherman a remarcat că frica și furia sunt mult mai magnetice și, prin urmare, mult mai puțin costisitoare. El a spus că, deși mesajele organice au fost folosite pentru a ajunge la peste 125 de milioane de oameni, obiectivul efortului a fost ca reclamele să-și segmenteze oamenii în grupuri pe baza unor interese comune.

Rotenberg a spus că este în favoarea transformării algoritmilor și a publicității reglementate, dar a spus că trebuie să respectăm dreptul persoanelor de a vorbi online. McNamee a spus însă că „primul amendament a fost armat” și că spațiile online sunt fundamental diferite de piața publică.

boyd a descris ceea ce ea numește „efectul boomerang” sau, cu alte cuvinte, ideea care provoacă mass-media să raporteze despre lucruri scandalos este ideea, deoarece acest lucru consolidează mesajul original pentru segmentul publicului care are încredere în mass-media. Ca exemplu, boyd a vorbit despre Pizzagate. Ea a menționat că, înainte de internet, mass-media folosea adesea „tăcerea strategică” pentru a evita acoperirea unor lucruri precum suicidele și mitingurile Klan pentru a evita publicizarea acestora.

Rotenberg a fost de acord că s-a pierdut o mare parte din această tradiție a hărniciei și supravegherii și a spus lucruri precum Secțiunea 230 (care spune că companiile de internet nu sunt responsabile pentru lucrurile precum postările utilizatorilor) a îngreunat competiția știri tradiționale.

Întrebat despre soluții, McNamee a spus că Facebook este un cult și că trebuie să înceteze să nege problema și să se ocupe de ea, precum și să înceapă să abordeze „deprogramarea”, adresându-se fiecăruia dintre utilizatorii săi. Rotenberg a promovat ideea de reglementare. Și boyd a sugerat că trebuie să investim bani în societate, pentru a „re-rețea” America.

Socoteala cu noii hegemonisti

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, Universitatea din Alabama; David Kirkpatrick, Techonomie

Într-un panou timpuriu despre „Luarea în considerare a noilor hegemoniști”, aproape toată lumea a fost de acord cu Joyce Vance de la Universitatea Alabama, care a spus că tehnologia a depășit cu adevărat legea, care are nevoie disperată. Dar Vance a avertizat că există și riscul unor răspunsuri politice „slipshod”.

Dave Morgan de la Simulmedia a spus că „va exista o reglementare”, deși a spus că este posibil ca marile companii să poată evita o mare parte a impactului său.

Morgan a remarcat că istoria industriei mass-media oferă paralele cu ceea ce vedem acum, întrucât ziarele s-ar fi văzut ca companii de imprimare, iar companiile de difuzare timpurie s-au văzut ca companii tehnologice. Toate acestea permit furnizarea de contact pentru consumatori, ceea ce este clar Google și Facebook. O mulțime de cazuri antimonopol au apărut ca urmare a unei astfel de puteri mass-media concentrate, iar guvernul a fost capabil să le domnească. O mare diferență este astăzi că celelalte tehnologii necesitau un nex geografic, de care companiile de internet nu au nevoie.

Vance a menționat că Senatul are în vedere acum un proiect de lege care ar impune acestor companii să-și păstreze istoricul publicității, precum și să lămurească cine plătește pentru reclame politice. Dar Morgan a subliniat că acestea sunt acum companii globale cu o acoperire mai largă. Întrebat despre reglementările europene privind confidențialitatea GDPR, Vance a spus că SUA ar fi putut să cedeze conducerea UE în acest domeniu. Ea a spus că nu crede că companiile americane vor putea respecta diferit în diferite zone geografice, astfel încât, în mod implicit, companiile vor respecta reglementările europene.

Mark Mahaney, de la RBC Capital Markets, a declarat că companiile sunt deja reglementate, în special în Uniunea Europeană, cu Google în special sub control pentru gruparea sau promovarea serviciilor sale împreună cu rezultatele căutării sau cu Android. Kirkpatrick a spus că a considerat că soluționarea antitrust a ajutat de fapt Microsoft, dar Mahaney a combătut că nu reglementatorii au oprit Microsoft, ci concurența.

Tehnologia și guvernul pot salva democrația?

Tim Hwang, FiscalNote; Minnie Ingersoll, Code For America; Marc Rotenberg, Centrul electronic de informații privind confidențialitatea; Molly Turner, UC Berkeley Haas School of Business; Revista Jon Fine, Inc; Lawrence Norden, NYU School of Law

Un subiect similar a apărut la o masă rotundă pentru micul dejun, intitulată „Can Tech and Government Save Democracy?”, În care moderatorul revistei Jon Fine din Inc a cerut soluții. Cu toate acestea, masa rotundă nu a venit cu niciunul.

Hwang a spus că problema nu este platformele tehnologice, ci mai degrabă furia pe care o simt oamenii ca urmare a deconectării de la economie.

Lawrence Norden, de la Centrul Brennan de la Școala de Drept din NYU, a declarat că legile care necesită mai multe dezvăluiri pe anunțurile politice sunt un răspuns ușor, dar că, din păcate, marea problemă sunt „posturile întunecate” sau postările de origine necunoscută. În această privință, a spus el, internetul seamănă mai mult cu o piață a orașului.

Dar Rotenberg a spus că este opusul și că internetul este mai mult ca un oraș al companiei, unde platformele stabilesc regulile și decid ce vedeți. Minnie Ingersoll de la Code For America a întrebat dacă problema este interferența străină sau Google controlează ceea ce spunem. Reglementatorii trebuie să înțeleagă mai bine problemele, a spus ea.

Molly Turner de la UC Berkeley Haas School of Business a declarat că Internetul a devenit cel mai mare vehicul de exprimare, dar este îngrijorat de faptul că acesta subminează discursul civil. Pe de altă parte, se preocupă de cerințele pentru platformele de a elimina anumite tipuri de informații (în cazul în care Legea cu privire la decidența comunicațiilor a fost slăbită, de exemplu, sau din cauza altor tipuri de reglementări), pentru că, în acest caz, platforma devine „arbitrul de vorbire."

Rotenberg a răspuns că, în timp ce companiile auto au combătut odată cu reglementările de siguranță, acestea au contribuit la siguranța mașinilor și au dus la mai multe inovații. El a sugerat el un mediu de reglementare stabil care ar putea ajuta de fapt platformele. Rotenberg a observat că companiile tehnologice au împins „neutralitatea netă” pentru companiile de telecomunicații, dar nu pentru ele însele și au cerut condiții de concurență echitabile.

Internetul în atac

Mark Anderson, Serviciul de știri strategice; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, New America; David Kirkpatrick, Techonomie

Un panou final numit „Internet sub atac” a continuat această discuție.

Rebecca MacKinnon, care conduce proiectul Ranking Digital Rights la New America, a declarat că a existat o dată presupunerea că din cauza internetului, regimurile autoritare vor deveni mai degrabă ca niște democrații. Acum îi este mai frică regimurile autoritare și democrațiile „se vor întâlni la mijloc”.

MacKinnon a spus că regimurile autoritare adaptează Internetul la scopurile lor, în timp ce democrațiile se confruntă cu populism, manipulare și „capitalism de supraveghere”. Dar, a spus ea, democrațiile ar trebui să fie atente la un răspuns de reglementare - în timp ce este de acord că este nevoie de mai multă transparență în ceea ce privește algoritmi și confidențialitate, este preocupată de faptul că un sistem de cenzură ar face mai ușor să se spargă pe părți. a disprețurilor guvernului societății.

Peder Jungck, care conduce informațiile și securitatea pentru BAE Systems, a fost de acord că guvernele ar dori să utilizeze astfel de sisteme pentru a găsi dizidenți și a spus că o idee este un produs și ca orice produs poate fi împins. Întrebat dacă sistemele de reclame sunt armate, el a spus: „Pandora’s Box a fost deschisă și nu ne putem întoarce”.

Mark Anderson, de la Serviciul de știri strategice, a spus că am văzut o linie dreaptă din zilele de ARPANET, când nu existau oameni răi, până astăzi, când vedem din ce în ce mai mult un comportament răuvoitor.

Anderson a fost deosebit de clar când a descris cum China fură proprietatea intelectuală și o folosește pentru a scoate companiile din afaceri. Și a sugerat că hackul Equifax a avut toate marcajele unui atac guvernamental. Rezumând, Anderson a spus că „nu vede o soluție”.

Jungck a spus că ar trebui să presupunem că oamenii răi sunt în sistemele noastre și să lucrăm la soluții. De exemplu, el a spus că un număr de securitate socială nu mai este securizabil, așa că este posibil să avem nevoie de o soluție blockchain.

În cadrul proiectului Ranking Digital Rights, MacKinnon a evaluat 22 de companii globale pe 35 de întrebări despre lucruri precum libertatea de exprimare, confidențialitate și securitate. Ea a spus că două companii au „Ds” și că toți ceilalți au eșuat. Ea vrea să afle ce fac companiile cu datele tale; cu cine o împart; dacă efectuează diligență, evaluări de securitate și guvernanță pentru risc; și dacă protejează confidențialitatea și securitatea, conținutul și expresia. Transparența nu este suficientă, a spus ea, ci un prim pas necesar.

Anderson a spus că transparența este un lucru bun, dar nu o soluție și a menționat că cineva care dorește să manipuleze un sistem nu trebuie să plătească pentru reclame, dar poate folosi 100.000 de botnete. Kirkpatrick a sugerat apoi ca companiile să poată impune identitatea și astfel să reducă utilizarea botnet-urilor.

Dar MacKinnon a contracarat că activiștii pentru drepturile omului sunt cei mai vulnerabili la utilizarea unor astfel de sisteme, pentru că, dacă impuneți identitatea, atunci nimeni care se opune unui guvern autoritar nu ar intra pe rețelele sociale.

Jungck s-a întrebat de ce trebuie să impunem o identitate atunci când site-urile știu deja cine sunteți și ce veți cumpăra. "Nu există anonimat pe internet, este demult apărut", a spus el. Singura diferență este cât timp durează să-ți dai seama cine ești.

În concluzie, MacKinnon a spus că este optimistă pe termen lung, dar pentru următorii 100 de ani, „nu atât”.

Ascultând toate acestea, este ușor să fii pesimist sau cel puțin fatalist în ceea ce privește cantitatea de reglementare necesară și impactul pe care îl va avea. Însă, totuși, tind să fiu optimist și, deși cred că o anumită cantitate de reglementare este atât probabilă, cât și necesară, cred că este la fel de probabil ca giganții de pe Internet de astăzi - sau unii jucători viitori - să obțină răspunsuri mai bune.

Ce probabilitate ai să recomande PCMag.com?