Conferință de cod: youtube, facebook, twitter execută la reducerea conținutului rău

Urmărind urmele altor conferințe tehnologice, Conferința de cod din acest an s-a concentrat pe dezavantajul tehnologiei și, în special, al social media, cu liderii Instagram, Twitter și YouTube s-au grăbit asupra politicilor lor pentru eliminarea sau nu publicizarea conținutului discutabil.

Toți acești executivi păreau să aibă o oarecare variație a conversației următoare: Da, există lucruri rele pe platforma noastră. Ar fi trebuit să știm mai devreme. Încercăm să îmbunătățim lucrurile. Dar este greu. Ne pare rău dacă ai fost jignit.

Totul are sens, dar nu mulțumește toate criticile, nici nu tace vocile care solicită despartirea sau cel puțin mai multe reglementări ale marilor platforme tehnologice. Iată ce au spus unii dintre executivi și unii dintre critici la emisiune.

YouTube

CEO-ul YouTube, Susan Wojcicki, a descris modificări ale politicii platformei în ceea ce privește discursul de ură, spunând că, dacă un videoclip susține acum că un anumit grup (cum ar fi o rasă sau o religie) este superior, asta nu va mai fi permis; și nici videoclipurile care susțin că un alt grup este inferior. Ea a spus că firma a adăugat, de asemenea, mai multe grupuri pe lista protejată, inclusiv castele din India și victime ale unor evenimente violente verificate (precum Holocaustul). Ea a spus că acestea sunt doar câteva dintre multele schimbări de politică pe care firma le-a făcut în ultimul an. De asemenea, a vorbit despre limitarea distribuției „conținutului borderline”, astfel încât unele videoclipuri care nu sunt blocate nu sunt incluse în recomandările YouTube și nu sunt disponibile pentru a fi monetizate. Aceasta spune că le-a redus opinia cu 80 la sută.

Dar a recunoscut că toate acestea au dus în continuare la controverse, începând interviul ei cerându-și scuze comunității LGBTQ și spunând că a înțeles că deciziile ei sunt dăunătoare acelei comunități, dar aceasta nu a fost intenția. Controversa privește decizia YouTube de a permite videoclipurilor de la Stephen Crowder să rămână pe site, în ciuda plângerilor de la Vox, Carlos Maza, că Crowder îl hărțuia pe el și pe alții cu comentarii anti-LGBTQ. (Vox pune conferința Cod.)

„Contextul contează cu adevărat”, a spus Wojcicki, spunând că înainte ca firma să scoată un videoclip, consideră dacă un videoclip este dedicat hărțuirii sau un videoclip de o oră cu o tulpină rasială, indiferent dacă este o persoană publică și dacă este răuvoitor în intenție. Ea a spus că a determina ceva este rău-intenționat este o bară ridicată pentru firmă, spunând că trebuie să aplice politicile în mod consecvent, întrucât ar exista întotdeauna videoclipuri despre care oamenii se plâng. Ea a menționat că puteți găsi o mulțime de băuturi rasiale și comentarii sexiste în lucruri precum melodii de rap, discuții de noapte târzie și mult umor. Ea a spus că compania vrea să lucreze pentru a schimba politicile, mai degrabă decât să aibă o reacție „genunică” la o singură instanță.

În final, ea a spus că compania a decis că aceste videoclipuri nu sunt hărțuire și că nu încalcă politicile și a spus că aceasta este decizia corectă. Dar ea a spus că compania suspendă monetizarea - profitul creatorului video obținut din reclame difuzate pe videoclip.

Ea a spus că, dacă YouTube ar elimina videoclipul respectiv, va fi nevoie de tot atâtea alte conținuturi pe care ar trebui să le elimine. Dar ea a spus că firma va elimina lucrurile și că multe dintre modificările aduse politicii de ură vor fi cu adevărat benefice pentru comunitatea LGBTQ și vor duce la eliminarea videoclipurilor. Și a repetat o scuză pentru răul pe care l-ar fi putut provoca.

Întrebat de gazda conferinței Peter Kafka dacă scara YouTube - cu 2 miliarde de utilizatori și 500 de ore de videoclipuri încărcate în fiecare minut - înseamnă că nu puteți rezolva niciodată problema, Wojcicki a spus: „Cu siguranță putem îmbunătăți modul în care gestionăm platforma și văd cum am îmbunătățit mult ”. Ea a menționat că firma a înregistrat o reducere de 50% a cantității de conținut violent în ultimii doi ani și că peste 10.000 de persoane lucrează la conținut. Însă ea s-a concentrat asupra atenției asupra lucrurilor rele de pe platformă, observând că există și mult conținut grozav. „Toată îngrijorarea este legată de acest procent fracționat din conținut”, a spus ea. Însă ea a recunoscut că este multă muncă de făcut în abordarea acelui conținut și a spus că compania investește în instrumente și muncește din greu pentru a rezolva acest lucru.

Ea a dat deoparte o sugestie că ar putea exista o barieră pentru încărcarea videoclipurilor, spunând că „vom pierde multe voci”. Dar ea a vorbit despre faptul că are mai multe „niveluri de încredere” de videoclipuri, astfel încât oricine să poată începe să încarce lucruri, dar ar trebui să îndeplinească anumite reguli pentru a obține o distribuție mai largă.

„Vedem toate aceste avantaje ale deschiderii”, a spus ea, însă a menționat că YouTube are responsabilitatea de a înțelege conținutul și de a decide ce ar trebui recomandat și ce ar trebui promovat.

Wojcicki a spus că crede că YouTube și Google se vor confrunta cu mai multe reglementări, indicând noile reglementări privind drepturile de autor în Europa, dar a spus că este important ca autoritățile de reglementare să înțeleagă cum să implementeze aceste lucruri în mod rezonabil, din cauza potențialului de consecințe nedorite.

Întrebat de Kevin Roose, de la The New York Times, dacă YouTube a contribuit la radicalizarea politicii (pe baza unei povești recente pe care a făcut-o), Wojcicki a spus că site-ul a luat preocupările de radicalizare în serios și a făcut o serie de modificări în ianuarie, ceea ce a redus recomandările a „conținutului limită” cu 50 la sută.

Ea a spus că YouTube dorește să ofere o gamă largă de opinii, utilizatorii alegând ceea ce vor să vadă, dar a fost preocupat și a spus că astfel de schimbări în politici și în recomandări vor face diferența.

Instagram și Facebook

Doi directori Facebook au vorbit despre modul în care Facebook, și în special Instagram, s-a ocupat de critici.

Adam Mosseri, care conduce Instagram, a declarat că vedem „o schimbare de paradigmă către forme de comunicare mai private”, menționând că toată creșterea la Instagram a venit din povești și mesagerie. El a menționat că poveștile sunt trecătoare, în timp ce feed-ul este mai bun dacă doriți lucruri care sunt în jur pentru totdeauna. El a menționat că poveștile nu se referă la „mesagerie utilitară”, ci mai degrabă la „începuturi de conversație”.

Mosseri a spus că compania are „multe dezbateri aprinse”, deoarece există o tensiune reală între confidențialitate și siguranță. El a spus: „Am pus o miză pe teren care a spus că mesageria trebuie să fie absolut privată”, dar a fost de acord că firma are nevoie de timp pentru a lucra și timp pentru a descoperi soluțiile de siguranță.

Andrew Bosworth, care supraveghează realitatea artificială, realitatea virtuală și alte proiecte avansate pentru Facebook, a menționat că confidențialitatea înseamnă uneori confidențialitate de pe Facebook, dar alții vor confidențialitate de la guvern sau de la dispozitiv. Istoric, el a spus că confidențialitatea pentru Facebook înseamnă un control asupra datelor și cine ar putea vedea. Dar el a menționat că se joacă în moduri diferite și a spus că „conversația globală nu va avea un singur răspuns”, întrucât piețele diferite aveau puncte de vedere diferite asupra controlului guvernului și ale siguranței.

Întrebat de Casey Newton, de la Verge , dacă ar fi bine să rupeți Facebook și să faceți Instagram o companie separată, Mosseri a spus: „S-ar putea să-mi ușureze mult viața și probabil că ar fi benefic pentru mine ca persoană fizică, dar Cred că este o idee groaznică. " El a spus că, pe probleme precum integritatea electorală și discursul de ură, ar face doar ca exponențial mai dificil pentru Instagram să-și păstreze utilizatorii în siguranță. El a spus că inițial a promis că va menține Instagram independent de Facebook, dar a încălcat această promisiune atunci când vine vorba despre funcțiile de siguranță, deoarece Facebook are mai multe persoane care lucrează la siguranță și integritate decât numărul total de persoane care lucrează la Instagram.

Mosseri a spus că este fundamental un lucru sănătos să treacă prin solicitarea de răspundere, iar Facebook a făcut o greșeală, fără a se concentra suficient asupra consecințelor neintenționate din primii ani. „Trebuie să facem mai mult pentru a-i hrăni și a crește binele și pentru a ne adresa răului”, a spus el.

Bosworth a spus că atunci când un site este mic, întregul conținut poate fi revizuit, deși asta ne aduce probleme de confidențialitate. Când devine mai mare, nu puteți revizui manual întregul conținut, dar obțineți mai multe resurse și o „economie de scară”. El a fost de acord că Facebook a fost „masiv în urmă”, dar a spus că compania investește masiv, spunând că este o problemă rezolvabilă și că firma lucrează atât la soluții tehnice, cât și cu autoritățile de reglementare cu privire la modul în care să răspundă. Nu vă apropiați de rezolvarea lor, împărțindu-vă în echipe și oferind fiecărei echipe mai puține resurse, a adăugat el.

Întrebat dacă Facebook nu poate rezolva aceste probleme, deoarece oferă servicii suportate de anunțuri, Bosworth a spus: „Ne costă mult mai mult să avem orice conținut marginal pe platformă”. El a spus că Facebook are zeci de mii de oameni care examinează conținutul. Dacă compania ar fi nemiloasă și ar scăpa de toate discursurile care sunt deloc controversate, a spus el, aceasta ar fi mai eficientă.

Mosseri a spus că ar trebui să fim mândri că puteți utiliza acest serviciu gratuit. Compania a spus că publicitatea este ceea ce permite companiei să furnizeze acest lucru, iar aceasta este plătită în mare parte de către persoanele care își pot permite. Dacă tăiați publicitatea, tăiați oameni.

O schimbare pe care Instagram o testează este ascunderea „aprecierilor” în sistem. Mosseri a spus că nu vrem ca Instagram să fie „un mediu presurizat” și a remarcat cum poate fi competiția. El a fost hulit în a face like-uri și socotește privat, dar a spus că este doar un experiment.

Mosseri a vorbit și despre dispozitivul Portal al companiei, despre care a spus că „a lăsat funcționalitatea tabelului” eliminând înregistrarea conversațiilor. El a spus că vedem o generație complet nouă de hardware cu boxe inteligente, dar că Facebook a vrut să se asigure că „conexiunea umană este o utilizare de primă parte”, dar cu confidențialitate încorporată.

Bosworth a menționat că Facebook vede VR ca „o oportunitate de a merge mai adânc” și are experiențe semnificative chiar și atunci când nu poți fi acolo

Stare de nervozitate

Doi directori Twitter au abordat probleme similare, confruntându-se cu afirmația copreședintelui Kara Swisher, conform căreia platforma este un „cesspool” construit pe oameni care pot spune orice doresc și apoi să spună lucruri groaznice.

Twitter este "fundamental bazat pe faptul că permite oamenilor să vorbească în public, a spus Kayvon Beykpour, liderul produsului. El a spus că scopul site-ului este" să servească conversația publică ", ceea ce" ajută oamenii să învețe, îi ajută pe oameni să rezolve problemele și îi ajută pe oameni să realizeze că Suntem toate acestea împreună. "Acesta este punctul de plecare, dar a spus că există o„ criză existențială ", deoarece dacă conversația nu este sănătoasă, oamenii nu vor dori să participe.

Beykpour a menționat că majoritatea oamenilor de pe Twitter nu au platforme mari, ci mai degrabă au zeci sau sute de adepți și că oamenii folosesc serviciul pentru a găsi oameni care au interese similare.

Vijaya Gadde, care este politica juridică, publică și de siguranță a Twitter, a declarat că firma a făcut inițial o presiune pentru exprimarea complet liberă, dar acum era mai conștient de impactul pe care îl avem. Ea a spus că firma are un cadru politic care se concentrează pe drepturile fundamentale ale omului, precum siguranța și libera exprimare.

Ea a menționat că firma se confrunta acum cu lipsa de încredere și dezinformarea pe platformă. În aprilie, în contextul alegerilor din India și Europa, ea a declarat că firma a elaborat noi politici menite să elimine dezinformarea cu privire la modul de înregistrare pentru a vota sau unde să voteze. Ea a spus că acesta este încă un proces de învățare, menționând, de exemplu, că unele glume au fost șterse. În alte domenii, a spus că dacă căutați informații despre vaccinuri, acum veți fi direcționat către surse de încredere. Scopul este în special prevenirea „daunelor offline” oamenilor.

Gadde a menționat că Twitter a avut o „preferință istorică de a nu fi arbitru de adevăr”, dar a recunoscut că a fost greu să facă acest lucru la scară. În schimb, firma a încercat să amplifice conținutul care provine din surse de renume. În timp, a spus ea, firma va trebui să facă mai mult și a spus că urmărește ce fac alte platforme.

Beykpour a spus că istoricul Twitter a „învârtit” în încercarea de a rezolva prin politici și aplicare, nu prin produs și tehnologie. El a spus că compania a înregistrat progrese în problemele de sănătate și va face mai multe. El a menționat că firma tocmai a emis o nouă politică simplificată, mai ușor de citit și care ar permite aplicarea mai bună. În prezent, a spus el, 40% din tweet-urile „acțiunilor” ferme sunt făcute proactiv, spre deosebire de plângeri.

El a spus că firma dezamplifică conținutul și a spus că noile politici au redus cu 45% procentul de abuz raportat; iar numărul de blocuri de cont cu 30 la sută. În plus, el a menționat că firma are acum provocări și blochează mai multe înscrieri pentru a încerca să prevină înregistrarea unui cont rău intenționat; dar încă se confruntă cu probleme precum ghicirea parolelor brute.

Întrebat de temerile că platformele de social media duc la o radicalizare crescută, Gadde a recunoscut că este o îngrijorare. "Cred că există conținut pe Twitter și fiecare platformă care contribuie la radicalizare", a spus ea. Ea a adăugat însă că firma are o mulțime de mecanisme și politici în vigoare care combate acest lucru. Ea a spus că 90% din conținutul terorismului este eliminat imediat și a interzis 110 grupări extremiste violente.

Gadde a spus că regulile Twitter sunt „un document viu”, cu noi cercetări care răspund la noile prejudicii, sfătuind firma dacă există mai multe decât putem face. Ea a menționat că „lucruri rele se întâmplă și pe platformele private”. Deoarece Twitter este complet deschis, a spus ea, toată lumea poate vedea și răspunde. Dar a observat că a fi deschis poate fi un dezavantaj, deoarece le oferă oamenilor o platformă. Ea a spus că compania încearcă să găsească echilibrul corect între interesul public și capacitatea de a vizualiza și de a răspunde, precum și problemele pe care le poate provoca conținutul. Ea a remarcat că firma trebuie să lucreze la soluții globale, deoarece 80 la sută dintre utilizatorii acesteia nu se aflau în SUA

Ea a vorbit despre importanța transparenței și fiind foarte clară care sunt regulile. Dar ea a menționat, de asemenea, caracterul științific al conținutului, menționând că, cu personalități publice, chiar dacă Twitter ar șterge un tweet, acel conținut va atrage atenția.

Ca răspuns la o întrebare a audienței, Gadde a spus că Twitter este „foarte, foarte concentrat pe radicalizare”, spunând că dacă revendicați o asociere cu grupări extremiste violente, nu puteți fi pe Twitter. Dar ea a spus că firma are treabă de făcut pentru a înțelege cum să facă mai mult și că vor veni schimbări. Răspunzând la o altă întrebare despre abuzul adresat femeilor, ea a spus că faptul că permite Twitter-ului să fie mai proactiv va face o diferență mare. Însă ea a spus că se îngrijorează foarte mult în ceea ce privește tăcerea vocilor, în special a grupurilor minoritare și a femeilor.

Beykpour a spus că o posibilă soluție este de a oferi clienților mai mult control cu ​​privire la modul în care se pot simți mai în siguranță pe platformă, cum ar fi oferirea autorilor posibilitatea de a modera răspunsurile într-un fir de conversație. El a vorbit și despre noi tipuri de conversații, menționând că Twitter-ul actual este aproape doar Tweeturi publice care trăiesc pentru totdeauna și mesaje directe. El a menționat că între timp, firma nu acceptă - ci are în vedere - lucruri precum o conversație publică care ar putea fi limitată la patru persoane.

Mediu

Ev Williams, CEO al Medium și co-fondator al Blogger și Twitter, s-a concentrat mai mult pe Medium, un serviciu de abonamente despre care a spus că crește într-un ritm sănătos, dar nu ar da numere. El a spus că oamenii se abonează la serviciu pentru idei și perspective, în subiecte de la sănătate la JavaScript până la scrierea literară.

El a discutat despre modul în care conținutul grupului poate fi important. El a spus că este „foarte hărțuit pentru abonamente pentru conținut editorial”, dar că ar putea fi greu pentru multe site-uri web. „Nu ne abonăm la emisiuni TV sau artiști muzicali individual”. În schimb, cu Medium, el încearcă să construiască o platformă care să includă site-uri deținute și operate, precum și diversitatea altor site-uri. El a spus că Medium are sute de mii de oameni care scriu în fiecare lună.

El era convins că conținutul încorporat va reuși și a spus că nu există concurenți direcți, deși orice site web care are abonament și ceva de genul Apple News + cu pachetul său de reviste, concurează.

Williams a spus că politicile Medium s-au schimbat de-a lungul timpului și că moderarea conținutului său este acum „destul de agresivă” în ceea ce este dispus să elimine. La Medium, el a spus, „tot ceea ce recomandăm este aprobat pentru prima dată de un om”. El a recunoscut că înseamnă că site-ul nu va fi niciodată la fel de mare ca rețelele de socializare, dar a spus el, „schimbul de valori” al firmei, care îți plasează conținutul într-un grup de curatare, dar în spatele unui tablou de plată, se va extinde.

Deși s-a concentrat pe Medium, Williams a discutat despre social media și blogging. El a spus că îi este dor de blogging, ca ceva între gândurile extrem de întâmplătoare pe social media și articolele de formă lungă. El a spus că în blogging lucrurile ar putea „marina”, spre deosebire de „dependența de feedback pe termen scurt care dăunează gândirii”.

Problema, a spus el, este că „feedback-ul instantaneu este probabil confuz pentru conversații sănătoase”. El a menționat că oamenii se bucură de feedback-ul pe termen scurt, cum ar fi afișarea publică a adepților sau aprecierile pe o postare. El a spus că este imposibil să trăiești în acel mediu și să nu-ți schimbi comportamentul. Alte sisteme cu feedback mai lent, cum ar fi buletinele informative sau podcast-urile, permit mai mult context și conversații mai bune. „Dacă fiecare comunicare trebuie să stea pe cont propriu, pierzi capacitatea de a merge adânc”, a spus el.

El a spus că conversația politică a fost „mai zgomotoasă decât a fost vreodată” și că asta îngreunează, chiar dacă doriți să auziți multe perspective. Dar el a spus că există locuri luminoase.

"Motivul pentru care m-am entuziasmat în primul rând pe web este că am crezut că ne va face mai deștepți", a spus Williams. El a crezut că dacă oamenii ar putea pune idei acolo, lumea ar face alegeri mai inteligente. Dar a spus că nu s-a dovedit așa din cauza sistemelor de feedback și a stimulentelor. „O parte din ea este limita intervalului de atenție umană”, a spus el, menționând că mai multe informații nu ne fac mai deștepți dacă nu știm cum să o digerăm sau cum să o contextualizăm, în special dacă există industrii care încearcă să te fac să cumperi lucruri.

Acesta este un motiv pentru care a început să lucreze la Medium acum 7 ani. El a menționat că, cu un serviciu de abonament, clienții plătesc, așa că trebuie să creezi un produs pe care cineva îl găsește suficient de valoros pentru a-l plăti. El a spus că a fost mai bine decât publicitatea, care s-a concentrat pe cât de ieftin puteți atrage atenția cuiva.

Un panou de critici

Desigur, marile platforme au avut o mulțime de critici și la spectacol. În special, un grup a inclus Nicole Wong, fost adjunct al șefului tehnologiei americane și fost consilier general adjunct la Google; Jessica Powell, fostă VP de comunicații la Google și autoarea revistei The Big Disruption ; și Antonio García Martínez, fost Facebook și autor al Chaos Monkeys.

"Nu sunt probleme noi, au fost acolo de la bun început", a spus Powell, menționând că este îngrijorată de "consecințele nedorite" și că monitorizarea conținutului este grea. Ea a spus că este minunat faptul că platformele au politici mai stricte „dar ar fi trebuit să fie acolo mult mai devreme”.

Wong a menționat că în prima eră a internetului, „construiam tehnologie și ne gândim că vom schimba lumea în bine”. Ea a spus că este uimitor și încă există și că oamenii din tehnologie sunt în mare parte acolo pentru a face bine. Dar ea a spus că oamenii sunt leneși în a nu recunoaște că tehnologia nu este inerent bună. Ea a spus că acum știm cum este să vezi un „internet armat” și că trebuie să construim sisteme care să țină cont de asta. "Nimeni nu ne datorează un internet gratuit și deschis, conceput pentru binele nostru și trebuie să construim asta."

García Martínez a spus că, dacă cineva va reglementa discursul pe Facebook, ar trebui să fie guvernul. "O democrație este structura în care obțineți responsabilitate, nu o corporație", a spus el. Însă el a spus că oricum ar trebui să fie despărțit Facebook, cu Instagram și What’s App separate, spunând că dacă ridicați bara de moderare a conținutului, puteți obține un avantaj competitiv.

Powell a spus că există un argument credibil că, dacă aveți mai multe date, puteți antrena mai bine modelele AI, astfel încât să aveți nevoie de o moderație umană mai mică. Dar ea a sugerat că industria ar putea veni cu o modalitate de a strânge informații pentru toți jucătorii, spunând că acest lucru este deja făcut pentru exploatarea copiilor și că ar trebui să putem afla cum să facem asta pentru intimidare. În general, a spus că, orice reglementare trebuie să fie pusă pe probleme de control și transparență, spunând că este greșit faptul că o startup azi trebuie să se îngrijoreze de calea care trebuie dobândită.

García Martínez a spus că există întotdeauna un compromis între confidențialitate, comoditate și securitate și a spus că este în regulă dacă știi ce compromisuri faci. Dar el a sugerat să scape de agregatoarele de date ale terților.

Într-o altă sesiune, comediantul și criticul Baratunde Thurston și-a împins propria platformă de „nouă moduri de a nu învinge viitorul”. Aceste elemente includ transparență și scoruri de încredere, modificarea prestabilită a conversațiilor pentru a fi închise; și proprietatea și portabilitatea datelor. Dar a obținut cea mai mare atenție, descriind Facebook ca un „serviciu de scuze bazat pe cloud” care oferă „Apology-as-a-Service”.

De asemenea, profesorul NYU Stern, Scott Galloway, cunoscut pentru cartea sa The Four: The Hidden DNA of Amazon, Apple, Facebook și Google , a făcut o serie de predicții pentru anul viitor. Sunt incluse în aceste predicții că un oficial oficial de Facebook va fi arestat și reținut pe pământ străin și că va exista mai multe reglementări ale marilor companii tehnologice. El a spus că a crezut că prin spinoffs și breakups, Big Tech va adăuga o valoare mai mare decât capitalizarea totală a Boeing-ului și Airbus-ului în următoarele șase luni.