Accident auto cu volanul Uber: ne-a eșuat?

Pe 12 martie, MIT Technology Review a prezentat o poveste care a început astfel: "Este anul 2023 și mașinile cu autovehicule navighează în sfârșit pe străzile orașului nostru. Pentru prima dată, una dintre ele a lovit și a ucis un pieton, cu acoperire mass-media imensă. Este probabil un proces de înaltă importanță, dar ce legi ar trebui să se aplice?"

Totul despre predicție era corect, cu excepția datei. Exact la o săptămână de la publicarea articolului, un autovehicul Uber a lovit și a ucis un pieton din Tempe, Arizona, în timp ce funcționa în regim autonom.

Deși incidentul este încă cercetat, agitația care a rezultat este o indicație despre cât de departe suntem de integrarea cu succes a inteligenței artificiale în sarcinile și deciziile noastre critice.

În multe cazuri, problema nu este de AI, ci de așteptările noastre și de înțelegerea acesteia. Potrivit Wired , aproape 40.000 de oameni au murit în incidente rutiere anul trecut doar în SUA - dintre care 6.000 de pietoni. Dar foarte puțini (dacă există) au făcut titluri cum s-a întâmplat incidentul Uber.

Unul dintre motivele pentru care accidentul Uber a provocat o astfel de agitație este acela că, în general, avem așteptări mari la noile tehnologii, chiar și atunci când sunt încă în dezvoltare. Sub iluzia că matematica pură conduce algoritmii AI, tindem să avem încredere în deciziile lor și suntem șocați atunci când fac greșeli.

Chiar și șoferii de siguranță din spatele volanului mașinilor cu autovehicule își lasă paza. Filmarea de la incidentul Uber a arătat șoferului distras, privind cu câteva secunde înainte de accidentul care a avut loc.

În 2016, șoferul unui model Tesla S care funcționează în modul Autopilot a murit după ce vehiculul s-a prăbușit într-un camion. O anchetă a descoperit că șoferul ar fi putut viziona un film cu Harry Potter în momentul coliziunii.

Așteptările de perfecțiune sunt mari, iar dezamăgirile sunt puternice. Criticii au reușit să aducă în discuție întregul proiect de mașină auto-condusă de Uber după incident; Compania a suspendat temporar testarea autoturismului auto în perioada următoare.

AI nu este om

Printre criticile care au urmat accidentului se număra faptul că un șofer uman ar fi evitat cu ușurință incidentul.

"Nu a sărit din tufișuri. Ea făcea progrese clare pe mai multe benzi de circulație, care ar fi trebuit să fie în vederea preluării sistemului", a spus un expert pentru CNN.

Ea are dreptate. Probabil că un șofer uman experimentat ar fi descoperit-o. Dar algoritmii AI nu sunt umani.

Algoritmii de învățare profundă găsiți în mașinile cu autovehicule folosesc numeroase exemple pentru „învățarea” regulilor domeniului lor. Pe măsură ce petrec timp pe drum, clasifică informațiile pe care le adună și învață să gestioneze diferite situații. Dar acest lucru nu înseamnă neapărat că folosesc același proces de luare a deciziilor ca șoferii umani. De aceea, s-ar putea să fie mai performanți decât oamenii în unele situații și să eșueze în cele care par banale pentru oameni.

Un exemplu perfect este algoritmul de clasificare a imaginilor, care învață să recunoască imaginile analizând milioane de fotografii etichetate. De-a lungul anilor, clasificarea imaginilor a devenit super-eficientă și depășește oamenii în multe setări. Aceasta nu înseamnă că algoritmii înțeleg contextul imaginilor la fel cum o fac oamenii.

De exemplu, cercetările efectuate de experți de la Universitatea Microsoft și Stanford au descoperit că un algoritm de învățare profundă, antrenat cu imagini de pisici albe, credea cu un grad ridicat de convingere că o fotografie a unui câine alb reprezenta o pisică, o greșeală pe care un copil uman ar putea evita cu ușurință. Și într-un caz infam, algoritmul de clasificare a imaginii Google a clasificat în mod greșit persoanele de culoare închisă a pielii drept gorile.

Acestea sunt numite „cazuri de margine”, situații pe care algoritmii AI nu au fost instruiți să le gestioneze, de obicei din cauza lipsei de date. Accidentul Uber este încă în curs de investigare, dar unii experți AI sugerează că ar putea fi un alt caz de margine.

Învățarea profundă are multe provocări de depășit înainte de a putea fi aplicată în situații critice. Dar eșecurile sale nu ar trebui să ne descurajeze. Trebuie să ne ajustăm percepțiile și așteptările și să îmbrățișăm realitatea că orice mare tehnologie nu reușește în timpul evoluției sale. AI nu este diferit.