Cuprins:
Video: ana maria prodan vs alexa (Octombrie 2024)
Un dispozitiv Amazon Echo a înregistrat recent conversația privată a unui utilizator și a trimis-o unuia dintre persoanele de contact ale acestora fără cunoștința și consimțământul acestora. Acest lucru (din nou) ridică îngrijorări cu privire la securitatea și confidențialitatea boxelor inteligente. După cum a devenit mai târziu, însă, comportamentul ciudat al lui Alexa nu a făcut parte dintr-un complot sincer de spionaj - ci mai degrabă, a fost cauzat de o serie de eșecuri legate atribuite modului de funcționare a difuzorului inteligent.
Scenariul este un caz extrem, genul de incident care se întâmplă foarte rar. Dar este, de asemenea, un studiu interesant în limitele tehnologiei inteligenței artificiale care alimentează Echo și alte dispozitive așa-numite „inteligente”.
Prea multă încredere în cloud
Pentru a înțelege comenzile vocale, difuzoarele inteligente precum Echo și Google Home se bazează pe algoritmi de învățare profundă, care necesită o putere de calcul extinsă. Deoarece nu au resurse de calcul pentru a efectua sarcina local, trebuie să trimită datele către serverele cloud ale producătorului, unde algoritmii AI transformă datele de vorbire în text și procesează comenzile.
Însă boxele inteligente nu pot trimite tot ceea ce aud pe serverele lor cloud, deoarece acest lucru ar impune producătorului să stocheze cantități excesive de date pe serverele lor - cele mai multe fiind inutile. Înregistrarea și stocarea accidentală a conversațiilor private care au loc în casele utilizatorilor ar reprezenta, de asemenea, o provocare de confidențialitate și ar putea aduce producătorii în probleme, în special cu noile reglementări privind confidențialitatea datelor care pun restricții severe asupra modului în care companiile tehnologice stochează și folosesc datele.
De aceea, boxele inteligente sunt concepute pentru a fi declanșate după ce utilizatorul pronunță un cuvânt de trezire, cum ar fi „Alexa” sau „Hei Google”. Abia după ce au auzit cuvântul treaz, încep să trimită intrarea audio a microfoanelor în cloud pentru analiză și procesare.
În timp ce această caracteristică îmbunătățește confidențialitatea, prezintă propriile provocări, după cum a subliniat recent incidentul Alexa.
„Dacă cuvântul - sau ceva care sună foarte mult - este trimis la jumătatea unei conversații, Alexa nu va avea niciun context anterior”, spune Joshua March, CEO al Conversocial. "În acel moment, ascultă extrem de tare orice comandă legată de abilitățile pe care le-ați configurat (cum ar fi aplicația lor de mesagerie). În mare parte, confidențialitatea este mult îmbunătățită prin restrângerea contextului la care Alexa este atent (ca nu este înregistrarea sau ascultarea niciunei conversații normale), deși în acest caz s-a declanșat."
Avansele în calculul de bord pot ajuta la ameliorarea acestei probleme. Pe măsură ce AI și învățarea profundă își găsesc drum în tot mai multe dispozitive și aplicații, unii producători de hardware au creat procesoare specializate pentru a efectua sarcini de AI fără a se baza prea mult pe resursele cloud. Procesoarele AI Edge pot ajuta dispozitive precum Echo să înțeleagă mai bine și să proceseze conversațiile fără a încălca confidențialitatea utilizatorilor, trimițând toate datele în cloud.
Context și intenție
În afară de primirea de piese audio separate și fragmentate, AI-ul Amazon se străduiește să înțeleagă nuanțele conversației umane.
„În timp ce în ultimii ani s-au înregistrat progrese uriașe în învățarea profundă, ceea ce permite software-ului să înțeleagă vorbirea și imaginile mai bine ca niciodată, există încă o mulțime de limite”, spune March. "În timp ce asistenții vocali pot recunoaște cuvintele pe care le spui, nu au neapărat niciun fel de înțelegere reală asupra sensului sau intenției din spatele ei. Lumea este un loc complex, dar orice sistem AI de astăzi este capabil să se descurce foarte mult cazuri specifice de utilizare îngustă."
De exemplu, noi, oamenii, avem multe modalități de a determina dacă o propoziție este îndreptată către noi, cum ar fi tonul vocii sau urmarea unor indicii vizuale - să zicem, direcția în care vorbește vorbitorul.
În schimb, Alexa presupune că este destinatarul oricărei propoziții care conține cuvântul „A”. Acesta este motivul pentru care utilizatorii îl declanșează deseori accidental.
O parte a problemei este că exagerăm capabilitățile aplicațiilor AI actuale, adesea punându-le la egalitate sau deasupra minții umane și plasând prea multă încredere în ele. De aceea suntem surprinși atunci când nu reușesc spectaculos.
„O parte a problemei este că termenul„ AI ”a fost comercializat atât de agresiv încât consumatorii au plasat o cantitate nemeritată de credință în produsele cu acest termen legat de ele”, spune Pascal Kaufmann, neurolog și fondator al Starmind. „Această poveste ilustrează că Alexa are multe capacități și o înțelegere relativ limitată despre cum și când ar trebui aplicate în mod corespunzător.”
Algoritmii de învățare profundă sunt predispuși să eșueze atunci când se confruntă cu setări care se abat de la datele și scenariile pentru care sunt instruiți. „Una dintre caracteristicile definitorii ale AI la nivel uman va fi competența autosuficientă și o înțelegere adevărată a conținutului”, spune Kaufmann. "Aceasta este o parte crucială pentru a considera cu adevărat o AI" inteligentă "și vitală dezvoltării sale. Crearea de asistenți digitali conștienți de sine, care aduc cu ei o înțelegere deplină a naturii umane, vor marca transformarea lor de la o noutate amuzantă într-o cu adevărat unealtă folositoare."
Dar crearea AI la nivel uman, denumită și AI generală, este mai ușor spus decât făcut. De mai multe decenii, ne-am gândit că este chiar la colț, doar pentru a deveni consternat, deoarece progresele tehnologice au arătat cât de complicată este mintea umană. Mulți experți cred că urmărirea AI generală este zadarnică.
Între timp, AI îngustă (așa cum sunt descrise tehnologiile actuale ale inteligenței artificiale) prezintă încă multe oportunități și poate fi rezolvată pentru a evita repetarea greșelilor. Pentru a fi clar, învățarea profundă și învățarea automată sunt încă naștere, iar companii precum Amazon își actualizează constant algoritmii AI pentru a aborda cazurile de margine de fiecare dată când se întâmplă.
Ce trebuie să facem
"Acesta este un domeniu tânăr, în curs de dezvoltare. Înțelegerea limbajului natural este în special la început, deci putem face multe aici", spune Eric Moller, CTO al Atomic X.
Moller crede că algoritmii AI de analiză vocală pot fi reglați pentru a înțelege mai bine intonația și inflexiunea. „Utilizarea cuvântului„ Alexa ”într-o propoziție mai largă sună diferit decât o invocare sau o comandă. Alexa nu ar trebui să se trezească pentru că ai spus acest nume în timp, spune Moller. Cu o pregătire suficientă, AI ar trebui să poată distinge ce tonuri specifice sunt direcționate către difuzorul inteligent.
Companiile tehnice pot, de asemenea, să-și antreneze AI-ul pentru a putea distinge atunci când primește zgomot de fond, spre deosebire de a vorbi direct. "The chat chatter are o" semnătură "auditivă unică, că oamenii sunt foarte buni la preluare și la reglaj selectiv. Nu există niciun motiv pentru care nu putem antrena modelele AI pentru a face același lucru", spune Moller.
Ca precauție, asistenții AI ar trebui să evalueze impactul deciziilor pe care le iau și să implice decizii umane în cazurile în care doresc să facă ceva potențial sensibil. Producătorii ar trebui să integreze mai multe garanții în tehnologiile lor pentru a preveni transmiterea de informații sensibile fără acordul explicit și clar al utilizatorului.
"Deși Amazon a raportat că Alexa a încercat să confirme acțiunea pe care a interpretat-o, unele acțiuni trebuie gestionate mai atent și menținute la un standard mai ridicat de confirmare a intenției utilizatorului", spune Sagi Eliyahi, CEO al Tonkean. „Oamenii au aceleași probleme de recunoaștere a discursului, ocazional cu solicitări necorespunzătoare. Spre deosebire de Alexa, totuși, un om este mai probabil să confirme absolut faptul că înțeleg o cerere neclară și, mai important, să evalueze probabilitatea unei solicitări în comparație cu cererile anterioare."
Între timp…
În timp ce companiile de tehnologie își finalizează aplicațiile AI pentru a reduce greșelile, utilizatorii vor trebui să ia decizia finală cu privire la cât de mult vor să fie expuși la erorile potențiale pe care le-ar putea face dispozitivele lor cu AI.
„Aceste povești arată un conflict cu cantitatea de date pe care oamenii sunt dispuși să le împărtășească împotriva promisiunii noilor tehnologii AI”, spune Doug Rose, expert în științele datelor și scriitor al mai multor cărți despre AI și software. "S-ar putea să-l tachinezi pe Siri pentru că este lent. Dar cea mai bună modalitate de a obține o inteligență mai mare este invadarea conversațiilor noastre private. Așadar, o întrebare-cheie în următorul deceniu este cam cât vom permite acestor agenți AI să ne uite în comportamentul nostru ?“
"Ce familie ar plasa un asistent uman în sufragerie și ar lăsa persoana respectivă să asculte tot timpul conversațiilor?" spune Kaufmann, neurologul de la Starmind. „Cel puțin ar trebui să aplicăm aceleași standarde pentru dispozitivele așa-numite„ AI ”(dacă nu chiar mai mari) pe care le aplicăm și ființelor inteligente umane atunci când vine vorba de confidențialitate, secret sau fiabilitate."
