Cum va afecta gdpr industria aeriană | ben dickson

În ceea ce poate fi descris ca un fel de cursă de arme, companiile tehnologice au acumulat volume mari de date ale utilizatorilor pentru a perfecționa algoritmii de inteligență artificială care alimentează aplicațiile și platformele lor. Până acum, în mare parte au reușit să se sustragă din răspundere atunci când practicile lor i-au împins în zone legal și etic.

Dar acest lucru s-ar putea schimba pe 25 mai, când intră în vigoare Normele generale de protecție a datelor (GDPR) ale Uniunii Europene. GDPR va impune restricții fără precedent privind colectarea și manipularea datelor utilizatorilor din regiunea UE și va da sancțiuni severe companiilor care nu se conformează.

Acest lucru ar putea suna ca o veste proastă pentru companiile care folosesc algoritmi AI, care au beneficiat de reglementări laxe de colectare a datelor (și termeni lungi, plictisitori și ambiguiți ai documentelor de serviciu). Unii se tem că regulile mai stricte vor împiedica inovația și desfășurarea inteligenței artificiale în multe aplicații și domenii. Alții cred că noua directivă va crea o fundație în care aplicațiile AI vor deveni mai fiabile și de încredere.

Oricare ar fi cazul, industria AI este într-o schimbare importantă în era GDPR.

Proprietatea și confidențialitatea datelor

„GDPR este o afacere mare pentru AI, deoarece necesită să ne gândim diferit la modul în care colectăm și folosim datele”, spune Tim Estes, fondatorul și președintele raționamentului digital. "De prea mult timp, companiile tehnologice au insistat că pentru a primi valoare de la produsele și serviciile lor, trebuia să renunți la datele tale."

Anterior, companiile aveau obligația de a primi doar un acord vag de la utilizatori pentru a colecta tot felul de date. "AI a ajutat să mențină viu hype-ul de date mari - oferind încă un motiv pentru care întreprinderile ar trebui să colecteze și să extragă toate datele disponibile", spune Estes. "Multe companii au început să implementeze AI pentru a-și analiza datele doar pentru că consideră că ar trebui - fără să se gândească la impactul asupra confidențialității utilizatorului sau asupra proprietății datelor."

Premisa cea mai de bază a GDPR este că datele aparțin utilizatorilor. În conformitate cu GDPR, companiile vor trebui să dezvăluie întreaga gamă de informații pe care o colectează, precum și modul în care o folosesc și cum o vor proteja și împiedica accesul neautorizat. Noile reguli vor obliga companiile AI să fie mai minuțioase cu privire la datele pe care le colectează, în schimb să se angajeze în acapararea, procesarea și distribuirea informațiilor utilizatorilor.

Dreptul de a fi uitat

GDPR oferă utilizatorilor puterea de a cere ca o companie să-și șteargă toate datele de pe serverele sale. Acest lucru nu se va potrivi cu companiile AI, care au un interes de a păstra cât mai multe date despre utilizator pentru a îndeplini sarcini, cum ar fi prezicerea tendințelor și comportamentul utilizatorilor.

„La sfârșitul zilei, GDPR are în vedere modul în care colectați și gestionați datele și nu neapărat despre cât de multe date aveți”, spune Maryna Burushkina, CEO al GrowthChannel. "Principala dificultate cu care se vor confrunta majoritatea companiilor nu se rezumă la obținerea de opt-in-uri, ci mai degrabă la gestionarea datelor, la comunicarea utilizării datelor către utilizatori și la posibilitatea utilizatorilor să o șteargă."

Companiile AI vor trebui să facă pași suplimentari pentru a-și anonimiza datele dacă vor dori să aibă acces la aceste informații. Dar alte provocări se confruntă cu companiile care au deja magazine mari de date despre utilizatori.

„În conformitate cu GDPR, dacă o companie vrea să șteargă un anumit PII, atunci trebuie să se asigure că este șters peste tot”, spune Amnon Drori, CEO al Octopai. Aceasta poate fi o sarcină descurajantă de efectuat manual atunci când datele dvs. sunt împrăștiate pe diferite servere și stocate în diferite formate structurate și nestructurate.

De exemplu, atunci când ștergeți numărul cardului de credit al unui utilizator (cu siguranță o informație sensibilă), companiile vor trebui să analizeze fiecare raport, bază de date, obiect de bază de date și ETL unde sunt stocate informațiile. "Uneori, vedem nume de metadate diferite pentru același articol: de exemplu, " numărul cardului de credit ", " numărul cc ", numărul c de credit", "numărul cardului", "cardul de credit nr."… lista continuă și mai departe ", spune Drori. Adesea este imposibil de știut unde să arăți și procesul poate dura săptămâni sau chiar luni, și, ca multe procese manuale, este predispus la erori și inexactități umane, spune Drori.

GDPR va crește, de asemenea, costurile greșelilor umane în tratarea datelor. "Acesta este motivul pentru care atât de multe companii caută astăzi o soluție automatizată pentru a-și gestiona cu precizie metadatele", spune Drori. Poate ironic, AI în sine poate fi o soluție în această privință. Instrumentele de gestionare a metadatelor bazate pe AI pot scana toate sursele de date din cadrul unei organizații și pot consolida relațiile dintre diferite instrumente și surse de date.

Dreptul la explicație

Una dintre cele mai semnificative părți ale GDPR în ceea ce privește AI este ceea ce a devenit cunoscut drept „dreptul la explicație”. Directiva prevede că companiile trebuie să notifice utilizatorii despre „existența procesului decizional automatizat” și să le ofere „informații semnificative despre logica implicată, precum și despre importanța și consecințele preconizate ale unei astfel de prelucrări pentru persoana vizată”.

În principiu, acest lucru înseamnă că utilizatorii trebuie să știe când sunt supuși direct sau indirect la algoritmi AI și ar trebui să fie capabili să conteste deciziile pe care acești algoritmi le iau și să solicite dovezi despre cum a fost obținută concluzia. Aceasta va fi una dintre cele mai mari provocări cu care se va confrunta industria AI.

Rețelele neuronale profunde, principala tehnologie din spatele algoritmilor AI contemporani, sunt structuri software complexe care își creează propriile reguli de funcționalitate prin analizarea unor seturi mari de date și găsirea de corelații și tipare. Pe măsură ce rețelele neuronale devin mai complexe, comportamentul lor devine din ce în ce mai greu de descompus. Adesea, nici măcar inginerii nu pot explica motivele care stau la baza deciziilor luate de algoritmii lor AI.

Numită problema „caseta neagră”, inexplicabilitatea algoritmilor AI a făcut dificilă punerea lor în aplicare în deciziile de judecată, aplicarea legii, cereri de împrumut și credit, recrutare, asistență medicală și alte domenii critice. Dar, fără niciun efect juridic, companiile AI nu au avut prea multe stimulente să-și facă mai transparenti algoritmii AI, mai ales atunci când erau strâns legate de secretele lor comerciale.

Acum, GDPR va ține companiile AI pentru a da socoteală pentru deciziile luate de algoritmii lor.

„Ca parte a GDPR, organizațiile sunt responsabile să descrie în mod clar metoda de procesare în limbajul uman, în timp ce solicită consimțământul subiectului”, spune Pascal Geenens, cercetător de securitate la Radware. "Pe măsură ce învățarea profundă evoluează, iar oamenii de știință din date nu sunt în măsură să caracterizeze o natură deterministă în spatele raționamentului rețelei neuronale, această descriere ar putea deveni mai complexă și mai greu de explicat."

Practic, GDPR se referă la responsabilizarea oamenilor care procesează datele, spune Geenens. Deci, dacă utilizați algoritmi de învățare automată pentru a face procesarea, trebuie să le proiectați într-un mod care să vă permită să explicați deciziile pe care le iau în numele dvs.

Multe organizații încearcă să dezvolte tehnologii pentru a face AI mai transparentă. Proeminent printre aceștia este AI explicabil al DARPA (XAI), un proiect de cercetare care își propune să facă inteligibile deciziile bazate pe AI.

Externalizarea AI

GDPR va afecta, de asemenea, organizațiile care pun datele lor la dispoziția terților. Un exemplu proeminent al unei astfel de companii este Facebook; în scandalul său Cambridge Analytica, gigantul de socializare nu a reușit să împiedice firma de exploatare a datelor să colecteze și să abuzeze de datele a 87 de milioane de utilizatori. Dar GDPR va avea, de asemenea, implicații pentru companiile care își externalizează funcționalitățile AI și își pun datele la dispoziția furnizorilor AI.

"În timp ce mulți presupun că furnizorii de AI sunt ca și alți furnizori de servicii - oferă pur și simplu tehnologia lor în schimbul unei compensații bănești - adevărul este că furnizorii de AI încheie parteneriate de afaceri ca o modalitate de a construi și de a-și dezvolta tehnologia", spune Estes, șeful executiv de raționament digital. Acest lucru înseamnă că un furnizor AI poate dori să țină cont de datele unui client pentru a-și antrena mai mult algoritmii și a-l folosi în alte domenii.

De exemplu, un furnizor de AI care ajută o organizație medicală să găsească modele în simptome și să îmbunătățească diagnosticul ar putea întâlni un set de date care își îmbunătățește algoritmii proprietari. Compania AI ar putea dori apoi să utilizeze datele pentru a-și îmbunătăți algoritmii pentru alte tipuri de îngrijire a pacienților, pentru a-și evolua capacitățile pentru a ajuta alți furnizori de servicii medicale. În conformitate cu GDPR, organizația medicală responsabilă cu datele va fi ținută în considerare pentru orice utilizare neetică de către furnizorul AI. Cheia, consideră Estes, este ca întreprinderile să caute furnizori de AI care cred în deținerea algoritmilor, nu a datelor.

„GDPR va obliga firmele să acorde o atenție mai mare modului în care și când datele lor sunt utilizate, unde sunt stocate și ce se întâmplă cu acesta după finalizarea unui proiect”, spune Estes. "Aceasta înseamnă să lucrezi cu furnizori de AI care ajută la definirea liniilor de proprietate a datelor și să implementeze strategii care protejează informațiile utilizatorilor, fără a împiedica modurile în care este capabil să ajute la evoluția succesului algoritmilor AI".

GDPR va împiedica inovația AI?

Experți am vorbit pentru a crede că, deși noile reglementări vor contesta practicile și obiceiurile actuale pe care companiile AI le-au adoptat, le va obliga, de asemenea, să găsească noi modalități de a inova și de a menține respectul pentru confidențialitate și standardele etice.

„Odată cu intrarea în vigoare a reglementării GDPR, toate companiile de software majore iau măsurile necesare pentru a nu asigura doar conformitatea, ci și pentru a inova și a se gândi din cutie pentru a găsi noi oportunități pe piață”, spune Burushkina, de la GrowthChannel.

„Inovația nu va fi împiedicată - ci îndrumată și motivată - de GDPR”, spune Drori Octopai. Între timp, GDPR va da naștere la noi afaceri și tehnologii care vor ajuta organizațiile să atingă și să mențină conformitatea GDPR.

Standardele stabilite de GDPR ar putea ajuta, de fapt, la reducerea creșterii decalajului de încredere între furnizorii și utilizatorii serviciilor bazate pe AI. Estes consideră că GDPR îi va face atât pe furnizorii AI, cât și pe cei care își implementează tehnologia, mai responsabili de modul în care și de unde folosesc resursele de date și îi vor împinge să pună utilizatorii înainte de profit. „La sfârșitul zilei”, spune el, „furnizorii de AI ar trebui să aibă nevoie doar de a deține algoritmi - nu de date - pentru a-și inova capacitățile și soluțiile.”