Microsoft descompune modul de derulare a unui magazin etic

Președintele Microsoft, Brad Smith, a făcut pasul neobișnuit de a publica o postare pe blog vineri, 13 iulie 2018, în care a solicitat guvernului să reglementeze tehnologia propriei sale companii. Această tehnologie este recunoașterea facială, iar Smith vede deja pericolul în a permite utilizarea fără restricții a unei astfel de capacități, în special de către guverne. Dar Smith a subliniat, de asemenea, că utilizarea necorespunzătoare a recunoașterii faciale în industria privată poate avea consecințe la fel de înfricoșătoare.

Câteva zile mai târziu, Asociația pentru Mașini de Calcul (ACM) a postat pe site-ul său web codul de etică și conduită profesională ACM, care este un nou cod de conduită profesională, care are o poziție similară cu cea a Microsoft, dar care este mult mai larg în acoperirea comportamentului etic în domeniul tehnologiei informației (IT). Ceea ce au în comun ambele posturi este ideea menținerii unui nivel ridicat de responsabilitate corporativă. Acest lucru este un lucru pe care mulți profesioniști din IT încearcă să-l ignore și să-l lase pe oameni mai înalți pe lanțul alimentar cu salariu - o atitudine care este atât de nefericită, cât și periculoasă.

Smith, în postarea sa pe blog, se îngrijorează de utilizarea necorespunzătoare a recunoașterii faciale. El își dă seama că, chiar și în campusurile mari organizate în jurul tehnologiei actuale, în special jetoane de securitate precum cele angajate de multe sisteme de gestionare a identității, este posibil să ține o evidență foarte strânsă a locurilor unde sunt oamenii și, de acolo, să dezvăluie ceea ce fac. Dar, cu recunoașterea facială, este posibil să desemnați indivizii din orice mulțime oriunde și nu numai să le urmăriți unde se află, ci și să țină evidența locurilor unde s-au bazat pe date mici, în afară de caracteristicile lor fizice. După cum subliniază Smith, o astfel de urmărire are deja loc în China. Smith solicită o comisie pentru a studia utilizarea și consecințele recunoașterii faciale în Statele Unite.

Recunoașterea facială ca formă de identificare fiabilă

În mod clar, în multe cazuri, monitorizarea 24x7 a mișcărilor unei persoane este ilegală în SUA, așa cum demonstrează recentele decizii ale Curții Supreme a SUA privind utilizarea urmăririi locației telefonului mobil și utilizarea dispozitivelor GPS fără mandat. Dar asta nu înseamnă că unele agenții, undeva, nu vor încerca.

De asemenea, nu există nicio întrebare că recunoașterea facială a progresat până la punctul că poate fi utilizată ca o formă de identificare fiabilă (ID). Deja, unele companii aeriene testează recunoașterea facială pentru trecerea prin liniile de securitate și pentru utilizarea lor la îmbarcarea avioanelor de pe Aeroportul Internațional Los Angeles (LAX). De asemenea, când m-am întors la Washington, DC, într-un zbor din Londra, luna trecută, tot ce mi-a fost necesar pentru a intra în SUA a fost o vedere a feței de o cameră foto și o scanare a amprentelor mele în timp ce pașaportul meu era scanat de un cititor.

Recunoașterea facială: Pașii următori

Deci, întrebarea este, care este următorul pas? În calitate de pro IT, să presupunem că vi sa solicitat să creați un sistem de recunoaștere facială pentru angajatorul dvs., care să identifice persoanele pe care compania nu le dorea în proprietățile sau spațiile lor. Poate că au trecut un control necorespunzător, au fost suspectați de ridicare la cumpărături sau au fost un angajat care fusese concediat.

Ce ai face? Toate acestea sunt motive întemeiate pentru a nu permite unei persoane să intre în magazinul dvs. sau în proprietatea dvs. Sunt șanse mari să nu găsiți fotografii cu ele, astfel încât sistemul de recunoaștere ar trebui să le poată identifica cu ușurință. Deci ce urmeaza?

Aceasta este partea procesului dvs. de luare a deciziilor, în care trebuie să decideți cum să utilizați recunoașterea facială sau alte date biometrice pentru acea problemă, ca parte a politicilor dvs. de securitate. Acesta nu este la fel de tăiat și uscat ca răspunsul dvs. la o alertă împotriva programelor malware de la unul dintre nodurile dvs. de protecție. Aceste răspunsuri nu pot fi ușor automatizate. Deci, ai opri o alarmă? Pagina managerului instalației? Alertă securitate? Suna la politie? Răspunsul la oricare dintre acestea ar putea fi da, dar poate fi și nu - și luarea unei decizii greșite ar putea fi o greșeală de încheiere a carierei.

7 sfaturi privind utilizarea în mod înțelept a recunoașterii faciale

Iată câteva sfaturi care ar putea ajuta la reducerea șanselor de probleme, în timp ce vă protejați în continuare organizația:

Publicați notificări în care vizitatorii și angajații le vor vedea, informându-le că utilizați videoclipuri de supraveghere și recunoaștere facială ca parte a operațiunii dvs. de securitate. (Juriștii dvs. vor fi fericiți să vă ajute cu limba actuală.)

Asigurați-vă că există un om în buclă înainte ca orice acțiune să fie luată pe baza oricărui ID biometric. Deși este din ce în ce mai bună, recunoașterea facială, ca și alte biometrii, nu este de încredere de 100 la sută. Înainte de a lua măsuri, cineva trebuie să confirme ce spune sistemul de recunoaștere. (Colaborează cu departamentul legal și conducerea superioară pentru a face acest lucru.)

Recunoașteți limitarea sistemului dvs. de identificare facială sau biometrică. De exemplu, tehnologia actuală de recunoaștere facială funcționează cel mai bine cu bărbații albi, dar nu atât de bine cu femelele care nu sunt albe. Trebuie să vă asigurați că nu efectuați din greșeală profilări rasiale. Amintiți-vă de durerea care a apărut companiile, de la CVS la Starbucks, când, intenționat sau nu, au făcut exact asta. (În total, o discuție foarte bună pe care să o purtați cu echipa dvs. legală.)

Asigurați-vă că există o procedură „Oops”. Veți avea coduri de identitate greșite, așa că trebuie să vă asigurați că nu jenează persoana sau compania. (Din nou, atât avocații companiei, cât și conducerea superioară ar trebui să cântărească aici.)

Determinați în prealabil unde veți partaja rezultatele verificărilor dvs. de identificare. Nu poți doar să trimiți totul diferitelor autorități guvernamentale. Trebuie să determinați ce puteți partaja, ce nu puteți partaja și ce necesită un mandat. Apoi, asigurați-vă că procedurile dvs. interne sunt puternice, astfel încât angajații dvs. nu încearcă să favorizeze împărtășind ceea ce nu trebuie împărtășit. (Este probabil o conversație mai lungă cu avocații dvs., deci comandați într-o pizza.)

Testează-ți continuu sistemele de identificare cu cele mai cunoscute seturi de date, astfel încât să poți face recunoașterea mai exactă. (Furnizorul dvs. de recunoaștere facială ar trebui să aibă astfel de seturi de date disponibile și, în timp, veți putea să vă construiți.)

• În cele din urmă, aveți grijă către cine vizați pentru recunoaștere. Membrii publicului au drepturi puternice de confidențialitate, iar încălcarea acestor drepturi vă poate costa organizația. (Ghici ce? Mai mult timp pentru avocat.)

În timp ce compania dvs. nu poate controla ceea ce guvernul decide să facă în ceea ce privește recunoașterea facială, ceea ce probabil nu este nimic, având în vedere atmosfera disfuncțională din Washington, DC în aceste zile, puteți controla ce se întâmplă în spațiile proprii. De fapt, te vei aștepta dacă te vei găsi vreodată în fața unui judecător. După principiile etice ale ACM de a fi cinstit și de încredere și de a lua măsuri pentru a nu face discriminări în timp ce protejăm confidențialitatea au devenit mai importante ca niciodată.