Acasă Gândire înainte Yann Lecun discută despre puterea, limitele învățării profunde

Yann Lecun discută despre puterea, limitele învățării profunde

Video: Heroes of Deep Learning: Andrew Ng interviews Yann LeCun (Octombrie 2024)

Video: Heroes of Deep Learning: Andrew Ng interviews Yann LeCun (Octombrie 2024)
Anonim

La un workshop despre AI și Viitorul muncii la începutul acestei luni, Yann LeCun, director al AI Research în Facebook și directorul fondator al Centrului pentru știința datelor din NYU, a vorbit despre „puterea și limitele învățării profunde”. LeCun, care a fost pionier în rețelele neuronale convolutive care se află în centrul multor progrese recente în AI, a fost atât entuziasmat de progresele pe care le-a făcut domeniul în ultimii ani și realist cu privire la ceea ce pot și nu pot face astfel de sisteme.

Au existat mai multe valuri de AI, a spus LeCun și a menționat că, în timp ce valul actual s-a concentrat pe învățarea profundă, ceea ce urmează este „percepția”, cele mai mari exemple fiind aplicații precum imagistica medicală și autovehiculele cu autovehicule. Aproape toate aceste aplicații folosesc învățare supravegheată și majoritatea folosesc rețele neuronale convoluționale, pe care LeCun le-a descris pentru prima dată în 1989 și care au fost implementate pentru prima dată în recunoașterea caracterelor în bancomate în 1995. LeCun a declarat că brevetul pe astfel de rețele expiră în 2007.

Este vorba despre marile seturi de date cu dimensiuni mari ale eșantionului, precum și creșterile extraordinare ale puterii de calcul (ajutat de lucrările lui Geoffrey Hinton în a descoperi modul de utilizare a GPU-urilor pentru recunoașterea imaginii) care au dus la cele mai mari schimbări din ultimii ani. Chiar și pentru LeCun, progresele recunoașterii imaginii au fost „altceva decât uimitoare”. Deși percepția „funcționează cu adevărat”, ceea ce încă lipsește este raționamentul.

LeCun a vorbit despre trei tipuri diferite de abordări și despre limitările fiecăreia dintre ele. Învățarea de consolidare necesită un număr mare de eșantioane. Este excelent pentru jocuri, deoarece sistemul poate rula milioane de încercări și poate fi din ce în ce mai bun, dar este greu de utilizat în lumea reală, deoarece nu vrei să conduci o mașină de pe o stâncă de 50 de milioane de ori, de exemplu, și timpul real este un factor în lumea reală.

Învățarea supravegheată, care este cea mai mare parte a ceea ce vedem acum, necesită o cantitate medie de feedback și funcționează bine. Cu toate acestea, învățarea automată supravegheată are unele probleme. LeCun a spus că astfel de sisteme reflectă prejudecățile în date, deși a spus că este optimist această problemă poate fi depășită și consideră că este mai ușor să eliminați prejudecățile de pe mașini în comparație cu oamenii. Dar este, de asemenea, greu de verificat astfel de sisteme pentru fiabilitate și decizii dificil de explicat pe baza rezultatelor din astfel de sisteme, iar LeCun a vorbit despre aplicații de împrumut ca exemplu în acest sens.

Învățarea nesupervizată sau predictivă, care este cercetată în prezent pentru lucruri precum previziunea cadrelor viitoare dintr-un videoclip, necesită mult feedback. Învățarea nesupravegheată presupune prezicerea trecutului, prezentului sau viitorului din orice informații disponibile sau, cu alte cuvinte, capacitatea de a completa golurile, despre care LeCun a spus este efectiv ceea ce numim bunul simț. El a menționat că bebelușii pot face acest lucru, dar că obținerea de mașini în acest sens a fost foarte dificilă și a vorbit despre modul în care cercetătorii lucrează la tehnici precum rețelele adverse adversare (GAN) pentru predicții făcute în condiții incerte. El este departe de a avea o soluție completă, a spus el.

LeCun a vorbit despre cele trei tipuri de învățare ca fiind niște părți ale unei prăjituri: învățarea prin consolidare este cireșa deasupra, învățarea supravegheată a gătitului, iar învățarea predictivă este partea principală a tortului.

LeCun a prezis că AI va schimba modul în care lucrurile sunt evaluate, mărfurile construite de roboți costând mai puțin și experiențele umane autentice costând mai mult, și a spus că acest lucru poate însemna că există „un viitor luminos pentru muzicienii și artizanii de jazz”.

În general, LeCun a spus că AI este o tehnologie cu scop general (GPT), cum ar fi motorul cu aburi, electricitatea sau computerul. Ca atare, aceasta va afecta multe domenii ale economiei, dar vor dura 10 sau 20 de ani până când vom vedea un efect asupra productivității. LeCun a spus că AI va duce la înlocuirea locului de muncă, dar a menționat că implementarea tehnologiei este limitată de modul în care muncitorii se pot antrena pentru aceasta.

În ceea ce privește o „adevărată revoluție a AI”, LeCun a spus că acest lucru nu se va întâmpla până când mașinile nu vor dobândi bunul simț, iar determinarea principiilor pentru a construi aceasta poate dura doi, cinci, douăzeci sau mai mulți ani; dincolo de asta, va dura apoi ani de zile pentru a dezvolta tehnologia AI practică bazată pe aceste principii. La urma urmei, a menționat, a fost nevoie de douăzeci de ani pentru ca rețelele convoluționale să devină importante. Și asta se bazează pe presupunerea că principiile sunt simple; devine mult mai complicat dacă „inteligența este o problemă”.

Yann Lecun discută despre puterea, limitele învățării profunde