Spune-i pisoiului tău ce crezi în interior - efectul cutie neagră

Faptul că algoritmii AI avansati sunt ca o cutie neagră (1) care aruncă un rezultat fără a dezvălui cum a apărut acesta îi îngrijorează pe unii și îi supără pe alții.

În 2015, o echipă de cercetare de la Spitalul Mount Sinai din New York a fost rugată să utilizeze această metodă pentru a analiza o bază de date extinsă de pacienți locali (2). Această colecție vastă conține un ocean de informații despre pacienți, rezultate ale testelor, prescripții și multe altele.

Oamenii de știință au numit programul analitic dezvoltat în timpul lucrărilor. S-a antrenat pe date de la aproximativ 700 de oameni. uman și, atunci când este testat în noi registre, s-a dovedit a fi extrem de eficient în prezicerea bolii. Fără ajutorul experților umani, el a descoperit modele în înregistrările spitalului care indică ce pacient este pe calea către o boală, cum ar fi cancerul de ficat. Potrivit experților, eficiența de prognostic și diagnostic a sistemului a fost mult mai mare decât cea a oricăror alte metode cunoscute.

2. Sistem medical de inteligență artificială bazat pe baze de date de pacienți

În același timp, cercetătorii au observat că funcționează într-un mod misterios. S-a dovedit, de exemplu, că este ideal pentru recunoașterea tulburărilor psihiceprecum schizofrenia, care este extrem de dificilă pentru medici. Acest lucru a fost surprinzător, mai ales că nimeni nu avea idee cum sistemul AI ar putea vedea atât de bine bolile mintale pe baza doar fișele medicale ale pacientului. Da, specialiștii au fost foarte mulțumiți de ajutorul unui diagnosticist de mașini atât de eficient, dar ar fi mult mai mulțumiți dacă ar înțelege cum ajunge AI-ul la concluziile sale.

Straturi de neuroni artificiali

De la bun început, adică din momentul în care conceptul de inteligență artificială a devenit cunoscut, au existat două puncte de vedere asupra AI. Primul a sugerat că ar fi cel mai rezonabil să construim mașini care să raționeze în conformitate cu principiile cunoscute și cu logica umană, făcându-și funcționarea interioară transparentă pentru toată lumea. Alții credeau că inteligența ar apărea mai ușor dacă mașinile ar învăța prin observație și experimente repetate.

Acesta din urmă înseamnă inversarea programării tipice de computer. În loc ca programatorul să scrie comenzi pentru a rezolva o problemă, programul generează propriul algoritm pe baza datelor eșantionului și a rezultatului dorit. Metodele de învățare automată care au evoluat ulterior în cele mai puternice sisteme AI cunoscute astăzi tocmai au urmat calea, de fapt, mașina în sine programează.

Această abordare a rămas la marginea cercetării sistemelor AI în anii 60 și 70. Abia la începutul deceniului precedent, după unele schimbări și îmbunătățiri de pionierat, Rețele neuronale „profunde”. a început să demonstreze o îmbunătățire radicală a capacităților de percepție automată. 

Învățarea automată profundă a înzestrat computerele cu abilități extraordinare, cum ar fi capacitatea de a recunoaște cuvintele rostite aproape la fel de precis ca un om. Aceasta este o abilitate prea complexă pentru a fi programată din timp. Aparatul trebuie să fie capabil să-și creeze propriul „program” prin instruire pe seturi uriașe de date.

Învățarea profundă a schimbat, de asemenea, recunoașterea imaginii computerului și a îmbunătățit considerabil calitatea traducerii automate. Astăzi, este folosit pentru a lua tot felul de decizii cheie în medicină, finanțe, producție și multe altele.

Cu toate acestea, cu toate acestea nu poți să te uiți în interiorul unei rețele neuronale profunde pentru a vedea cum funcționează „înăuntru”. Procesele de raționament în rețea sunt încorporate în comportamentul a mii de neuroni simulați, organizați în zeci sau chiar sute de straturi complicate interconectate..

Fiecare dintre neuronii din primul strat primește o intrare, cum ar fi intensitatea unui pixel dintr-o imagine, apoi efectuează calcule înainte de a scoate rezultatul. Ele sunt transmise într-o rețea complexă către neuronii următorului strat - și așa mai departe, până la semnalul final de ieșire. În plus, există un proces cunoscut sub numele de ajustare a calculelor efectuate de neuroni individuali, astfel încât rețeaua de antrenament să producă rezultatul dorit.

Într-un exemplu des citat legat de recunoașterea imaginii câinilor, nivelurile inferioare de AI analizează caracteristici simple, cum ar fi forma sau culoarea. Cele mai înalte se ocupă de probleme mai complexe precum blana sau ochii. Numai stratul superior le reunește pe toate, identificând setul complet de informații ca un câine.

Aceeași abordare poate fi aplicată și altor tipuri de intrări care permit mașina să învețe singură: sunete care alcătuiesc cuvintele în vorbire, literele și cuvintele care alcătuiesc propoziții în text scris sau un volan, de exemplu. mișcările necesare conducerii unui vehicul.

Mașina nu omite nimic.

Se încearcă să explice ce se întâmplă exact în astfel de sisteme. În 2015, cercetătorii de la Google au modificat un algoritm de recunoaștere a imaginii de deep learning, astfel încât, în loc să vadă obiecte în fotografii, le-a generat sau modificat. Prin rularea algoritmului înapoi, ei au dorit să descopere caracteristicile pe care programul le folosește pentru a recunoaște, să zicem, o pasăre sau o clădire.

Aceste experimente, cunoscute public ca titlu, au produs reprezentări uimitoare ale (3) animale grotești, bizare, peisaje și personaje. Dezvăluind unele dintre secretele percepției mașinilor, cum ar fi faptul că anumite modele sunt returnate și repetate în mod repetat, ei au arătat, de asemenea, cât de profundă învățarea automată diferă de percepția umană - de exemplu, în sensul că extinde și dublează artefactele pe care le ignorăm. în procesul nostru de percepere fără a gândi . .

3. Imagine creată în proiect

Apropo, pe de altă parte, aceste experimente au dezvăluit misterul propriilor noastre mecanisme cognitive. Poate că în percepția noastră există diverse componente de neînțeles care ne fac imediat să înțelegem și să ignorăm ceva, în timp ce mașina își repetă cu răbdare iterațiile pe obiecte „neimportante”.

Alte teste și studii au fost efectuate în încercarea de a „înțelege” mașina. Jason Yosinski el a creat un instrument care acționează ca o sondă blocată în creier, țintind orice neuron artificial și căutând imaginea care îl activează cel mai puternic. În ultimul experiment, imaginile abstracte au apărut ca urmare a „peeping” rețelei în flagrant, ceea ce a făcut ca procesele care au loc în sistem și mai misterioase.

Cu toate acestea, pentru mulți oameni de știință, un astfel de studiu este o neînțelegere, deoarece, în opinia lor, pentru a înțelege sistemul, pentru a recunoaște tiparele și mecanismele unui ordin superior de luare a deciziilor complexe, toate interacțiunile de calcul în interiorul unei rețele neuronale profunde. Este un labirint uriaș de funcții și variabile matematice. Momentan, este de neînțeles pentru noi.

Computerul nu pornește? De ce?

De ce este important să înțelegem mecanismele decizionale ale sistemelor avansate de inteligență artificială? Modelele matematice sunt deja folosite pentru a determina care deținuți pot fi eliberați condiționat, cui pot primi un împrumut și cine poate obține un loc de muncă. Cei interesați ar dori să știe de ce s-a luat această decizie și nu o altă decizie, care sunt temeiurile și mecanismul ei.

a recunoscut el în aprilie 2017 în MIT Technology Review. Tommy Yaakkola, un profesor MIT care lucrează la aplicații pentru învățarea automată. -.

Există chiar și o poziție juridică și de politică conform căreia capacitatea de a analiza și înțelege mecanismul de luare a deciziilor al sistemelor AI este un drept fundamental al omului.

Din 2018, UE a încercat să solicite companiilor să ofere explicații clienților lor cu privire la deciziile luate de sistemele automate. Se pare că uneori acest lucru nu este posibil chiar și cu sisteme care par relativ simple, cum ar fi aplicațiile și site-urile web care folosesc știința profundă pentru a afișa reclame sau pentru a recomanda melodii.

Calculatoarele care rulează aceste servicii se programează singure și o fac în moduri pe care noi nu le putem înțelege... Nici măcar inginerii care creează aceste aplicații nu pot explica pe deplin cum funcționează.