Cine va fi ucis de o mașină care se conduce singur? Mașină, salvează cât mai mulți oameni, dar mai ales, salvează-mă!

Dacă apare o situație în care sistemul autonom al unei mașini trebuie să aleagă rapid pe cine să sacrifice în cazul unui accident iminent, cum ar trebui să reacționeze? Sacrificarea pasagerilor pentru a salva pietonii? Dacă este necesar, ucideți un pieton pentru a scuti, de exemplu, o familie de patru persoane care călătorește într-o mașină? Sau poate ar trebui să se protejeze întotdeauna mai întâi?

Deși peste 1 de companii au primit deja permise de testare personală numai în California, este greu de spus că industria este pregătită să se confrunte cu dileme etice. În acest moment, el se confruntă cu probleme mai de bază - operarea și eficiența navigației a sistemelor și pur și simplu evitarea coliziunilor și a evenimentelor neprevăzute. În situații precum uciderea recentă a unui pieton în Arizona sau accidentele ulterioare (XNUMX), până acum a fost vorba doar despre defecțiuni ale sistemului, și nu despre un fel de „alegere etică” a mașinii.

Salvează-i pe cei bogați și tineri

Problemele luării unor astfel de decizii nu sunt probleme abstracte. Orice șofer cu experiență poate certifica acest lucru. Anul trecut, cercetătorii de la MIT Media Lab au analizat peste patruzeci de milioane de răspunsuri de la respondenți din întreaga lume, pe care le-au colectat în cursul cercetărilor lansate în 2014. Sistemul de sondaj pe care îl numesc „Mașina etică”, a arătat că în diverse locuri din jurul lumii, întrebări similare sunt adresate răspunsuri diferite.

Cele mai generale concluzii sunt previzibile. In situatii extreme oamenii preferă salvarea oamenilor decât îngrijirea animalelor, urmărind să salveze cât mai multe vieți și tind să fie mai tineri decât bătrânii (2). Există, de asemenea, unele preferințe, dar mai puțin evidente, când vine vorba de salvarea femeilor față de bărbați, a persoanelor cu statut mai înalt față de persoanele mai sărace și a pietonilor față de pasagerii mașinii..

2. Pe cine ar trebui să salveze mașina?

Deoarece aproape jumătate de milion de respondenți au completat chestionare demografice, a fost posibil să se coreleze preferințele lor cu vârsta, sexul și credințele religioase. Cercetătorii au ajuns la concluzia că aceste diferențe nu „afectează în mod semnificativ” deciziile oamenilor, dar au remarcat unele influențe culturale. Francezii, de exemplu, au avut tendința de a cântări deciziile pe baza numărului estimat de decese, în timp ce în Japonia accentul a fost cel mai puțin. Cu toate acestea, în Țara Soarelui Răsare, viața bătrânilor este prețuită mult mai mult decât în ​​Occident.

„Înainte de a permite mașinilor noastre să ia propriile decizii etice, trebuie să avem o dezbatere globală despre asta. Când companiile care lucrează pe sisteme autonome învață despre preferințele noastre, atunci vor dezvolta algoritmi etici în mașini bazați pe aceștia, iar politicienii pot începe să introducă prevederi legale adecvate”, au scris oamenii de știință în octombrie 2018 în Nature.

Unul dintre cercetătorii implicați în experimentul Mașinăria morală, Jean-Francois Bonnefont, a descoperit că preferința pentru salvarea persoanelor cu statut superior (cum ar fi directorii în detrimentul celor fără adăpost) este alarmantă. În opinia sa, aceasta este foarte legată de nivelul inegalității economice într-o anumită țară. Acolo unde inegalitățile erau mai mari, s-a acordat preferință sacrificării săracilor și celor fără adăpost.

Unul dintre studiile anterioare a arătat, în special, că, potrivit respondenților, o mașină autonomă ar trebui să protejeze cât mai mulți oameni, chiar dacă înseamnă pierderea de pasageri. Totodată, însă, respondenții au declarat că nu și-ar cumpăra o mașină astfel programată. Cercetătorii au explicat că în timp ce oamenii consideră că este mai etic să salveze mai mulți oameni, ei sunt, de asemenea, interesați, ceea ce ar putea fi un semnal pentru producători că clienții vor fi reticenți în a cumpăra mașini echipate cu sisteme altruiste.. În urmă cu ceva timp, reprezentanții companiei Mercedes-Benz spuneau că dacă sistemul lor ar salva o singură persoană, ar alege șoferul, nu pietonul. Un val de proteste publice a forțat compania să-și retragă declarația. Dar cercetările arată clar că a existat multă ipocrizie în această sfântă indignare.

Acest lucru se întâmplă deja în unele țări. primele încercări de reglementare legală în câmp. Germania a adoptat o lege care impune mașinilor fără șofer să evite cu orice preț rănirea sau decesul. Legea prevede, de asemenea, că algoritmii nu pot lua niciodată decizii pe baza unor caracteristici precum vârsta, sexul, sănătatea sau pietonii.

Audi preia conducerea

Proiectantul nu este capabil să prezică toate consecințele funcționării mașinii. Realitatea poate oferi întotdeauna o combinație de variabile care nu au fost niciodată testate înainte. Acest lucru ne subminează credința în posibilitatea de a „programa etic” o mașină. Ni se pare că în situațiile în care apare o eroare și apare o tragedie „din vina mașinii”, responsabilitatea ar trebui să fie suportată de producătorul și dezvoltatorul sistemului.

Poate că acest raționament este corect, dar poate nu pentru că a fost greșit. Mai degrabă, pentru că a fost permisă o mișcare care nu a fost 2019% liberă de posibilitatea de a o face. Acesta pare să fie motivul, iar responsabilitatea comună nu este eschivată de companie, care a anunțat recent că își va asuma responsabilitatea pentru accidentele care implică un A8 de 3 ani în timp ce folosește un sistem automat Traffic Jam Pilot (XNUMX).

3. Audi Traffic Jam Pilot Interfață

Pe de altă parte, există milioane de oameni care conduc mașini și fac și greșeli. Așadar, de ce ar trebui să fie discriminate în acest sens mașinile, care fac mult mai puține greșeli din punct de vedere statistic decât oamenii, după cum o demonstrează numeroasele greșeli?

Dacă cineva crede că dilemele de etică și responsabilitate în lumea vehiculelor autonome sunt simple, continuă să te gândești...