Fantoma ucigașului de mașini continuă. În ce crede președintele Putin?

Susținătorii roboților militari (1) susțin că armele automate oferă mai multe opțiuni pentru protejarea vieții umane. Mașinile sunt capabile să se apropie de inamic mai mult decât soldații și să evalueze corect amenințarea. Iar emoțiile paralizează uneori capacitatea de a lua deciziile corecte.

Mulți susținători ai utilizării roboților ucigași cred cu tărie că aceștia vor face războaiele mai puțin sângeroase, deoarece vor muri mai puțini soldați. Ei notează că roboții, deși nu simt milă, sunt imuni la emoțiile umane negative, cum ar fi panica, furia și răzbunarea, care adesea duc la crime de război.

Activiștii pentru drepturile omului folosesc, de asemenea, argumentul că armata a dus la o reducere uriașă a victimelor civile în ultima jumătate de secol, iar robotizarea armatei permite un mecanism care să aplice legile războiului mai strict. Ei susțin că mașinile vor deveni etice atunci când vor fi echipate cu software care le va forța să respecte legile războiului.

Desigur, un număr mare de oameni, inclusiv cei foarte celebri, nu împărtășesc această opinie de ani de zile. În aprilie 2013, a fost lansată o campanie internațională sub sloganul (2). În cadrul acestuia, organizațiile neguvernamentale cer interzicerea completă a utilizării armelor autonome. Experți din multe țări s-au așezat pentru prima dată pentru a discuta acest subiect la Conferința ONU pentru dezarmare de la Geneva, în mai 2014. Un raport publicat câteva luni mai târziu de Human Rights Watch și oameni de știință de la Universitatea Harvard spunea că cei autonomi ar fi prea periculoși - și-au ales propriile ținte și au ucis oameni. În același timp, nu este foarte clar cine ar trebui să fie tras la răspundere.

2. Demonstrație ca parte a campaniei Stop Killer Robots

Ce poate face un roi de drone mici

Disputele în jurul roboților ucigași (ROU) au loc de ani de zile și nu dispar. Ultimele luni au adus noi încercări de a opri roboții militari și un val de relatări despre noi proiecte de acest tip, dintre care unele chiar sunt testate în condiții reale de luptă.

În noiembrie 2017, un videoclip care arată roiuri mortale de mini-drone ., în acţiune terifiantă. Spectatorii au văzut că nu mai avem nevoie de mașinile grele de război, tancurile sau rachetele aruncate de Predatori pentru a ucide în masă și cu mitraliere. Directorul principal Stuart Russell, profesor de inteligență artificială la Berkeley, spune:

-

Primavara trecuta cincizeci de profesori Cele mai importante universități din lume au semnat un apel către Institutul Coreean de Știință și Tehnologie Avansată (KAIST) și partenerul său Hanwha Systems. au anunțat că nu vor coopera cu universitatea și nu vor găzdui oaspeți KAIST. Motivul a fost construcția de „arme autonome” realizată de ambele instituții. KAIST a negat informațiile din presă.

La scurt timp după aceea, în SUA mai mult de 3 angajați Google a protestat împotriva muncii companiei pentru militari. Ei erau îngrijorați de faptul că Google a fost în parteneriat cu un proiect guvernamental cu numele de cod Maven, care își propune să folosească inteligența artificială pentru a recunoaște obiectele și fețele din videoclipurile cu drone militare. Conducerea companiei spune că scopul Maven este să salveze vieți și să salveze oamenii de la munca obositoare, nu de la agresiune. Protestatarii nu au fost convinși.

Următoarea parte a bătăliei a fost declarația experți în inteligență artificială, incl. lucrând la un proiect Google și Elon Musk. Ei promit că nu vor dezvolta roboți. De asemenea, solicită guvernelor să intensifice eforturile de reglementare și limitare a acestor arme.

Declarația spune, parțial, că „decizia de a lua o viață umană nu ar trebui să fie luată niciodată de o mașinărie”. Deși armatele lumii sunt echipate cu multe dispozitive automate, uneori cu un grad ridicat de autonomie, mulți experți se tem că în viitor această tehnologie poate deveni complet autonomă, permițând uciderea fără nicio implicare a unui operator și comandant uman.

Experții avertizează, de asemenea, că mașinile de ucidere autonome ar putea fi chiar mai periculoase decât „armele nucleare, chimice și biologice”, deoarece pot scăpa cu ușurință de sub control. În total, în iulie anul trecut, o scrisoare sub auspiciile Institutului Viitorul Vieții (FGI) a fost semnată de 170 de organizații și 2464 de persoane. În primele luni ale anului 2019, un grup de oameni de știință medicali afiliați FLI au cerut din nou o nouă scrisoare prin care să interzică dezvoltarea armelor controlate de inteligența artificială (AI).

Reuniunea de anul trecut a ONU de la Gniewo din august privind posibila reglementare legală a „roboților ucigași” militari s-a încheiat cu succes... mașini. Un grup de țări, inclusiv Statele Unite, Rusia și Israel, au blocat continuarea lucrărilor privind introducerea unei interdicții internaționale a acestor arme (proiectul de Convenție privind interzicerea sau restricționarea utilizării anumitor arme convenționale, CCW). Nu este o coincidență că aceste țări sunt cunoscute pentru munca lor privind sistemele avansate de arme autonome și robotizate.

Rusia se concentrează pe roboții de luptă

Președintele Vladimir Putin este adesea citat spunând despre sistemele AI militare și roboții de luptă:

-.

vorbește deschis despre dezvoltarea armelor autonome. Șeful Statului Major General al forțelor sale armate, generalul Valery Gerasimov, a declarat recent agenției militare de știri Interfax-AVN că utilizarea roboților va fi una dintre principalele caracteristici ale războaielor viitoare. El a adăugat că Rusia încearcă automatizează complet câmpul de luptă. Comentarii similare au făcut și viceprim-ministrul Dmitri Rogozin și ministrul Apărării Serghei Șoigu. Președintele Comitetului pentru Apărare și Securitate al Consiliului Federației, Viktor Bondarev, a spus că Rusia se străduiește să dezvolte Tehnologii Rojuacest lucru ar permite rețelelor de drone să funcționeze ca o singură entitate.

Acest lucru nu este surprinzător dacă ne amintim că primele teletancuri au fost dezvoltate în Uniunea Sovietică în anii 30. Au fost folosite la începutul celui de-al Doilea Război Mondial. Astăzi și Rusia creează roboți tanc devin din ce în ce mai autonom.

Statul lui Putin și-a trimis recent propria lui în Siria Vehicul de luptă fără pilot Uran-9 (3). dispozitivul a pierdut contactul cu punctele de control de la sol, a avut probleme cu sistemul de suspensie, iar armele sale nu au funcționat perfect și nu au lovit ținte în mișcare. Nu sună foarte grav, dar mulți consideră ștergerea siriană a fi un bun test de luptă care le va permite rușilor să îmbunătățească mașina.

Roscosmos a aprobat un plan preliminar de a trimite doi roboți la Stația Spațială Internațională până în luna august a acestui an. Fedor (4) în Uniunea fără echipaj. Nu ca o încărcătură, dar. Ca și în filmul RoboCop, Fedor mânuiește o armă și demonstrează o trăgătoare mortală în timpul exercițiilor de tragere.

Întrebarea este de ce ar fi înarmat un robot în spațiu? Există suspiciuni că problema nu este doar în aplicații la sol. Între timp, pe Pământ, producătorul rus de arme Kalashnikov a arătat o vizualizare robotul Igorekcare, deși a stârnit multe hohote de râs, semnalează că compania lucrează serios la vehicule de luptă autonome. În iulie 2018, Kalashnikov a anunțat că construiește o armă pe care o folosește pentru a lua decizii de „trage sau nu împușcă”.

La aceste informații ar trebui adăugate rapoarte că armurierul rus Digtyarev a dezvoltat un mic tanc autonom Nerekht care se poate deplasa în tăcere spre ținta sa singur și apoi exploda cu o forță puternică pentru a distruge alte clădiri sau întregi. Precum și Tanc T14 Armata , mândria forțelor armate ruse, a fost concepută pentru posibilă control de la distanță și conducere fără pilot. Sputnik susține că inginerii militari ruși lucrează pentru a face din T-14 un vehicul blindat complet autonom.

Directiva privind obiecția

Armata SUA însăși a impus o limită destul de clară a nivelului de autonomie a armelor lor. În 2012, Departamentul de Apărare al SUA a emis Directiva 3000.09, care prevede că oamenii ar trebui să aibă dreptul de a se opune acțiunilor roboților înarmați. (deși pot exista unele excepții). Această directivă rămâne în vigoare. Politica actuală a Pentagonului este că factorul decisiv în folosirea armelor ar trebui să fie întotdeauna o persoană, iar o astfel de judecată ar trebui să fie. se conformează legilor războiului.

Deși americanii folosesc de zeci de ani mașini de zbor, Predator, Reaper și multe alte supermașini, acestea nu au fost și nu sunt modele autonome. Ele sunt controlate de operatori de la distanță, uneori de la o distanță de câteva mii de kilometri. O discuție aprinsă despre autonomia mașinilor de acest tip a început odată cu premiera prototipului. dronă X-47B (5), care nu numai că zbura independent, dar putea și să decoleze de pe un portavion, să aterizeze pe el și să se alimenteze în aer. Înțelesul este, de asemenea, să împuști sau să bombardezi fără intervenția umană. Cu toate acestea, proiectul este încă în curs de testare și revizuire.

5. Teste ale X-47B fără pilot pe un portavion american

În 2003, Departamentul Apărării a început să experimenteze cu un mic robot asemănător unui tanc. SPOES echipat cu o mitralieră. În 2007 a fost trimis în Irak. cu toate acestea, programul s-a încheiat după ce robotul a început să se comporte neregulat, mișcându-și pușca neregulat. Drept urmare, armata americană a abandonat studiul roboților la sol înarmați timp de mulți ani.

În același timp, armata SUA și-a crescut cheltuielile pentru operațiuni de la 20 de milioane de dolari în 2014 la 156 de milioane de dolari în 2018. În 2019, acest buget a crescut deja la 327 de milioane de dolari. Aceasta este o creștere cumulată de 1823% în doar câțiva ani. Experții spun că încă din 2025, armata americană ar putea avea un câmp de luptă mai mulți soldați-roboți decât oameni.

Recent, multe controverse au fost provocate și anunțate de armata SUA Proiectul ATLAS () - automat. În mass-media, acest lucru a fost considerat o încălcare a Directivei 3000.09 menționată mai sus. Cu toate acestea, armata SUA neagă și asigură că excluderea unei persoane din ciclul decizional este exclusă.

AI recunoaște rechinii și civilii

Cu toate acestea, apărătorii armelor autonome au argumente noi. prof. Ronald Arkin, robotian la Institutul de Tehnologie din Georgia, afirmă în publicațiile sale că În războiul modern, armele inteligente sunt esențiale pentru a evita victimele civile, deoarece tehnicile de învățare automată pot ajuta în mod eficient să facă distincția între combatanți și civili și ținte importante și neimportante.

Un exemplu de astfel de abilități AI este patrularea plajelor australiene. drone Micul Spintecătorechipat cu sistemul SharkSpotter dezvoltat de Universitatea de Tehnologie din Sydney. Acest sistem scanează automat apa pentru rechini și alertează operatorul când vede ceva nesigur. (6) Poate identifica oameni, delfini, bărci, plăci de surf și obiecte din apă pentru a le distinge de rechini. Poate detecta și identifica aproximativ șaisprezece specii diferite cu mare precizie.

6. Rechini recunoscuți în sistemul SharkSpotter

Aceste metode avansate de învățare automată măresc acuratețea recunoașterii aeriene cu peste 90%. Pentru comparație, un operator uman într-o situație similară recunoaște cu acuratețe 20-30% din obiectele din fotografiile aeriene. În plus, identificarea este încă verificată de un om înainte de o alarmă.

Pe câmpul de luptă, operatorul, văzând imaginea de pe ecran, poate determina cu greu dacă oamenii de la sol sunt luptători cu AK-47 în mână sau, de exemplu, fermieri cu știuci. Arkin observă că oamenii tind să „vadă ceea ce vor să vadă”, mai ales în situații stresante. Acest efect a contribuit la doborârea accidentală a unei aeronave iraniene de către USS Vincennes în 1987. Desigur, în opinia sa, armele controlate de AI ar fi mai bune decât actualele „bombe inteligente”, care nu sunt cu adevărat sensibile. În august anul trecut, o rachetă saudită ghidată cu laser a lovit un autobuz plin de școlari în Yemen, ucigând patruzeci de copii.

„Dacă un autobuz școlar este etichetat corespunzător, identificarea lui într-un sistem autonom poate fi relativ ușoară”, argumentează Arkin în Popular Mechanics.

Cu toate acestea, aceste argumente nu par să convingă militanții împotriva ucigașilor automati. Pe lângă amenințarea roboților ucigași, trebuie luată în considerare o altă circumstanță importantă. Chiar și un sistem „bun” și „atent” poate fi spart și preluat de oameni foarte răi. Atunci toate argumentele în apărarea echipamentului militar își pierd forța.