Cabinetul Ororilor

Creșterea mașinilor și acapararea puterii de către inteligența artificială. O lume de supraveghere completă și control social. Războiul nuclear și degenerarea civilizației. Multe viziuni întunecate ale viitorului, pictate cu mulți ani în urmă, erau pe cale să se întâmple astăzi. Între timp, ne uităm înapoi și se pare că nu au existat niciodată. Esti sigur?

Există un repertoriu destul de stereotip de populare profeții distopice (cu privire la viziunea neagră a viitorului). Pe lângă cele mai frecvente legate de distrugerea mediului și a resurselor naturale, se crede că tehnologiile emergente sunt dăunătoare comunicării interpersonale, relațiilor și societății.

Spațiul virtual va înlocui în mod înșelător participarea reală în lume. Alte vederi distopice privesc dezvoltarea tehnologică ca pe o modalitate de a crește inegalitatea socială, concentrând puterea și bogăția în mâinile unor grupuri restrânse. Cerințele mari ale tehnologiei moderne concentrează cunoștințele și abilitățile în cercuri restrânse ale indivizilor privilegiați, sporesc supravegherea oamenilor și distrug intimitatea.

Potrivit multor futuriști, o productivitate mai mare și o alegere vizibilă sporită pot dăuna calității vieții unei persoane, provocând stres, amenințăndu-ne locurile de muncă, făcându-ne din ce în ce mai materialiști în privința lumii.

Unul dintre faimoșii „distopici” tehnologici James Gleick, oferă exemplul aparent banal al unei telecomenzi pentru televizor ca o invenție clasică care nu rezolvă o singură problemă semnificativă, dând naștere la multe altele noi. Gleick, citând un istoric al tehnologiei Edward Tenner, scrie că abilitatea și ușurința de a schimba canalele folosind telecomanda servește în primul rând la distragerea atenției spectatorului din ce în ce mai mult.

În loc de satisfacție, oamenii sunt din ce în ce mai nemulțumiți de canalele pe care le urmăresc. În loc să satisfacă nevoile, există un sentiment de dezamăgire nesfârșită.

Ne vor ține aparatele pe rezervări?

Vom fi capabili să controlăm acest lucru care este inevitabil și probabil să apară în curând? Peste inteligența artificială? Dacă trebuie să fie așa, așa cum proclamă multe viziuni distopice, atunci nu. (1).

Este greu să controlezi ceva care este de multe ori mai puternic decât noi. pe măsură ce numărul sarcinilor crește. În urmă cu douăzeci de ani, nimeni nu ar fi crezut că ar fi capabil să citească emoțiile în vocea unei persoane și să se confrunte cu mult mai precis decât putem face noi înșine. Între timp, algoritmii pregătiți în prezent sunt deja capabili de acest lucru, analizând expresiile faciale, timbrul și modul în care vorbim.

Calculatoarele desenează, compun muzică și unul chiar a câștigat un concurs de poezie în Japonia. Ei bat oamenii la șah de multă vreme, învățând jocul de la zero. Același lucru este valabil și pentru jocul mult mai complex Go.

se supune legile accelerării tot mai rapide. Ceea ce a realizat AI - cu ajutorul uman - în ultimele decenii se va dubla în următorii câțiva ani, poate doar luni, iar apoi va dura doar săptămâni, zile, secunde...

După cum sa dovedit recent, algoritmii utilizați în smartphone-uri sau în aeroporturi pentru a analiza fotografiile de la camerele ubicue sunt capabili nu numai să recunoască pe cineva în cadre diferite, ci și să identifice caracteristici psihologice extrem de intime. A spune că acesta este un risc uriaș pentru confidențialitate este o subestimare. Nu este vorba despre simpla supraveghere, monitorizarea fiecărui pas, ci despre informațiile care apar ca urmare a însuși aspectului unei persoane, despre dorințele ascunse și preferințele sale personale. 

Algoritmii pot învăța acest lucru relativ rapid analizând sute de mii de cazuri, ceea ce este mult mai mult decât poate vedea cea mai inteligentă persoană într-o viață. Înarmați cu o astfel de experiență bogată, ei sunt capabili să scaneze o persoană cu mai multă acuratețe decât chiar și cel mai experimentat psiholog, analist al limbajului corpului și al gesturilor.

Deci adevărata distopie înfiorătoare nu este că computerele joacă șah sau Go împotriva noastră, ci că ne pot vedea sufletul mai adânc decât oricine altcineva decât noi înșine, plin de interdicții și blocaje în recunoașterea acelor sau a altor înclinații.

Elon Musk consideră că, pe măsură ce sistemele AI încep să învețe și să raționeze la o scară din ce în ce mai mare, „inteligența” poate evolua undeva adânc în straturi web, neobservat de noi.

Potrivit unui studiu american publicat în 2016, inteligența artificială are șanse de 45% să depășească oamenii în toate sarcinile în următorii 50 de ani. Meteorologii spun că da, AI va rezolva problema cancerului, va îmbunătăți și accelera economia, va oferi divertisment, va îmbunătăți calitatea și durata vieții, ne va educa astfel încât să nu putem trăi fără el, dar este posibil ca într-o zi, fără ura, doar bazată pe calcul logic, pur și simplu ne înlătură. Este posibil să nu fie posibil din punct de vedere fizic, deoarece în fiecare sistem merită să acumulați, să arhivați și să stocați resurse care „poate fi utile într-o zi”. Da, aceasta este resursa pe care putem deveni pentru AI. Rezerve umane protejate?

Optimiștii se consolează cu faptul că există întotdeauna posibilitatea de a scoate ștecherul din priză. Totuși, totul nu este atât de simplu. Deja, viața umană a devenit atât de dependentă de computere încât un pas radical împotriva lor ar fi catastrofal pentru noi.

La urma urmei, creăm din ce în ce mai mult sisteme de luare a deciziilor bazate pe inteligență artificială, dându-le dreptul de a pilota avioane, de a stabili dobânzi, de a gestiona centralele electrice - știm că algoritmii vor face acest lucru mult mai bine decât noi. În același timp, nu înțelegem pe deplin cum sunt luate aceste decizii digitale.

Există temeri că sistemele de comandă super-inteligente precum Reduce Congestion i-ar putea conduce la concluzia că singura modalitate eficientă de a duce treaba la bun sfârșit este... reducerea populației cu o treime sau chiar la jumătate.

Da, merită să dați mașinii cele mai importante instrucțiuni precum „În primul rând, salvați viața umană!” Cu toate acestea, cine știe dacă logica digitală va duce apoi la închisoarea umanității sau la un hambar, unde s-ar putea să fim în siguranță, dar cu siguranță nu liberi.

Crima cibernetică ca serviciu

În trecut, distopiile și imaginile unei lumi post-apocaliptice în literatură și film erau de obicei localizate în epoca post-războiului nuclear. Astăzi, anihilarea nucleară nu pare necesară pentru a catastrofa și a distruge lumea așa cum o cunoaștem, deși nu așa cum ne imaginăm. , este puțin probabil să distrugă lumea ca în „Terminator”, unde a fost combinat cu anihilarea nucleară. Dacă ar face asta, nu ar fi o superinteligență, ci o forță primitivă. La urma urmei, nici măcar omenirea nu a realizat încă scenariul global al unui conflict nuclear distructiv.

O adevărată apocalipsă de mașini poate fi mult mai puțin impresionantă.

Războiul cibernetic, atacurile de viruși, hacking-ul de sistem și ransomware, ransomware (2) paralizează și distrug lumea noastră la fel de eficient ca bombele. Dacă amploarea lor se extinde, s-ar putea să intrăm într-o fază de război total atotcuprinzător, în care vom deveni victime și ostatici ai mașinilor, deși nu sunt obligați să acționeze autonom și este posibil ca oamenii să fie încă în spatele tuturor.

Vara trecută, Agenția de securitate cibernetică și infrastructură din SUA (CISA) a numit atacurile ransomware „cea mai importantă amenințare la adresa securității cibernetice”.

CISA susține că multe activități în care un criminal cibernetic interceptează și criptează datele unei persoane sau ale unei organizații și apoi stoarce răscumpărare pentru acestea nu sunt niciodată raportate, deoarece victima plătește infractorii cibernetici și nu este dispusă să facă publice problemele cu sistemele lor nesigure. La nivel micro, infractorii cibernetici vizează adesea adulții în vârstă care au dificultăți în a face distincția între conținutul onest și necinstit online. Ei fac acest lucru folosind programe malware încorporate într-un atașament de e-mail sau într-o fereastră pop-up de pe un site web infectat. În același timp, atacurile asupra marilor corporații, spitale, agenții guvernamentale și guverne sunt în creștere.

Aceștia din urmă au fost vizați în special din cauza datelor sensibile pe care le dețin și a potențialului de plăți mari de răscumpărare.

Unele informații, cum ar fi informațiile despre sănătate, sunt mult mai valoroase pentru proprietar decât altele și pot aduce mai mulți bani infractorilor. Hoții pot intercepta sau pune în carantină blocuri mari de date clinice importante pentru îngrijirea pacientului, cum ar fi rezultatele testelor sau informațiile despre medicamente. Când sunt în joc vieți, nu există loc de negociere în spital. Un spital american a fost închis definitiv în noiembrie anul trecut, după atacul terorist din august.

Probabil că se va agrava doar în timp. În 2017, Departamentul de Securitate Internă din SUA a anunțat că atacurile cibernetice ar putea viza infrastructura critică, cum ar fi utilitățile de apă. Iar instrumentele necesare pentru a desfășura astfel de acțiuni sunt din ce în ce mai disponibile operatorilor mai mici, cărora le vând kituri de ransomware precum software-ul Cerber și Petya și percep o taxă de răscumpărare după atacuri reușite. Bazat pe criminalitatea cibernetică ca serviciu.

Tulburare periculoasă a genomului

Una dintre temele populare ale distopiei este genetica, manipularea ADN-ului și reproducerea oamenilor - în plus, „programate” în mod corect (de autorități, corporații, armată).

Întruchiparea modernă a acestor anxietăți este o metodă de popularizare Editarea genelor CRISPR (3). Mecanismele pe care le conține sunt în primul rând îngrijorătoare. forțarea funcțiilor dorite în generaţiile următoare şi potenţialul lor răspândit la întreaga populaţie. Unul dintre inventatorii acestei tehnici, Jennifer Doudna, chiar și recent a cerut un moratoriu asupra unor astfel de tehnici de editare a liniei germinale din cauza consecințelor potențial catastrofale.

Să ne amintim că acum câteva luni un om de știință chinez Pe Jiankui a fost criticat pe scară largă pentru editarea genelor embrionilor umani pentru a-i imuniza împotriva virusului SIDA. Motivul a fost că schimbările pe care le-a făcut puteau fi transmise din generație în generație cu consecințe imprevizibile.

De îngrijorare deosebită sunt așa-numitele d (rescrierea genelor, unitatea genetică), adică. mecanism de inginerie genetică, care constă în codificarea unui sistem de editare în ADN-ul unui individ dat Genomul CRISPR/CAS9 cu setarea pentru a edita această variantă a genei nedorite. Datorită acestui fapt, descendenții automat (fără participarea geneticienilor) rescriu varianta genei nedorite cu cea dorită.

Cu toate acestea, o variantă de genă nedorită poate fi primită de către urmași ca un „cadou” de la celălalt părinte nemodificat. Deci unitatea genetică vă permite să vă spargeți Legile mendeliane ale moșteniriicare indică faptul că jumătate din genele dominante sunt moștenite de descendenți de la un părinte. Pe scurt, acest lucru va duce în cele din urmă la răspândirea variantei genei în cauză în întreaga populație.

Biolog la Universitatea Stanford Christina Smolke, din nou la un panel de inginerie genetică în 2016, a avertizat că acest mecanism ar putea avea consecințe dăunătoare și, în cazuri extreme, îngrozitoare. Unitatea genetică are capacitatea de a muta pe măsură ce trece prin generații și de a provoca tulburări genetice, cum ar fi hemofilia sau hemofilia.

După cum citim într-o lucrare publicată în Nature Reviews de către cercetătorii de la Universitatea din California, Riverside, chiar dacă o unitate funcționează așa cum este proiectată într-o populație a unui organism, aceeași trăsătură ereditară poate fi dăunătoare dacă este introdusă într-un fel într-o altă populație. aceeasi vedere.

Există, de asemenea, pericolul ca oamenii de știință să creeze unități genetice în spatele ușilor închise și fără evaluarea de către colegi. Dacă cineva a introdus în mod intenționat sau neintenționat un impuls genetic dăunător în genomul uman, cum ar fi cel care ne distruge rezistența la gripă, ar putea însemna chiar sfârșitul speciei homo sapiens...

Capitalismul de supraveghere

O versiune a distopiei pe care foștii scriitori de science-fiction cu greu și-ar fi putut imagina este realitatea internetului, și în special a rețelelor sociale, cu toate ramificațiile sale descrise pe scară largă care distrug intimitatea oamenilor, relațiile și integritatea psihologică.

Această lume este colorată doar de performanțe artistice mai noi, precum ceea ce am putut vedea în serialul TV Black Mirror, în episodul din 2016 „The Dive” (4). Shoshana Zuboff, un economist de la Harvard, numește această realitate complet dependentă de autoafirmarea socială și complet „deprivatizată”. capitalism de supraveghere (), și, în același timp, încununarea realizării Google și Facebook.

4. Scena din „Black Mirror” - episodul „Diving”

Potrivit lui Zuboff, Google este primul inventator. În plus, își extinde constant activitățile de supraveghere, de exemplu prin proiecte aparent inocente de „oraș inteligent”. Un exemplu este proiectul „Cel mai inovator district din lume” al Sidewalk Labs, o subsidiară a Google. dig în Toronto.

Google intenționează să colecteze în fiecare minut date despre viața locuitorilor de pe malul apei, mișcările lor și chiar respirația lor folosind senzori de monitorizare omniprezent.

De asemenea, este greu să alegi o distopie de internet care să fie exclusă pe Facebook. Poate că capitalismul de supraveghere a fost inventat de Google, dar Facebook a fost cel care l-a dus la un nivel cu totul nou. Acest lucru a fost realizat prin mecanisme virale sociale și emoționale și prin direcționarea necruțătoare chiar și a celor care nu sunt utilizatori ai platformei lui Zuckerberg.

AI păzit, cufundat în realitatea virtuală, trăind cu UBI

Potrivit multor futuriști, viitorul lumii și al tehnologiei este indicat de cinci acronime - AI, AR, VR, BC și UBI.

Cititorii MT probabil știu bine ce sunt și în ce constau primele trei. Cel familiar se dovedește a fi și al patrulea, „Soarele”, atunci când înțelegem despre ce vorbim. Și a cincea? UBD este o abreviere a conceptului care înseamnă „venit de bază universal" (5). Acesta este un beneficiu guvernamental postulat din când în când, care va fi oferit fiecărei persoane eliberate de muncă pe măsură ce se dezvoltă alte tehnologii, în special AI.

5. Venit de bază universal - UBI

Elveția chiar a supus ideea unui referendum anul trecut, dar cetățenii săi au respins-o de teamă că introducerea unui venit garantat ar inunda țara cu imigranți. UBI prezintă, de asemenea, o serie de alte pericole, inclusiv riscul perpetuării inegalităților sociale existente.

Fiecare dintre revoluțiile tehnologice din spatele acronimului (vezi și:) - dacă se răspândesc și se dezvoltă în direcția așteptată - are consecințe uriașe pentru umanitate și lumea noastră, inclusiv, desigur, o doză uriașă de distopie. De exemplu, se crede că ar putea înlocui ciclurile electorale de patru ani și ar putea duce la referendumuri pe o multitudine de probleme.

Realitatea virtuală, la rândul ei, este capabilă să „exclude” o parte a umanității din lumea reală. Așa s-a întâmplat, de exemplu, cu coreeana Chan Ji Sun, care, după moartea fiicei sale în 2016 din cauza unei boli incurabile, își întâlnește de atunci avatarul în VR. Spațiul virtual creează, de asemenea, noi tipuri de probleme, sau de fapt transferă toate vechile probleme cunoscute într-o lume „nouă” sau chiar în multe alte lumi. Într-o oarecare măsură, putem vedea deja acest lucru pe rețelele de socializare, unde se întâmplă ca prea puține aprecieri pe postări să ducă la depresie și sinucidere.

Povești profetice mai mult sau mai puțin

La urma urmei, istoria viziunilor distopice învață și prudență în formularea predicțiilor.

6. Coperta „Islands in the Net”

Reclamata capodopera SF a lui Ridley Scott "Android Hunter» Din 1982. Se poate dezbate sau nu împlinirea multor elemente specifice, dar este incontestabil că cea mai importantă profeție privind existența în vremea noastră a androizilor inteligenți, umanoizi, superiori oamenilor în multe privințe, nu a devenit încă realitate.

Am fi dispuși să permitem mai multe lovituri profetice.”Neuromanti"adică romane William Gibson din 1984, care a popularizat conceptul de „ciberspațiu”.

Totuși, în acel deceniu a apărut o carte ceva mai puțin cunoscută (la noi aproape în totalitate, pentru că nu a fost tradusă în poloneză), care a prezis mult mai exact vremurile de astăzi. vorbesc despre roman"Insule pe web«(6) Bruce Sterling din 1988, plasat în 2023. Prezintă o lume cufundată în ceva similar cu Internetul cunoscut sub numele de „web”. Este controlat de mari corporații internaționale. „Insulele Rețelei” se remarcă prin controlul, supravegherea și monopolizarea presupusului Internet gratuit.

De asemenea, este interesant de prevăzut operațiuni militare desfășurate cu vehicule aeriene fără pilot (drone) împotriva piraților/teroriştilor online. Operatori la mii de kilometri distanță cu desktop-uri securizate - de unde știm asta? Cartea nu este despre conflictul nesfârșit cu terorismul islamic, ci despre lupta împotriva forțelor care se opun globalizării. Lumea Islands in the Net este, de asemenea, plină de dispozitive de consum care seamănă mult cu ceasurile inteligente și pantofi sport inteligenți.

Există o altă carte din anii 80 care, deși unele dintre evenimente par mai fantastice, ilustrează bine temerile noastre distopice moderne. Acest "Software georadar", Istorie Rudiego Rucker, care are loc în 2020. Lumea, starea societății și conflictele ei par incredibil de asemănătoare cu ceea ce avem de-a face astăzi. Există, de asemenea, roboți cunoscuți sub numele de boppers care au devenit conștienți de sine și au evadat în orașele de pe Lună. Acest element nu s-a concretizat încă, dar revolta mașinilor devine un refren constant al previziunilor negre.

Viziunile cărților despre vremea noastră sunt, de asemenea, izbitor de exacte în multe privințe. Octavia Butler, mai ales înPilde ale Semănătorului„(1993). Povestea începe în 2024 în Los Angeles și are loc într-o California devastată de inundații, furtuni și secete cauzate de schimbările climatice. Familiile din clasa mijlocie și muncitoare se întâlnesc în comunități închise, încercând să scape din lumea exterioară prin droguri care creează dependență și truse de realitate virtuală. Apar noi religii și teorii ale conspirației. O caravană de refugiați se îndreaptă spre nord pentru a scăpa de colapsul social și ecologic. Un președinte vine la putere care folosește sloganul campaniei „Make America Great Again” (acesta este sloganul lui Donald Trump)...

A doua carte a lui Butler,Parabola Talentelor„, povestește cum membrii unui nou cult religios părăsesc Pământul pe o navă spațială pentru a coloniza Alpha Centauri.

***

Care este lecția din această revizuire amplă a predicțiilor și viziunilor făcute cu decenii în urmă care ne afectează viața de zi cu zi?

Poate că ideea este că distopiile apar des, dar cel mai adesea doar parțial.