Slavoj Žižek: O internetu, veštačkoj inteligenciji i Matriksu

 Kada čujemo ili čitamo o tome kako veštačka inteligencija preuzima i reguliše naše živote, naša prva reakcija je: nema panike, daleko smo od toga, još uvek imamo vremena da u miru razmislimo o tome šta se dešava i da se pripremimo za to…

Tako doživljavamo situaciju, ali stvarnost je sasvim suprotna: stvari se odvijaju mnogo brže nego što mislimo, jednostavno nismo svesni koliko je naš svakodnevni život već manipulisan i regulisan digitalnim algoritmima koji nas u nekom smislu poznaju bolje nego mi sami sebe i nameću nam naše „slobodne“ izbore.

Drugim rečima, da ponovo pomenemo dobro poznatu scenu iz crtanih filmova (mačka hoda u vazduhu iznad provalije i pada tek kada pogleda dole i shvati da nema tla pod nogama), mi smo kao mačka koja odbija da pogleda dole.

Razlika je ovde hegelijanska između Po-sebi i Za-sebe: po sebi smo već regulisani od strane veštačke inteligencije, ali ta regulacija još nije postala za sebe, nešto što subjektivno u potpunosti pretpostavljamo.

Istorijska temporalnost je uvek zarobljena između ova dva trenutka: u istorijskom procesu, stvari se nikada ne dešavaju tek tako u svoje vreme, uvek se dešavaju ranije (u odnosu na naše iskustvo) i doživljavaju se prekasno (kada su već odlučene).

Ono što treba uzeti u obzir u slučaju veštačke inteligencije jeste i precizan vremenski redosled našeg straha: prvo, mi – korisnici veštačke inteligencije – plašili smo se da ćemo, koristeći veštačke algoritme poput  ChatGPT-a, početi da govorimo kao oni; ono čega se plašimo jeste da sama veštačka inteligencija govori kao ljudsko biće, tako da često nismo u stanju da znamo sa kim komuniciramo, drugim ljudskim bićem ili aparatom veštačke inteligencije.

Međutim, ova razlika je previše jednostavna. Mnogi moji prijatelji koji su visoki intelektualci (čak i većina korisnika  ChatGPT-a, pretpostavljam) praktikuju je na način fetišističkog poricanja: oni vrlo dobro znaju da samo razgovaraju sa digitalnom mašinom kojom upravlja algoritam, ali upravo to znanje im olakšava da se uključe u  ChatGPT dijalog bez ikakvih ograničenja.

Jedna moja dobra prijateljica, koja je napisala jasnu lakanovsku analizu  ChatGPT interakcije, rekla mi je kako jednostavna ljubaznost i pažnja mašine prema onome što govori čini dijalog mnogo boljim od razgovora sa pravim ljudskim partnerom koji često može biti nepažljiv i oštar…

Očigledan je korak dalje koji se može napraviti iz ove interakcije između ljudske osobe i digitalne mašine: direktne interakcije između botova koje postepeno postaju ogromna većina interakcija.

Često sam ponavljao vic o tome kako bi danas, u eri digitalizacije i mehaničkih dopuna našim seksualnim praksama, izgledala ideja seksualnog čina: moja ljubavnica i ja donosimo na naš susret električni dildo i električni vaginalni otvor koji se oba tresu kada se priključe, stavljamo dildo u plastičnu vaginu, pritiskamo dugmad tako da dve mašine zuje i izvode čin za nas, dok možemo lepo da razgovaramo uz šoljicu čaja, svesni da mašine obavljaju našu superego dužnost da uživamo…

Zar se nešto slično ne dešava sa akademskim objavljivanjem?

Autor koristi  ChatGPT da napiše akademski esej i podnese ga časopisu koji koristi ChatGPT za recenziju eseja. Kada se esej pojavi u „slobodno dostupnom“ akademskom časopisu, čitalac ponovo koristi ChatGPT da pročita moj esej i da mu pruži kratak rezime – dok se sve ovo dešava u digitalnom prostoru, mi (pisci, čitaoci, recenzenti) možemo da radimo nešto prijatnije, da slušamo muziku, meditiramo…

Međutim, takve situacije su prilično retke – mnogo je češće da se bot-bot operacije dešavaju van naše svesti, iako kontrolišu i regulišu naše živote – samo se setite koliko se interakcije dešava u digitalnom prostoru kada vršite jednostavan transfer sa svog bankovnog računa na stranu banku.

Kada čitate knjigu na Kindlu, kompanija saznaje ne samo koju knjigu kupujete, već i koliko brzo čitate, da li čitate celu knjigu ili samo odlomke itd. Pored toga, kada smo bombardovani vestima, „to čini ljude nepoverljivijim i prema stvarnom i prema lažnom sadržaju jer ne razlikuju jedan od drugog.“

Verovatno će povećati samocenzuru tako što će obeshrabriti ljude da dele svoje misli i kreacije iz straha da će ih botovi koristiti ili ukrasti, ili da će biti smatrani nepopularnim u nesvesno lažnom okruženju. U ekstremnom scenariju, prenatrpanost botova na mreži može dovesti do toga da ljudi prestanu da koriste platforme društvenih medija kao društvene forume kakvi su stvoreni da budu. Ovo bi zaista označilo „smrt“ sveta društvenih medija kakav danas poznajemo.“

Kada ljudi postanu svesni prenatrpanosti botovima na mreži, njihova reakcija može biti „kontinuirani cinizam, ili još gore, potpuna apatija“ – umesto da bude otvoren i dostupan, internet monopolišu velike tehnološke kompanije – on je osujećen uvođenjem milijardi lažnih slika ili lažnih vesti i tako postaje beskoristan kao prostor za dobijanje informacija i razmenu mišljenja sa drugima.

Reakcije na ovu mogućnost smrti interneta su podeljene – „dok će neki ljudi kategorično reći da je ovaj scenario najgora stvar koja se mogla dogoditi u savremenom svetu, drugi ćće slaviti nestanak interneta jer bi to značilo rušenje mehanizma javnog nadzora ukorenjenog u društvenim medijima.“

Ono što mnoge dodatno gura ka odbacivanju Svetskog veba (WWW-World Wide Web) nije samo državna i korporativna kontrola, već i njena očigledna suprotnost – duh bezakonja koji postepeno prožima ceo svet.

Oko 7.000 ljudi je nedavno pušteno iz centara za realizaciju prevara koje vode kriminalne bande i ratni profiteri koji deluju duž granice Mjanmara sa Tajlandom, gde su mnogi držani protiv svoje volje i primorani da rade varajući obične ljude, uglavnom, ali ne samo iz Evrope i SAD, sa njihovom životnom ušteđevinom.

Oni koji su uključeni u puštanje na slobodu su deo od, kako se procenjuje, 100.000 ljudi zarobljenih duž granice.

Kriminalne grupe koriste veštačku inteligenciju za pisanje scenarija za prevare i iskorišćavaju sve realističniju tehnologiju dipfejka za kreiranje persona, predstavljanje kao ljubavni interesi i maskiranje identiteta, glasa i pola.

Kriminalni sindikati su brzo usvojili kriptovalute i ulažu u najsavremenija tehnološka dostignuća kako bi brže pomerali novac, kao i učinili prevare efikasnijim. Više od 43 milijarde dolara izgubi se zbog prevara regionalnih kriminalnih grupa u jugoistočnoj Aziji godišnje — skoro 40 odsto kombinovanog bruto domaćeg proizvoda Laosa, Kambodže i Mjanmara.

Stručnjaci i analitičari tvrde da će se industrija vratiti samo jača…

Iako bi američka administracija nesumnjivo osudila takve događaje, njena globalna politika stvara svet u kojem se takva dela ćutke tolerišu ako ih neka velika sila ne doživljava kao pretnju.

Kina je izvršila pritisak na Mjanmar tek kada je otkrila da su ove bande prevarile i mnoge kineske građane.

Često čujemo da će digitalizacija omogućiti potpunu automatizaciju većine proizvodnih procesa, omogućavajući velikoj većini ljudi da uživaju u mnogo više slobodnog vremena… možda, na duži rok.

Ono što sada vidimo je eksplozivan rast potrebe za fizičkim radom u razvijenim zemljama. Međutim, ono što se krije iza svih ovih pretnji društvenim pretnjama je nešto mnogo radikalnije.

Ono što ljudska intelektualnost podrazumeva jeste jaz između unutrašnjeg i spoljašnjeg, između takozvanog unutrašnjeg života i spoljašnje stvarnosti, i nije jasno šta će se desiti (ili, bolje rečeno, dešava se) sa ovim jazom u razvijenoj veštačkoj inteligenciji – po svoj prilici, on će nestati, jer su mašine deo stvarnosti.

Ovaj jaz je direktno zatvoren u takozvanom projektu neuralink koji obećava da će uspostaviti direktnu vezu između digitalnog univerzuma i toka naših misli:

„Želim da jedem“ se pojavilo u kineskim znakovima na računaru u javnoj bolnici u centru Pekinga. Reči su nastale iz misli 67-godišnje žene sa amiotrofičnom lateralnom sklerozom (ALS), poznatom i kao Lu Gerigova bolest, koja ne može da govori.

Pacijentkinji je implantiran čip veličine novčića pod nazivom Beinao-1, bežični takozvani interfejs za računar mozga (BCI) – tehnologija koju vode naučnici u SAD, ali u kojoj stručnjaci kažu da ih Kina brzo sustiže.

Većina američkih firmi koristi invazivniju metodu postavljanja čipova unutar dura mater (tvrda moždana opna), spoljašnjeg sloja tkiva koji pokriva i štiti mozak i kičmenu moždinu, kako bi se bolje uhvatio signal. Ali ove metode zahtevaju rizičnije operacije.

Kineski pristup je samo poluinvazivan – čip se postavlja izvan dure i pokriva širi spektar moždanih područja, sa manjom preciznošću za svaki neuron, ali veći kvantitet donosi sopstveni kvalitet – celokupna slika je mnogo preciznija.

Možemo li uopšte da zamislimo šta dobronamerni slučaj pomoći teško onesposobljenom pacijentu zamagljuje? Pravi cilj je direktna kontrola našeg toka misli i njegova suprotnost, implantacija misli.

Među onima koji se raduju potpunoj digitalizaciji naših života, kao i među onima koji u njoj vide smrtnu pretnju, postepeno se pojavljuje izvesna utopija, utopija društva (ako još uvek možemo da koristimo taj naziv) koje će funkcionisati na potpuno autonoman način, bez ikakve potrebe za ljudskom intervencijom.

Pre otprilike decenije, ideja o kapitalizmu bez ljudi proganjala je maštu nekih javnih intelektualaca – banke i berze možda još uvek postoje, ali gde se novac ulaže odlučuju kompjuterizovani algoritmi; fizički rad je automatizovan i poboljšan pomoću samoučećih računara; šta proizvoditi odlučuju digitalne mašine koje prate tržišne trendove; publicitet se vrši putem kompjuterizovanog oglašavanja.

U ovoj viziji, čak i ako ljudi nestanu, sistem će nastaviti da se reprodukuje… da, ovo je utopija, ali, kako je Saroj Giri pokazao, to je utopija imanentna kapitalizmu i artikulisana od strane samog Marksa koji je jasno video da kapitalizam održava „vatrena želja da se kapacitet rada odvoji od radnika.

Želja da se kreativne moći radne snage izdvoje i skladište jednom za svagda kako bi se od tada vrednost mogla slobodno stvarati zauvek. Zamislite to kao verziju ubistva guske koja nosi zlatna jaja. Želite da ubijete gusku i da i dalje imate sva zlatna jaja zauvek!“

U ovoj viziji, kapitalistička eksploatacija rada bi se pojavila kao predistorija pojave kapitala koji će sada biti potpuno oslobođen zavisnosti od rada.

Sa današnjom digitalizacijom nastaje strogo homologna utopija – utopija „mrtvog interneta“, digitalnog univerzuma koji funkcioniše bez ljudi, tj. gde podaci cirkulišu isključivo među mašinama koje kontrolišu ceo proizvodni proces, potpuno zaobilazeći ljude (ako uopšte postoje).

Ova vizija je takođe ideološka fantazija – ne zbog nekih empirijskih ograničenja („još nismo dotle stigli, ljudi su i dalje potrebni u društvenim interakcijama“) već iz strogo formalnih razloga – kojih razloga?

Kao što je često slučaj, film pruža ključ. Setite se osnovne premise serijala Matriks – ono što doživljavamo kao stvarnost u kojoj živimo je veštačka virtuelna stvarnost koju generiše „Matriks“, mega-računar direktno povezan sa svim našim umovima; on je tu da bismo mogli biti efikasno svedeni na pasivno stanje živih baterija koje snabdevaju Matriks energijom.

Dakle, kada se (neki od) ljudi „probude“ iz svog uranjanja u virtuelnu stvarnost koju kontroliše Matriks, ovo buđenje nije otvaranje u široki prostor spoljašnje stvarnosti, već prvo užasna spoznaja ovog zatvorenog prostora, gde je svako od nas zapravo samo organizam nalik fetusu, uronjen u prenatalnu tečnost…

Ova potpuna pasivnost je isključena fantazija koja održava naše svesno iskustvo kao aktivnih, samopostavljajućih subjekata – to je ultimativna perverzna fantazija, ideja da smo mi u krajnjoj liniji instrumenti uživanja Drugog (Matriksa), isisani iz naše životne supstance poput baterija.

U tome leži prava libidinalna enigma ovog dispozitiva – zašto je Matriksu potrebna ljudska energija?

Čisto energetsko rešenje je, naravno, besmisleno – Matriks je lako mogao pronaći drugi, pouzdaniji izvor energije koji ne bi zahtevao izuzetno složen raspored virtuelne stvarnosti koordinisan za milione ljudskih jedinica.

Jedini dosledan odgovor jeste sledeće – Matriks se hrani ljudskim uživanjem – tako se vraćamo na fundamentalnu lakanovsku tezu da je velikom Drugom, daleko od toga da je anonimna mašina, potreban stalni priliv uživanja.

Ovako bi trebalo da preokrenemo stanje stvari predstavljeno u Matriksu – ono što film prikazuje kao scenu našeg buđenja u našu pravu situaciju je zapravo njegova potpuna suprotnost, upravo fundamentalna fantazija koja održava naše biće.

Međutim, ova fantazija je takođe imanentna svakom društvenom sistemu koji teži da funkcioniše kao autonoman, ograničen u svoju samoreprodukciju.

Da kažemo lakanovskim terminima, mi – ljudi – smo objekat njihove autonomne cirkulacije; ili, da kažemo hegelovskim terminima, njihovo Po-sebi (samoreprodukcija nezavisna od nas) je strogo za nas. Ako bismo nestali, mašine (stvarne i digitalne) bi se takođe raspale.

(Danas)