Nušin Šabab iz kompanije "Kasperski" za RTS: Veštačka inteligencija manipuliše vašim mišljenjem, vašom slikom stvarnosti, ili vašim shvatanjem nekog društvenog koncepta – ljudi treba sami da tragaju za informacijama

Nušin Šabab iz "Kasperskog" rekla je za RTS da se, u zaštiti od manipulacije, sve svodi na to koliko se ljudi oslanjaju na sadržaj koji im se servira, umesto da sami tragaju za informacijama. Ljudi postaju previše zavisni od personalizovanog i odabranog sadržaja, a to nije naročito produktivno, smatra Šabab.

Upotreba veštačke inteligencije za manipulaciju našim stavovima i javnim mnjenjem - bila je tema godišnje konferencije "Kasperskog" u Rimu. Nušin Šabab, vodeći istraživač sajber-bezbednosti u toj kompaniji, govorila je za RTS o mogućnosti društvenih mreža da uz pomoć veštačke inteligencije utiču na političke i druge svakodnevne poglede i ponašanje - a da mi toga nismo ni svesni.

- Oni imaju kapacitet da to urade, zahvaljujući svom sadržaju i algoritmima koje koriste da bi vam prikazali ono što vas zanima.

Ako pogledate svoje naloge na društvenim mrežama i naloge svojih prijatelja, verovatno ćete uočiti određeni obrazac. Videćete da vama stižu sadržaji, teme, informacije, slike ili video-snimci koji su vama zanimljivi, a vaši prijatelji ili članovi porodice vide nešto sasvim drugo.

Te tehnologije služe tome da otkriju šta određenu publiku zanima i prikažu joj sadržaj za koji je verovatno da će joj se dopasti - za razliku od sadržaja koji bi joj se učinio nevažnim. I upravo taj kapacitet im omogućava da oblikuju način na koji ljudi razmišljaju, šta vide, u šta veruju i šta smatraju stvarnošću.

Da li postoji razlika između algoritma koji preporučuje film ili pesmu i algoritma koji utiče na javno mnjenje i političko ili bilo koje drugo mišljenje?

- Ključna razlika je u nameri - u nameri organizacije ili ljudi koji te algoritme koriste. Mogu se upotrebiti u dobre svrhe, ali i u loše. Mogu vam pomoći da pronađete nešto što vam odgovara - recimo, kada kupujete onlajn, algoritmi vam mogu predložiti majicu ili par patika za koje je verovatno da će vam se svideti.

Ali mogu se koristiti i na zloćudan način - da zapravo manipulišu vašim mišljenjem, vašom slikom stvarnosti ili vašim shvatanjem nekog društvenog koncepta ili problema.

Da bi ljudi razlikovali ta dva slučaja, mislim da se sve svodi na to kako oni sami koriste tehnologiju i društvene mreže - i na to koliko se oslanjaju na sadržaj koji im se servira, umesto da sami tragaju za informacijama. Rekao bih da danas ljudi postaju previše zavisni od personalizovanog i odabranog sadržaja, a to nije naročito produktivno.

Može li običan čovek da se zaštiti ili je ovaj vid uticaja veštačke inteligencije na naše mišljenje izmakao kontroli? Jesmo li, kao obični građani, zapravo nemoćni?

- Reč je o veoma važnoj temi. Kada govorimo o manipulaciji ili oblikovanju mišljenja, govorimo o veoma suptilnoj manipulaciji - o postepenom pomeranju našeg razmišljanja u određenom pravcu. No, pošto je izuzetno teško razlučiti da li vam je serviran personalizovan ili donekle manipulativan sadržaj, naspram šire stvarnosti - upravo zato govorimo o regulaciji.

Mnogo smo raspravljali o tome i smatramo da je to danas najvažnije pitanje, s obzirom na to da kognitivna veštačka inteligencija i ovi algoritmi postaju sve rasprostranjeniji. Neophodno je uspostaviti odgovarajuću regulativu i politike koje će štititi ljude - i ta odgovornost ne sme da bude prebačena na leđa samih građana.

Ko bi trebalo da reguliše ove stvari - privatne korporacije, države, ili međunarodne institucije?

- Smatram da je najbolje da to ide odozgo nadole. Veoma je važno da odgovarajuće politike uspostave društva i vlade, a zatim i pojedine kompanije - radi zaštite zaposlenih, kupaca, partnera i publike od potencijalnih rizika kognitivne veštačke inteligencije. Takođe je važno da kompanije imaju jasne politike u pogledu korišćenja sistema veštačke inteligencije, upravljanja podacima i sličnih pitanja.

Ako veštačka inteligencija može da predvidi naše ponašanje, ako može da utiče na naše misli, šta onda ostaje od našeg slobodnog izbora i svega onoga što nas čini ljudima? Šta očekujete da će se dogoditi u budućnosti, gledano iz te, humane perspektive?

- Dobra vest je da veštačka inteligencija ne može da čita naše misli, ali može da predvidi šta bi nas moglo zanimati ili šta bismo mogli da uradimo. Mislim da ste postavili veoma važno pitanje.

Ključno je da razumemo tehnologije koje se danas razvijaju i napredak koji donose - i da obrazujemo ljude, posebno mlađe generacije, da se ne oslanjaju previše na ove sisteme. Da rade ono što nas zaista čini ljudima: da neguju svoje veštine rešavanja problema, kritičkog mišljenja i prosuđivanja, da se oslanjaju na sopstvenu procenu, sopstveno razumevanje i kritičko mišljenje - a ne da se prepuste veštačkoj inteligenciji.

(RTS)