Izazov naredne decenije je da digitalni vijek bude kompatibilan s demokratijom

Radili ste dugi niz godina na interfejsu tehnologije, moći i društva. Vaš najnoviji rad, Doba kapitalizma nadzora: borba za ljudsku budućnost na novoj granici moći, bavi se ključnim izazovima koje digitalne tehnologije postavljaju našem čovječanstvu. Takođe ste socijalni psiholog sa dugom putanjom rada u interdisciplinarnim istraživačkim timovima. Imajući ovu pozadinu na umu, kako bismo danas trebali preispitati ljudski razvoj? Koji su ključni izazovi? Koje su nade?

Koncept ljudskog razvoja je moderan psihološki koncept, ali fenomen ljudskog razvoja nije čisto moderan. Postoji dugačak i savremeniji luk. To je fenomen koji se razvijao milenijumima, jer se ljudski razvoj odvija u uslovima postojanja koji se dešavaju u istoriji. U smislu ovog velikog luka, ljudski razvoj se kretao ka metaprocesu individualizacije tokom milenijuma. Ako razmišljamo o istoriji mentaliteta i ljudskog senzibiliteta, pojam pojedinca kao psihološkog entiteta je istiskivan, izvlačen uz velike muke i žrtve, tokom mnogih vekova i milenijuma. Ovo veći luk milenijuma predstavlja dug proces diferencijacije i izgradnje sopstva. Ona je proizvela psihološke pojedince o kojima danas razmišljamo kada govorimo o ljudskom razvoju.

Ovaj novi pojedinac obilježen je izgradnjom unutrašnjeg života kao legitimnog područja koje – u konačnici, u povijesti nastanka unutrašnjeg života pojedinca – zauzima ne samo legitimnu poziciju, već i hitnost i autoritet koji na neki način nadilazi društvene i kolektivni život. Psihološki pojedinac je temelj za samu mogućnost i ideju demokratije, a kamoli za njenu praktičnu konstrukciju – ma koliko nesavršenu. Ne možemo zamisliti demokratsko društvo bez zamišljanja psiholoških pojedinaca koji imaju slobodnu volju, autonomiju, sposobnost samopominjanja normi, vrijednosti i prava, i koji mogu zamisliti situacije u kojima je unutrašnje pozivanje na osnovna prava jače od neposrednih zahtjeva autoriteta ili kolektiva.

Savremeni luk odražava uslove postojanja koje doživljavamo danas, a koji nas sada takođe izazivaju da gledamo dalje od sebe zbog pretnji koje zahtevaju kolektivno delovanje zasnovano na pažnji prema našoj zajedničkoj ljudskosti. Pred nama je izazov da mogućnosti individualizacije dovedemo u širi kontekst, koji je zaista kontekst „nas“. Današnje prijetnje ne mogu se suočiti samo s tim njegovanim sposobnostima autonomije, djelovanja i sposobnosti individualiziranog prosuđivanja, samoreferenciranja i samorefleksije. Ne ostavljamo ih za sobom, ali ih moramo integrirati u veći prostor koji se osjeća, a to će dodatno razlikovati našu kompoziciju od onoga što smatramo 'razvijenim'.

Izazov se sada kreće sa ovih čuda individualizacije na novu granicu koju definira pojedinac u odnosu na kolektiv. Ne kroz suprotstavljanje, dominaciju i potčinjavanje, već kroz neophodnu solidarnost. Ovo je nova vrsta senzibiliteta. Klimatska kriza, na primjer, zahtijeva ovu promjenu. Ne možemo misliti o sebi samo kao o pojedincima, što je bitno, već moramo razmišljati i kao o 'jednom', kao o kolektivu, kao o čovječanstvu, jer ne postoji način da odvojimo prijetnju sebi od prijetnje nama – to je jedan prijetnja.

Smatram da su izazovi digitalnog stoljeća analogni klimatskim izazovima: izazovi za sve nas i istovremeno izazovi za svakoga od nas. Kada govorimo o prijetnjama digitalnog stoljeća, čujemo da je privatnost glavna stvar. Ipak, privatnost je 'zaštićena fraza'. U zabludi smo da je privatnost nešto privatno jer o ovom konceptu razmišljamo kroz prizmu individualizacije. Ovo razvodnjava značenje privatnosti u neku vrstu privatne računice, kalkulacije koje iskorištavaju imperije kapitalizma nadzora.

Na primjer, mislimo da ću vam dati ovo malo ličnih podataka – možda fotografiju koju objavim na društvenim mrežama – u zamjenu za „besplatnu“ uslugu dijeljenja moje fotografije sa prijateljima i porodicom i povezivanja. U stvari, privatnost ne može biti privatna kalkulacija na barem dva načina: prvo, društvo koje njeguje privatnost uvijek će biti fundamentalno drugačije od društva koje je ravnodušno prema privatnosti. Nadzirano društvo nikada neće biti isto što i društvo koje daje prednost privatnosti kao pravu. Oni će biti u suprotnosti u svom poštovanju dostojanstva suverenog pojedinca, sposobnosti za ljudsku autonomiju, djelovanje, slobodnu volju i prava odlučivanja – sve kapacitete bitne za demokratsko ja. U isto vrijeme, svaki put kada se upustimo u ove jednostavne ustupke besplatnih usluga za privatnu prednost, uhvati nas laž. Nadzorne kapitalističke imperije prikupile su neviđene koncentracije informacija o nama kroz sisteme dizajnirane da budu skriveni. Većina onoga što poseduju oduzeto nam je bez naše svesti. Ovi podaci hrane sisteme veštačke inteligencije za otkrivanje obrazaca i predviđanje budućeg ponašanja. Krajnji rezultat ove razmjene nema nikakve veze s našim pretpostavljenim privatnim proračunom; to su informacije koje se izvlače iz našeg iskustva bez našeg znanja i bez našeg pristanka. To je, jednostavno, nadzor. Odabirom da učestvujemo u ovim sistemima znanja i moći bez presedana, mi nesvjesno doprinosimo opsežnom praćenju i kontroli društva.

Na primjer, svoje fotografije nevino i voljno objavljujemo na Facebooku i drugim dijelovima interneta. Te fotografije su snimljene, bez našeg znanja i svakako bez naše dozvole, na primjer od strane Microsofta – vodećeg kapitaliste za nadzor – za najveći skup podataka na svijetu koji se koristi za obuku algoritama za prepoznavanje lica. Kada je Microsoft kreirao svoj skup podataka za obuku 'Microsoft Celeb' za prepoznavanje lica (ispostavilo se da NISU samo uzimali lica slavnih), rekli su da je to samo za akademsko istraživanje. Ali, zapravo, skup podataka je prodan agencijama za provođenje zakona, kompanijama i vojnim operacijama, uključujući vojnu diviziju kineske vojske koja zatvara pripadnike muslimanske manjine Ujgura u Xinjiangu. Cijela pokrajina je u suštini mini-država za nadzor. Postoje posebni logori u Xinjiangu u kojima su ljudi zatvoreni zbog sveprisutnog prisustva sistema za prepoznavanje lica koji ih kontinuirano nadgledaju na ulici, u njihovim domovima i na radnim mjestima, itd. Ovi sistemi za prepoznavanje lica su izgrađeni na našim licima, da slobodno smo dali, u zabludi da je privatnost privatna. Ne nije. Privatnost je javna – kolektivno dobro koje se sada može sačuvati samo kolektivnom voljom.

Ovdje imamo ovaj vrlo vidljiv primjer kako razmišljanje o ovom problemu kao da smo samo pojedinci, sa sposobnošću prosuđivanja i prava odlučivanja za privatnu trgovinu, doprinosi kolektivnim sistemima tragedije i nasilja, kontrole i nepravde. Zbog toga povezujem izazove digitalnog stoljeća sa izazovima klimatske kataklizme. To su izazovi koji prevazilaze naše kapacitete kao pojedinaca da ih riješimo. Oni zahtijevaju od nas da integriramo naše teško stečene sposobnosti kao pojedinaca u širi okvir načina na koji mislimo, osjećamo se i ponašamo se kao članovi klase zvane čovječanstvo. Ovo je pozitivan izazov za ljude širom Zemlje. Ovo je novo takmičenje ljudskog razvoja.

Alternativa našem angažmanu na ovoj daljoj granici ljudskog razvoja već je prisutna u viziji naše budućnosti kapitalista nadzora. Njihovo rješenje je korištenje sistema praćenja i kontrole stanovništva za rekonstrukciju društva kao a Košnica. Ovo društvo košnica je daljinski podešeno i kontrolirano psihološkim okidačima, podsvjesnim znakovima, projektiranom dinamikom društvenog poređenja, nagradama i kaznama u stvarnom vremenu i zadovoljstvima igranja. Ovo su alati koje tuneri, oni koji upravljaju ljudskom košnicom, izmišljaju kako bi redefinirali društveno.

U ovoj budućnosti nalazimo to umjesto društvo, to je stanovništvo; umjesto pojedinci, to je statistika; umjesto demokratsko upravljanje, to je kompjutersko upravljanje, gdje se populacije podešavaju na daljinu na osnovu tokova podataka o ponašanju i njihovog pridržavanja unaprijed određenih algoritamskih parametara. Ovo kompjutersko upravljanje nameće se kao rešenje odozgo prema dole za nove izazove ljudskog razvoja. Ono što se ovdje razvija su algoritmi, a ne ljudi. Računarsko upravljanje je zamjena za težak i izazovan posao ljudskog razvoja.

Politika košnice je feudalna politika, hijerarhijska politika kontrole, jednosmjernih ogledala. Oni ne zahtijevaju nasilje, teror ili ubistvo, ali su ipak sistemi jednostrane kontrole gdje su mehanizmi crne kutije nedešifrirani. U ovoj budućnosti, demokratija postaje daleka uspomena, jer više nema potrebe za učešćem, slobodnom voljom, autonomijom, djelovanjem, pravom odlučivanja ili osnovnim pravima. Umjesto toga, postoji savršen spoj košnice i neophodnih metrika efikasnosti i efektivnosti mjerene ne samo ishodima koji se odnose na opstanak, već na Zapadu – barem za sada – ishodima koji se odnose na profit i profitabilnost sistema. kojima upravljaju tjuneri, feudalci algoritamskog upravljanja.

Ovako vidim pejzaž i izazove ljudskog razvoja. Ovo su misli koje izazivaju vaša pitanja o značenju ljudskog razvoja danas, izazovima i putu naprijed. Ako želimo da odgovorimo na ove izazove, upravo na tom susretu, u tom nadmetanju i borbi, predajemo se upravo onim vrstama iskustava, procesa i sukoba koji su motor ljudskog razvoja pre svega.

Ljudski razvoj se ne dešava kroz posmatranje, već kroz učešće; ne samo kroz harmoniju već i kroz sukob; ne samo kroz stabilnost i zadovoljstvo, već kroz nestabilnost, prijetnju i rješavanje problema. Ova iskustva čine ljudski razvoj. Sam princip zadovoljstva ne zahtijeva ljudski razvoj. Civilizacija je proizvod sublimacije – tuge i nadmetanja, nezadovoljstva i povrede. Na isti način se razvijamo samo zato što se bavimo izazovima i takmičenjima. Tako smo milenijumima stvarali vladavinu prava i povelje o ljudskim pravima da bismo suzbili nasilje. Uključivanje u sukob i njegovo pokretanje naprijed je način na koji unapređujemo ljudski razvoj.

Dajte nam neka zaključna razmišljanja o tome koje nade imate da biste iskoristili ove moćne digitalne tehnologije i sisteme koji ih stvaraju i upravljaju njima kako biste stvari učinili drugačije i vratili se temeljnim demokratskim vrijednostima.

Nemam ništa osim nade. Izazov naredne decenije je kako digitalno stoljeće učiniti kompatibilnim s demokratijom? Kako stvoriti digitalni vijek i digitalnu budućnost koja može ispuniti težnje demokratskih ljudi? Tek u proteklih nekoliko godina shvatili smo da se digitalni vijek kreće na sasvim drugačijoj putanji od one koju smo očekivali ili koju bismo izabrali. Ovo je vrijeme. Nije prekasno, a ni prerano, da se uključimo u ovaj izazov i da stvorimo potrebne zakonske okvire, regulatorne paradigme, nove institucionalne forme i nove povelje prava koje će potvrditi demokratsko upravljanje digitalnim. Ovo je sada veliki posao. Ovo veliko djelo je u skladu sa izazovima koje se razvijaju pojedinci. Razvoj jednog ne može biti otuđen od razvoja svih.

Naučnik, pisac i aktivista Shoshana Zuboff je autor tri velike knjige, od kojih je svaka označila početak nove epohe u tehnološkom društvu. Njen nedavni rad, Doba kapitalizma nadzora, pozdravljen je kao tehnološka industrija Silent Spring. Zuboff je profesor emerita Charles Edward Wilson na Harvard Business School.

Naslovna slika: Baptiste Michaud preko Flickr-a.