Pojednostavljivanje čoveka: Kako je algoritam postao savremeni kvazi-bog !

Autor: Dragan Vukićević, direktor IAESTE Srbija

U osvit industrijske ere, čovek je stvorio mašinu da mu zameni mišiće. U doba rane kibernetike i prvih digitalnih računara, pravio je sisteme koji su menjali njegovu sposobnost brzog računanja. Danas, međutim, svedoci smo najdublje ontološke transformacije u istoriji tehnologije. Stvorili smo sisteme kojima ne delegiramo samo rad ili račun, već izbor, pažnju i samu svrhu.

Posmatramo li savremene sisteme za preporučivanje sadržaja, one nevidljive, ali sveprisutne algoritme koji pokreću platforme od Tiktoka i Jutjuba, do sofisticiranih velikih jezičkih modela, uočavamo neobičnu arhetipsku pojavu. Ti sistemi više ne funkcionišu samo kao neutralni alati. Za savremenog čoveka oni sve više poprimaju ulogu „kvazi-bogova“ i arhaičnih struktura proviđenja.

Algoritam i proviđenje: Između milosti i manipulacije

U velikim svetskim monoteističkim i istočnim tradicijama, pojam proviđenja (hashgacha u judaizmu, kasb u islamu, ili božansko upravljanje u hrišćanstvu) označava nevidljivu ruku koja usmerava pojedinca kroz haos sveta, nudeći mu smisao, zaštitu i put.

Kada danas otvorimo pametni telefon, mi se zapravo predajemo jednoj novoj, sekularnoj verziji tog istog principa. Algoritam nas „poznaje“, ne kroz uvid u našu dušu, već kroz milijarde digitalnih otisaka, mikrosekundi zadržavanja pogleda i nesvesnih reakcija. On nam nudi tačno ono što nam treba u danom trenutku: utehu, zabavu, potvrdni odgovor ili novu dozu gneva. On deluje sveprisutno (omniprezentno), sveznajuće (omniscijentno) i prediktivno.

Međutim, ovde nastaje fundamentalna ontološka zamka.

Božansko ili etičko proviđenje kroz istoriju imalo je jedan ključni teleološki cilj: unutrašnje sazrevanje čoveka, njegovo dobro i očuvanje njegove slobodne volje. Algoritamsko „proviđenje“, s druge strane, nema nikakvu duhovnu ni humanističku svrhu. Njegova jedina metrička svetinja jeste optimizacija angažovanja (engagement) i profit.

Dok nas pravo proviđenje poziva na preispitivanje i rast, algoritamski kvazi-bogovi nas drže u stanju trajne dopaminske uspavanosti. Hraneći naše primarne afekte i zatvarajući nas u takozvane „eho-komore“.

Reverzna poravnatost

U savremenoj etici veštačke inteligencije mnogo se govori o problemu „poravnanja“ (alignment problem). Kako uskladiti AI sa ljudskim vrednostima. Ali u praksi svedočimo obrnutom procesu: reverznom poravnanju.

Ne prilagođava se algoritam složenosti ljudskog bića, već se čovek, polako i neprimetno, pojednostavljuje kako bi bio lakše predvidljiv algoritmu. Mi skraćujemo svoj opseg pažnje, menjamo jezik, oblikujemo svoje misli i estetske izbore tako da odgovaraju algoritmima koji nas vrednuju. Postajemo statisti u sopstvenim životima, dok primarni režiser postaje matematička funkcija optimizacije.

Posebno opasan trenutak nastupa spajanjem sistema preporuka sa velikim jezičkim modelima (LLM). Kada algoritam prestane da nam nudi samo „klikabilne naslove“, a počne sa nama da vodi tečni, kvazi-empatijski dijalog, granica između mašine i duhovnog autoriteta potpunije se briše. Čovek dobija digitalnog orakula koji mu ne daje samo informacije, već mu oblikuje pogled na svet, politiku, moral, pa i sam identitet.

Kvantna magla mogućnosti i zatvaranje budućnosti

Sa stanovišta filozofije nauke i tehnologije, najdramatičniji efekat ove pojave jeste zatvaranje budućnosti.

Čovekovo postojanje u svojoj suštini podrazumeva otvorenost prema neočekivanom. Prema onome što bismo u fizici ili filozofiji mogli nazvati neograničenim brojem mogućnosti. Sloboda jeste upravo sposobnost čoveka da iskorači iz determinante. Da uradi nešto neočekivano. Da izabere put koji nijedna dotadašnja statistika nije mogla da predvidi.

Algoritamski sistemi preporuka rade upravo suprotno. Oni uzimaju našu prošlost (istoriju pretraga, lajkova i navika) i na osnovu nje matematički projektuju i zaključavaju našu budućnost. Oni nam serviraju još više onoga što smo već videli i proživeli, ukidajući mogućnost prave serendipitativnosti, slučajnog, ali spasonosnog otkrića nečeg potpuno novog i drugačijeg. Pretvarajući budućnost u puki odjek prošlosti, ovi sistemi nas lišavaju same suštine ljudske slobode.

Šta nam je činiti: Ka novoj digitalnoj higijeni i protokolu ljudskosti

Ovo nije poziv na luditsko rušenje servera, niti na naivno odbacivanje tehnološkog napretka. Tehnologija je oduvek bila produžetak ljudske prirode. Pitanje je samo u čijim rukama leži njena teleologija.

Da bismo se oduprli ovoj novoj, softverskoj idolatriji, moramo delovati na dva nivoa:

1. Na nivou društvene i sistemske regulacije: Potrebne su nam rigorozne „revizije teleologije“ (teleology audits). Platforme moraju javno i transparentno objaviti za koje tačno metrike optimizuju svoje sisteme. Moramo zahtevati uvođenje algoritamske frikcije, namernih prekida u toku sadržaja koji vraćaju čoveka u realnost, kao i obavezne mehanizme diversifikacije ponuđenih mišljenja.
2. Na nivou pojedinca: Neophodno je ponovo uspostaviti kulturu „svesne nelagode“. Moramo naučiti da se odupremo liniji najmanjeg otpora koju nam nudi ekran. Prava ljudskost se ne meri brojem optimizovanih sekundi na mreži, već sposobnošću za tišinu, za nepredvidiv izbor. Za dijalog sa onima sa kojima se ne slažemo i za izlazak van predviđenog algoritamskog okvira.

Ne smemo dozvoliti da u potrazi za komforom i brzim odgovorima sopstvenu sudbinu prepustimo „kvazi-bogovima“ od koda i silicijuma. Jer mašina, koliko god delovala sveznajuće, nikada neće moći da ima svest o vrednosti ljudske patnje, lepote i slobode. Pravo na neodređenost, nepredvidivost i grešku ostaje poslednje i najvažnije utočište ljudske duše.

izvor : Forbes.rs