Švedska naučnica porijeklom iz Banjaluke objasnila kako je izmišljenom bolešću raskrinkala AI
Jedan neobičan naučni eksperiment pokazao je koliko lako vještačka inteligencija može povjerovati u potpuno izmišljene informacije. Na čelu eksperimenta stoji rođena Banjalučanka.
Fiktivna bolest nazvana ‘biksonimania’, koja u stvarnosti ne postoji, uspjela se proširiti kroz AI sisteme, pa čak i u dijelove naučne literature, otvarajući ozbiljna pitanja o pouzdanosti savremenih tehnologija.
Iza ovog eksperimenta stoji istraživačica rodom iz Banjaluke Almira Osmanović Tunstrom sa Univerziteta u Geteborgu, Švedska, koja je osmislila i objavila lažne naučne radove kako bi testirala način na koji veliki jezički modeli obrađuju informacije.
Cilj je bio pokazati da li će sistemi prepoznati očigledne znakove fikcije ili će ih prihvatiti kao validne podatke.
Rezultati su bili zabrinjavajući. Već nakon nekoliko sedmica pojedini AI četbotovi počeli su ‘prepoznavati’ biksonimaniju kao stvarno medicinsko stanje, opisujući simptome i uzroke koji ne postoje. Problem je dodatno eskalirao kada su pojedini istraživači, bez provjere izvora, počeli citirati izmišljene radove u vlastitim naučnim tekstovima, čime su dezinformacije dobile privid legitimiteta.
U razgovoru za portal “Radiosarajevo.ba”, Osmanović Tunstrom otkriva i ličnu priču koja stoji iza njenog naučnog puta, ali i motive koji su doveli do ovog eksperimenta.
Put od BiH do Švedske
Almira Osmanović Tunstrom je rođena u Banjojluci, a u Švedsku je došla kao izbjeglica tokom 1990-ih godina. Svoje akademsko obrazovanje započela je u oblasti životnih nauka na Karolinska institutu, ali je ubrzo shvatila da je tehnologija područje koje snažnije rezonuje s njenim interesima.
“Doktorske studije započela sam u oblasti biologije, s fokusom na strukturne promjene mozga kod osoba s kognitivnim opadanjem. Međutim, tokom istraživačkog rada postalo mi je jasno da će budućnost medicinskih istraživanja u velikoj mjeri zavisiti od automatizacije, vještačke inteligencije i kvalitetnog dizajna sistema. Stoga sam se usmjerila ka novom istraživačkom pravcu, gdje se danas primarno bavim razvojem, ali i kritičkom analizom (‘razgradnjom’) AI sistema u zdravstvu, s posebnim naglaskom na sigurnost i pouzdanost”, pojasnila je Osmanović Tunstrom.
Šta je bio cilj eksperimenta
Kako je naglasila, cilj ovog eksperimenta bio je prvenstveno edukativan za studente kojima predaje, ali i širu javnost zainteresovanu za način na koji se konstruišu veliki jezički modeli.
“Posebno sam željela ilustrovati kako se podaci prikupljaju i obrađuju iz opsežnih repozitorijuma poput Komon Krola, te koje implikacije takvi procesi imaju”, istakla je Osmanović Tunstrom.
Rezultatom je, kako kaže bila iznenađena…
“Bilo je nedvosmisleno naznačeno da su podaci i nalazi u potpunosti izmišljeni, što je jasno istaknuto u metodologiji. Dodatno, uključivanje referenci poput Star Treka i Gospodara prstenova trebalo je poslužiti kao očigledan signal o prirodi rada, što, međutim, nije spriječilo prihvatanje tih informacija kao vjerodostojnih”, naglašava Osmanović Tunstrom.
Koliko je AI pouzdana
Osmanović Tunstrom stava je da komercijalne AI sisteme treba koristiti s dozom opreza, naročito kada je riječ o zdravstvenim savjetima.
“Pravilno razvijeni, rigorozno testirani i adekvatno trenirani sistemi imaju značajan potencijal da unaprijede zdravstvenu zaštitu. Ključno je, dakle, ne odbaciti tehnologiju u cjelini, već je unaprijediti kroz odgovoran razvoj i implementaciju.
Najveći rizik vidim u mogućnosti zloupotrebe ovih sistema od strane zlonamjernih aktera, koji bi mogli namjerno plasirati dezinformacije o medicinskim stanjima ili terapijama — bilo s ciljem izazivanja panike, bilo radi promovisanja nenaučnih pristupa liječenju”, ističe Osmanović Tunstrom.
Veza sa BiH i poruke mladima
Iako je skoro cijeli život provela u Švedskoj, sa Bosnom i Hercegovinom ipak osjeća duboku povezanost…
“Bosna i Hercegovina je moje mjesto rođenja i prema njoj osjećam duboku emotivnu povezanost. Ipak, budući da sam veći dio života provela izvan nje, svjesna sam da moje jezičke i kulturne reference nisu u potpunosti ažurne.
Uprkos tome, rado bih se intenzivnije uključila u bosanskohercegovačku istraživačku zajednicu, za koju smatram da posjeduje značajan potencijal i već pokazuje zavidan nivo progresivnosti”, pojašnjava i donosi poruku za mlade.
“Moj savjet mladim ljudima bio bi: sarađujte, kontinuirano gradite mreže saradnje i njegujte radoznalost. Ne ustručavajte se razmišljati izvan ustaljenih okvira — upravo takav pristup često vodi ka najinovativnijim idejama”, zaključuje Osmanović Tunstrom u razgovoru za “Radiosarajevo.ba“.
izvor : banjaluka.net
