CNN: ‘Umjetna inteligencija je umalo izazvala rat Amerike i Kine’ !
Obavještajni izvještaj koji je ovog proljeća, usred rata s Iranom, kružio američkom vojskom odmah je podigao uzbunu: kineski brod na Bliskom istoku navodno je prevozio dijelove potrebne za program razvoja nuklearnog oružja.
Američka vojska pokrenula je akciju i počela planirati presretanje broda, navode za CNN četvero izvora upoznatih sa slučajem. Prema njihovim riječima, naoružani pripadnici američke vojske pripremali su se ukrcati na brod, a vojni zrakoplovi već su bili u zraku.
Što biste sljedeće trebali pročitati
Tek su neposredno prije planirane akcije dužnosnici detaljnije provjerili izvještaj koji je sastavio analitičar Zapovjedništva za specijalne operacije. Tada su otkrili da je u njegovoj izradi korištena umjetna inteligencija (AI) te da je chatbot koji je analitičar koristio pogrešno identificirao teret koji je brod prevozio. Detalji o toj pogreški nisu poznati.
Lažni izvještaj skoro izazvao rat
Jedan od izvora rekao je da je izvještaj bio “potpuno lažan”. No, dodao je i da je “zamalo izazvao rat”, jer da su Amerikanci krenuli u akciju protiv kineskog broda – situacija je mogla eskalirati u oružani sukob između dviju zemalja.
Američka vojska i obavještajne službe posljednjih mjeseci sve više uvode AI u gotovo sve dijelove svog rada. Koriste ga za analizu goleme količine sirovih obavještajnih podataka koje prikupljaju, ali i za odabir ciljeva za napade. AI se koristi i za puno običnije poslove, poput upravljanja proračunom, logistikom i lancima opskrbe.
Ovaj slučaj pokazuje koliko bi ozbiljne posljedice mogle imati pogreške pri korištenju ove moćne, nove i još uvijek nedovoljno shvaćene tehnologije za odabir ciljeva usred rata. Analitičari već dugo upozoravaju da bi oslanjanje država na loše ili kompromitirane podatke moglo dovesti do katastrofalne pogrešne procjene – primjerice, da SAD napadne kineski brod na temelju netočnih informacija.
Donio je pogrešan zaključak o teretu
U ovom slučaju analitičar je chatbotu postavio pitanje o obavještajnim podacima vezanima uz popis tereta na brodu. Ti su podaci potjecali od američkog Zapovjedništva za specijalne operacije na Pacifiku, sa sjedištem na Havajima.
Chatbot je spojio javno dostupne obavještajne podatke s povjerljivim podacima prikupljenima prisluškivanjem i drugim metodama, koji su bili dostupni unutar državnih sustava. Na temelju toga donio je pogrešan zaključak o materijalu koji je brod prevozio.
Analitičar je potom ponovno koristio umjetnu inteligenciju kako bi rezultate pretvorio u standardni obavještajni izvještaj kakvi se u vojsci smatraju pouzdanim i proslijedio ga dalje. Nije poznato je li analitičar koristio komercijalno dostupan chatbot ili alat koji je razvila američka vlada.
SAD ne smije zaostati u razvoju tehnologije
“Interni alati uglavnom su samo kopije komercijalnih alata kojima su malo uljepšali izgled”, rekao je bivši visoki američki dužnosnik upoznat s AI sustavima koje koriste vojni i obavještajni analitičari. AI se u vojsku uvodi tako brzo prije svega zato što bi trebao omogućiti brže donošenje odluka na bojištu – primjerice, o tome koje ciljeve napasti ili kamo premjestiti vojne snage i opremu.
Američki dužnosnici smatraju da SAD ne smije zaostati u razvoju i primjeni te tehnologije, osobito ako bi se jednog dana morao boriti protiv Kine ili nekog drugog protivnika koji bi zahvaljujući AI-ju mogao donositi odluke brže od američke vojske.
U siječnju je ministar obrane Pete Hegseth predstavio strategiju svog ministarstva pod nazivom “Strategija ubrzanja umjetne inteligencije”. Cilj je ubrzati primjenu AI-ja u američkoj vojsci. “Omogućit ćemo eksperimentiranje, ukloniti birokratske prepreke, usmjeriti ulaganja i pokazati kako treba provoditi sve što je potrebno da bismo predvodili u vojnoj primjeni umjetne inteligencije”, rekao je Hegseth.
Intenzivne rasprave o umjetnoj inteligenciji
Strategija predviđa široku primjenu AI-ja u vojsci. Ministarstvo obrane trebalo bi kroz nekoliko programa omogućiti pristup tim alatima, s ciljem da se, kako stoji u memorandumu kojim je strategija predstavljena, “demokratizira eksperimentiranje s umjetnom inteligencijom i njezina primjena u cijelom Ministarstvu, tako da se američki vodeći AI modeli izravno stave u ruke tri milijuna civilnih i vojnih zaposlenika, na svim razinama”.
No, taj je proces prilično decentraliziran, reklo je više američkih dužnosnika upoznatih sa situacijom. Različiti dijelovi američke vlade koriste različite alate, prema različitim pravilima i sigurnosnim standardima. Ne postoji ni jedinstven način provjere informacija koje ti alati generiraju.
Budući da različiti dijelovi vojske i obavještajnih službi koriste različite AI sustave, njihova pouzdanost i mogućnosti također se znatno razlikuju. U Washingtonu se već tjednima vode intenzivne rasprave o AI-ju nakon niza ozbiljnih upozorenja inženjera iz Silicijske doline i direktora tehnoloških kompanija da bi ta tehnologija mogla izmaći ljudskoj kontroli, što bi potencijalno moglo imati posljedice po cijelu civilizaciju.
Slični incidenti događali su se i ranije
No, slučaj s kineskim brodom ukazuje na drukčiji, ali neposredniji rizik: ljudi bi mogli donijeti katastrofalne odluke na temelju netočnih ili obmanjujućih informacija koje proizvede AI ili neki drugi automatizirani sustav. Izvori kažu da vojska sve brže uvodi takve alate za određivanje ciljeva za napade što sa sobom nosi očit rizik od pogrešaka s kobnim posljedicama.
“Primjena AI-ja pri određivanju ciljeva definitivno se ubrzava, a nema jasnih pravila o tome kako osigurati da čovjek koji nadzire proces spriječi civilne žrtve ili da vlastite snage zabunom ne otvore vatru jedne na drugu”, navodi izvor upoznat s trenutačnim pravilima u vojsci.
Kako je rekao, “halucinacija” koju je u ovom slučaju proizveo alat koji je koristio analitičar nije bila izoliran slučaj. Slični incidenti događali su se i u drugim dijelovima američke obavještajne zajednice otkako su se ovakvi alati počeli širiti unutar državnih institucija.
Nekim iskusnijim obavještajnim dužnosnicima, čak i onima koji općenito podržavaju korištenje AI-ja u vojsci, ovi alati stvaraju dodatni pritisak da se obavještajni podaci što brže obrade i proslijede dalje, što povećava mogućnost pogrešaka.
Izvori navode da su mlađi analitičari posebno skloni oslanjanju na njih jer su se s tim alatima susreli od početka karijere i češće im vjeruju bez dovoljno provjere. “AI vam omogućuje da brže dođete do loše ideje”, rekao je jedan od izvora.
izvor : Telegram.hr
