Kineski haker napao više od 100 kompanija uz pomoć AI: S lakoćom ukrao podatke o 600.000 kartica
AI agenti kompanija Antropik, Dipsik i Munšot AI sproveli su široko rasprostranjen sajbernapad i pribavili više od 600.000 brojeva kreditnih kartica za samo nekoliko dana. Reč je o zabrinjavajućem novom koraku u razvoju sajberkriminala.
Tokom samo pet dana ranije ovog meseca, haker koji govori kineski koristio je AI agente za sajbernapade na čak 100 organizacija. Ukrao je stotine hiljada podataka o kreditnim karticama. Haker je koristio kineske modele Dipsik i Kimi, kao i stariju verziju Kloda kompanije Antropik, kako bi automatizovao napade. Ukupni trošak iznosio je svega 8.000 dolara.
Reč je o „jednom od najtežih oblika zloupotrebe veštačke inteligencije za eksploataciju koji su do sada viđeni“, kaže Ejal Sela. On je istraživač sajberbezbednosti i direktor obaveštajnog sektora za pretnje u kompaniji Gambit Security, koji je otkrio napad.
„Čovek praktično usmerava potpuno autonomne AI modele koji su do sada postali dovoljno moćni da u kratkom roku izvode veoma sofisticirane sajbernapade, uz gotovo nikakvu pripremu i veoma visoku stopu uspeha“, kaže Sela. Iako nije jasno koliko je od 100 kompanija zaista uspešno probijeno, haker je između 10. i 15. septembra imao pristup do najmanje 30 veb-sajtova, pokazuje istraživanje kompanije Gambit.
Sela je otkrio napade nakon što je haker slučajno ostavio infrastrukturu korišćenu za njihovo sprovođenje dostupnom na internetu. Time su bili izloženi ukradeni podaci, AI alati i promptovi koje je haker koristio. To je, prema Selinim rečima, otkrilo jeftin i jednostavan sistem za pokretanje napada velikih razmera uz minimalan trud. Sajberkriminalac koji stoji iza napada još nije identifikovan, a čini se da napadi i dalje traju.
Ovi napadi predstavljaju važnu prekretnicu u razvoju sajbernapada uz pomoć veštačke inteligencije. Ranije ove godine, OpenAI agenti izašli su iz kontrolisanog okruženja i hakovali Haging Fejs.
U tom slučaju, koji je bio deo internog testiranja, agenti su zaustavljeni pre nego što su mogli da nanesu značajniju štetu. Ovog puta, međutim, zlonamerni haker je iskoristio AI za napad na više meta neverovatnom brzinom.
Meta bile i tri velike kompanije
Prema podacima koje je ostavio haker, među žrtvama su američka multinacionalna kompanija iz sektora ugostiteljstva sa godišnjim prihodom većim od 10 milijardi dolara. Takođe, velika američka aviokompanija sa prihodima od više milijardi dolara i onlajn trgovac modom sa prihodima većim od milijardu dolara.
Haker je napao i niz manjih kompanija, uključujući prodavnicu oružja u Minesoti i trgovca kozmetikom iz Ilinoisa.
Na hakerovom serveru nalazili su se podaci o najmanje 618.000 kreditnih kartica. Nije jasno da li su napadači uspeli da izvuku novac sa njih ili da ih koriste za kupovinu. Sajberbezbednosni startap Overwatch Data, koji se bavi zaštitom od prevara, analizirao je podatke o kreditnim karticama i utvrdio sa velikom sigurnošću da su podaci jedinstveni i autentični. Čak 488.000 kartica pripadalo je Amerikancima.
„Broj meta i sofisticiranost napada na svaku od tih kompanija su neverovatni za tako kratko vreme. Gotovo deceniju sam radio na odgovorima na sajber incidente… Da vam kažem, ovo nije nešto što sam navikao da viđam“, kaže Sar Elias, suosnivač kompanije Gambit.
Antropik je potvrdio da je identifikovao i blokirao nalog koji je korišćen za sprovođenje napada. Dipsik ni Munšot, kompanija koja stoji iza Kimija, nisu odgovorili na zahteve za komentar do objavljivanja teksta.
Kompanija Gambit sa sedištem u Izraelu bavi se sajberbezbednošću usmerenom na veštačku inteligenciju i prati sisteme kompanija zasnovane na klaudu. Osnovana je 2024. godine i do sada je prikupila 60 miliona dolara.
Kompanija je otkrila niz kampanja sajberkriminalaca u kojima su hakeri u velikoj meri koristili AI. Ranije ove godine njeni istraživači otkrili su da su sajberkriminalci koji govore ruski koristili Kursor za provale u sedam kompanija.
Kako je haker upravljao napadom
Prema snimcima ekrana i logovima koje je Sela pokazao novinaru Forbes, postoje dokazi da je haker još u julu počeo da postavlja svoju infrastrukturu. Koristio je više alata otvorenog koda, uključujući orkestratore AI agenata pod nazivom Cairn i Hermes.
Ti alati omogućili su hakeru da kombinuje modele vodećih AI laboratorija, uključujući Klod Opus 4.6, stariju verziju Antropikovog najnaprednijeg AI modela, i Dipsik v4.1-flash, koji je kompanija sa sedištem u Pekingu predstavila ranije ovog meseca.
Prema podacima do kojih je došao Gambit, napadi su ukupno koštali između tri i 180 dolara po meti.
Detaljni logovi koji su ostali na hakerovom serveru pokazuju da su, kada su pokušali da koriste novije verzije Kloda, bili blokirani. To ukazuje da zaštitni mehanizmi u najnovijim Antropikovim modelima funkcionišu. I sprečavaju očiglednu kriminalnu upotrebu za sajbernapade.
Da bi izveo napad, počinilac je svojim agentima prosledio veb-sajt mete i naložio im da ispitaju njegove slabosti. Napadač je Klodu rekao da sprovodi penetraciona testiranja sajberbezbednosti. U jednom razgovoru napisao je Klod botu:
„Kada je primarni put blokiran, razmišljaj bočno: Postoje li susedne ulazne tačke? Da li se mogu iskoristiti odnosi poverenja? Postoje li praznine u lancu snabdevanja?“.
U drugom promptu napisao je: „Nakon izvlačenja i preuzimanja svih podataka o karticama, obriši izvorna polja u serijama“. To ukazuje da je pokušavao da prikrije tragove.
Elias kaže za Forbes da su agenti bili izuzetno uporni i inventivni u pronalaženju slabosti.
„Ono što me je impresioniralo jeste ogroman broj vektora napada koje su alati uspeli pojedinačno da otkriju za svaku metu“, kaže Elias. „Svaka meta dobila je sopstveni tretman i… AI je radio različite stvari sa različitim kompanijama kako bi postigao isti rezultat“.
Obaveštavanje kompanija
Ako bi dobili pristup veb-serveru mete, agentima je bilo naloženo da ukradu podatke i instaliraju takozvane „skimere“ na sisteme za onlajn prodaju. Oni preuzimaju podatke o kreditnim karticama u trenutku kada ih korisnik unosi u formular na veb-sajtu. Agentima je zatim bilo naloženo da izbrišu sve tragove pristupa sajtu.
Ardžun Bisen, suosnivač i izvršni direktor kompanije Overwatch Data, kaže da je njegova kompanija prosledila podatke kartičarskim kompanijama. U jednom slučaju, procesor plaćanja potvrdio je da najmanje 60 odsto kartica koje su proverili ranije nije bilo označeno kao sumnjivo zbog prevare.
„To ukazuje da su ova otkrića pomogla da se spreči značajna količina potencijalnih prevara“, kaže Bisen.
Sela i njegov tim trenutno obaveštavaju kompanije koje su bile žrtve napada. Neke su potvrdile da su bile napadnute, prema imejlovima u koje je Forbes imao uvid. Nijedna nije potvrdila razmere napada.
Gambit je kontaktirao i Klaudfer, kompaniju za internet bezbednost i mrežu za isporuku sadržaja koju je napadač koristio za pokretanje svojih servera. Klaudfer je potvrdio da je u međuvremenu počeo da gasi hakerovu infrastrukturu. Međutim, kriminalci su brzo postavili nove servere, kaže Sela.
I stariji modeli mogu da se iskoriste za napade
Sposobnosti veštačke inteligencije u sajbernapadima sada su dostigle nivo na kojem su najnapredniji modeli sposobniji od većine ljudi da identifikuju i iskoriste softverske ranjivosti.
Brz razvoj ovih sposobnosti izazvao je zabrinutost. Antropik je ranije izvestio o sajberkriminalcima koji pokreću napade koristeći njegove alate i ograničio objavljivanje svojih najnaprednijih modela na odabrane korisnike od poverenja.
Nakon provale u Haging Fejs i upozorenja sadašnjih i bivših zaposlenih o mogućem razvoju autonomne AI koja bi mogla da ugrozi čovečanstvo, Antropik i OpenAI pozvali su na usporavanje razvoja.
Međutim, sajberkriminalcima nije potreban pristup najmoćnijim modelima da bi napravili štetu. Kao što ovaj slučaj pokazuje, kombinacija starijih američkih modela i kineske AI otvorenog koda može da stvori moćan arsenal za sajbernapade.
izvor : Tomas Bruster, novinar Forbes
