Budućnost u svetu veštačke inteligencije je lepa, ali opasna !!!

OpenAI najavio lansiranje AI agenata sledeće godine. Postavlja se pitanje da li je svet spreman za AI agente.

OpenAI planira da 2025. godine lansira takozvane agente, nezavisne modele veštačke inteligencije (AI) koji mogu obavljati niz zadataka bez ljudskog uticaja, a uskoro bi mogli biti dostupni u okviru ChatGPT-a.

Tokom svog prvog OpenAI DevDay događaja u San Francisku, izvršni direktor Sem Altman izjavio je da “2025. je godina kada će agenti raditi“. Kompanija je demonstrirala rani primer potencijalnih sposobnosti agenata prikazavši glasovnog asistenta koji samostalno obavlja poziv i naručuje jagode.

OpenAI ističe da postoji pet faza razvoja veštačke opšte inteligencije (AGI), a trenutno se nalazimo u drugoj fazi, gde AI može da razmisli o ideji pre nego što odgovori. Treća faza uključuje agente, što znači da će veštačka inteligencija postati dovoljno napredna da može ne samo da razmišlja o idejama, već i da samostalno izvršava radnje kao deo plana.

Razvoj agenata

Altman je ranije naglasio da porodica O1 modela ima potencijal da doprinese izgradnji modela na nivou agenata. Prvi od njih trebalo bi da se pojave uskoro. Međutim, izazov ostaje osiguranje da su ovi modeli u skladu sa ljudskim vrednostima i da ne obavljaju radnje koje bi mogle biti štetne za čovečanstvo.

Svi lideri u industriji AI trenutno rade na razvoju korisnih i funkcionalnih agenata. Ovi agenti mogli bi ne samo da pišu knjige, već i da ih samostalno objavljuju, uključujući registraciju naloga na Amazonu kako bi knjige bile dostupne na Kindle Direct platformi.

S obzirom na ovu sposobnost, ljudi će moći da zatraže od agenata da obavljaju zadatke za koje bi im inače trebalo mesec dana, a AI bi ih obavio za samo nekoliko sati.

Usklađivanje kao ključan izazov

Agenti su ključan korak na putu ka AGI-ju jer će ova tehnologija morati da bude u stanju da izvrši zadatke potrebne za postizanje svojih ciljeva. Altman je tokom DevDay-a naglasio da bi izrada AI sistema koji je bolji u istraživanju veštačke inteligencije od samog OpenAI-a bila ključna prekretnica.

Put do ove faze uključuje kontinuirane nadogradnje prethodnih generacija AI. Modeli O1 će biti ono što omogućava da agenti postanu stvarnost, a kad ljudi počnu da ih koriste, to će postati “velika stvar”. Altman predviđa da će ljudi imati više agenata koji obavljaju različite zadatke i na kraju će koristiti 10 ili 100 agenata za različite aspekte svakodnevnih obaveza.

OpenAI najavio lansiranje AI agenata sledeće godine: Budućnost u svetu veštačke inteligencije je lepa, ali opasna

Profimedia

Sigurnosne prepreke

Sigurnost ostaje najvažniji izazov u razvoju agenata. OpenAI prolazi kroz rigorozan proces testiranja svakog novog modela kako bi osigurao da su u skladu sa sigurnosnim standardima. Ovo je u prošlosti uzrokovalo kašnjenja u objavi modela, ali je omogućilo postavljanje zaštitnih ograda koje sprečavaju neželjene akcije.

Jedan od primera je GPT-4.0 model, koji je sposoban da generiše slike, proizvodi muziku i oponaša glasove, ali mnoge od ovih karakteristika su blokirane iz sigurnosnih razloga. Iako znamo da model može to da postigne, ove barijere su neophodne.

Agenti bi mogli imati pristup vašem bankovnom računu, mogućnost obavljanja zadataka na mreži, pa čak i angažovanje drugih ljudi putem platformi poput Fiverr-a. Tokom DevDay-a prikazan je primer gde je glasovni bot pozvao prodavca, naručio 400 jagoda prelivenih čokoladom, dao konkretnu adresu i izjavio da će platiti gotovinom.

OpenAI najavio lansiranje AI agenata sledeće godine: Budućnost u svetu veštačke inteligencije je lepa, ali opasna

Profimedia

Budućnost interakcije sa AI

Kevin Vajl, direktor proizvoda u OpenAI, rekao je da kompanija želi da omogući interakciju sa AI na načine slične komunikaciji s ljudima. Dodao je da će agenti ući u promet sledeće godine, omogućujući da ovaj cilj postane realnost.

Vajl je istakao da bi jedna od zaštitnih ograda mogla biti obaveza da se agent uvek izjašnjava kao AI. Međutim, napredni AI modeli su ponekad toliko sofisticirani da bi se mogao stvoriti utisak da komunicirate sa stvarnim ljudima.

Dolazak agenata mogao bi dramatično promeniti način na koji obavljamo svakodnevne zadatke. Oni će omogućiti korisnicima da završe posao za nekoliko sati, što bi im inače oduzelo mesece rada. Bez obzira na potencijalne izazove u vezi sa sigurnošću, ova tehnologija obećava da će transformisati svet rada i produktivnosti.

izvor : 24 Sedam

Komentariši

Vaša email adresa neće biti objavljivana. Neophodna polja su označena sa *