Kreator ChatGPT-a, kompanija OpenAI, objavila je da su dva njihova najnaprednija modela vještačke inteligencije prošla kontrolisani test i hakovala drugu kompaniju za vještačku inteligenciju.

OpenAI je u utorak saopćio da se "neviđeni sajber incident" dogodio tokom interne vježbe namijenjene testiranju sajber sposobnosti njihovih modela.

Autonomni agent pokretan AI modelima pobjegao je iz testnog okruženja i stigao do otvorenog interneta. Zatim je koristio ukradene podatke za prijavu i pronašao prethodno nepoznatu sigurnosnu manu za pristup serverima kompanije Hugging Face. 

Suosnivač Hugging Facea Clement Delangue rekao je da je kompanija sumnjala da iza napada stoji granični laboratorij i da vjeruje da nije bilo zlonamjerne namjere sa strane OpenAI-a, piše Al Jazeera.

- Prilično je zapanjujuće da se sve ovo dogodilo autonomno - napisao je, dodajući da je to "možda prvi incident te vrste".

Greg Casar, član Zastupničkog doma SAD-a iz reda demokrata, nazvao je incident alarmantnim.

- AI se razvija izuzetno brzo bez stvarnih propisa koji bi nas zaštitili - istakao je Casar, pozivajući na obavezno nezavisno testiranje sigurnosti, obavezno otkrivanje sigurnosnih incidenata i međunarodnu saradnju.

Ovo otkriće dolazi nekoliko sedmica nakon što je američki predsjednik Donald Trump potpisao izvršnu uredbu kojom se stvara okvir za provjeru rizika nacionalne sigurnosti najnaprednijih sistema umjetne inteligencije prije njihovog javnog objavljivanja.

Stručnjaci su više puta upozoravali na sajber napade omogućene umjetnom inteligencijom i modele koji izmiču ljudskoj kontroli. Prošlog mjeseca, kompanija za razvoj umjetne inteligencije Anthropic pozvala je industriju da pauzira razvoj svojih najmoćnijih sistema.