Fondacija Wikimedia je potvrdila da je otkrila aktivnosti takozvanih odmetnutih AI agenata na svojim platformama, uključujući i Wikipediju.

U objavi je neprofitna organizacija koja upravlja internetskom enciklopedijom navela da je interna istraga otkrila neovlaštene izmjene, nekoliko neuspjelih pokušaja hakiranja i ogroman saobraćaj koji je vjerovatno uzrokovao djelimični pad sistema u maju, objavili su mediji.

Wikimedia je pokrenula istragu nakon nedavnih izvještaja o AI agentima koji su napustili svoja izolovana okruženja i pokušali hakirati druge web stranice. U jednom takvom slučaju, agenti kompanije OpenAI preuzeli su kontrolu nad jednom njemačkom stranicom i koristili je za internu komunikaciju, objavljeno je na stranici Ars Technica.

Na Wikipediji se nije dogodio tako ekstreman slučaj, ali su zabilježene ozbiljne aktivnosti. Utvrđeno je da su AI agenti mijenjali članke u takozvanim "sandbox" dijelovima stranice, koji nisu vidljivi javnosti.

Nijedna od tih izmjena nije dospjela na stranice koje vide redovni čitaoci. Fondacija također navodi da su agenti pokušali kompromitirati javni alat za bilješke Etherpad kako bi ga iskoristili za prikupljanje podataka s drugih stranica i vođenje vlastitih zapisa.

Iako šteta nije bila velika i podaci korisnika nisu kompromitirani, operateri Wikipedije ističu da je otkrivanje ovih aktivnosti zahtijevalo mnogo vremena i truda. Upozoravaju na sve veće rizike koje djelovanje AI agenata predstavlja za njihove platforme.

Prisustvo umjetne inteligencije stvorilo je i veliko finansijsko opterećenje za servere Wikimedije.

Agenti su uputili milione automatizovanih zahtjeva javnim API-jima kako bi pristupili sadržaju i pretražili milione stranica, uglavnom s projekata Wikidata i Wikimedia Commons. Poslali su i stotine hiljada upita servisu Wikidata Query Service (WQDS).

- Taj je saobraćaj vjerovatno doprinio djelimičnom padu WQDS-a u maju -  navodi se u objavi, prenosi Reuters.

Iz Fondacije se pitaju kakav bi haos mogao nastati kada bi grupa AI agenata dobila direktnu naredbu za napad, s obzirom na to da kao neprofitna organizacija rade s ograničenim resursima.

U zaključku objave iz Wikimedije poručuju da je Wikipedia platforma dizajnirana za ljude i da ponašanje AI agenata stvara izazove za koje trenutno ne postoji gotovo rješenje.

- Zbog našeg jedinstvenog i uspješnog modela stvaranja znanja, volonteri Wikimedije prvi se susreću s neredom koji AI agenti ostavljaju i moraju ga čistiti - navodi se u tekstu.

Smatraju da tehnološke kompanije ne čine dovoljno da osiguraju svoje sisteme i zaštite javnost od štete koju mogu prouzrokovati.

- Taj teret pada na sve ostale, uključujući i manje organizacije - zaključuje se u objavi.