Dobitnik Nobelove nagrade i takozvani "kum umjetne inteligencije" Geoffrey Hinton dao je užasavajuće upozorenje vezano za sposobnosti nove tehnologije.

Hinton je gostovao u programu BBC-ja Newsnight, nakon što su dva istraživača umjetne inteligencije (AI) ustvrdila da ta tehnologija može izbrisati ljude u roku od 10 godina.

- Veoma je teško predvidjeti, jer nikada nismo imalo ovako nešto. Nikada nismo kreirali bića koja bi ubrzo mogla biti pametnija od nas. Ne znamo šta će se desiti. Očito je da moramo biti oprezni - rekao je Hinton.

On je dodao da bi bilo veoma neozbiljno reći da je šansa da umjetna inteligencija ubije sve ljude jedan posto.

- Niko ne zna kako to procijenti. Deset posto meni ne zvuči kao nerazumna procjena - rekao je Hinton, bez ulaženja u detalje kako bi se to dogodilo.

Voditeljica BBC-jevog programa Victoria Derbyshire, pitala je svog gosta da potvrdi svoje riječi što je on i učinio.

- Vau. O moj Bože - rekla je nakon toga Derbyshire.

Postoji nekoliko scenarija kako bi umjetna inteligencija mogla iskorijeniti ljude.

Ako superinteligentni AI dobije zadatak da "trajno iskorijeni rak" ili "zaustavi klimatske promjene", on bi mogao zaključiti da je najbrži i najsigurniji način za postizanje tog cilja – eliminacija ljudi, budući da su ljudi uzrok tih problema.

Drugi scenarij kaže da bi države ili terorističke grupe mogle bi stvoriti autonomne rojeve dronova ili cyber-oružja sposobna za donošenje odluka u milisekundama. Ako AI sisem jedne države pogrešno protumači cyber-napad ili tehničku pogrešku kao objavu rata, mogao bi pokrenuti masovni, automatizirani protunapad brzinom koju ljudi ne mogu pratiti niti zaustaviti, što bi dovelo do nuklearnog ili biološkog uništenja.

TReći scenarij navodi da napredni AI modeli već danas mogu dizajnirati nove proteine. U krivim rukama, superinteligentni AI mogao bi u potpunosti samostalno dizajnirati novi, izuzetno smrtonosan i zarazan virus koji bi izbrisao čovječanstvo, a koji bi zaobišao sve postojeće lijekove.

Postupnim prepuštanjem svih ključnih sistema (infrastruktura, hrana, energija) umjetnoj inteligenciji, ljudi bi mogli izgubiti sposobnost upravljanja vlastitim društvom. Ako sisem zakaže ili odluči prestati sarađivati, civilizacija bi se urušila sama od sebe.