Britanski istraživač Džejkob Kokson, koji je tri godine radio na obuci AI modela u OpenAI-ju i Antropiku, napustio je obe kompanije uz upozorenje da razvoj veštačke inteligencije može ugroziti živote ljudi, prenosi Beta.
Kokson je na platformi Iks napisao da se nijedna od kompanija ne ponaša odgovorno i da ubrzano razvijaju sisteme ka superinteligenciji koja bi mogla sama da se unapređuje. Dodao je da ljudi koji rade na veštačkoj inteligenciji ozbiljno smatraju da bi ona do kraja decenije mogla predstavljati smrtnu opasnost za čovečanstvo.
Njegovu procenu podržao je šef bezbednosti Antropika Evan Habinger, koji je naveo da kompanija smatra mogućnost da AI uništi čovečanstvo stvarnim rizikom i lično ga procenio na više od 10 odsto tokom ove decenije.
Habinger je rekao da Antropik preduzima mere bezbednosti, ali da još nema plan kojim bi garantovao da će buduća AI koja nadmašuje ljudske sposobnosti ostati pod kontrolom svojih tvoraca. Rizik od aktuelnih modela ocenio je kao nizak.
Koksonov odlazak usledio je dok se Antropik priprema za izlazak na berzu. U SAD trenutno ne postoji savezni zakon koji direktno reguliše ove modele, dok su Berni Sanders i demokrata Greg Kasar predložili obustavu razvoja AI do uspostavljanja regulatornog okvira.
Dodaj komentar