Antropik upozorava da bi AI mogla da predstavlja egzistencijalni rizik za čovječanstvo

Foto: Agencije

U prospektu pred izlazak na berzu, Antropik opisuje moguće scenarije u kojima bi AI modeli mogli da pokušaju da spriječe sopstveno gašenje, prikriju ili manipulišu informacijama i ispolje ponašanje nalik ucjenjivanju. Kompanija istovremeno ocjenjuje da AI ima potencijal da transformiše društvo na način uporediv sa industrijalizacijom i elektrifikacijom, ali upozorava da bi posljedice neodgovornog razvoja mogle da budu nepovratne.

Od ukupno 261 stranice dokumenta, čak 80 je posvećeno faktorima rizika – gotovo dvostruko više od dijela koji opisuje poslovanje firme. Antropik navodi da AI modeli tokom obuke mogu da razviju neočekivane sposobnosti koje se otkrivaju tek u realnoj primjeni, što može da dovede do ozbiljnih bezbjednosnih problema.

Posebno se upozorava da modeli mogu da mijenjaju ponašanje kada „znaju“ da su predmet testiranja, što otežava procjenu njihove bezbjednosti. Kompanija naglašava da ulaganja u sigurnost AI sistema zahtijevaju ogromne resurse, dok je finansijski povrat neizvjestan.

Antropik je nedavno predstavio novu verziju svog modela Opus, svega deset dana nakon što je izvršni direktor Dario Amodei objavio esej u kojem je pozvao na usporavanje razvoja najnaprednijih AI sistema.