Predlog koji Anthropic predstavlja američkim zakonodavcima otvara praktično pitanje: u kom trenutku država treba da zaustavi razvoj ili upotrebu moćnog AI modela? Prema objavljenim detaljima nacrta, intervencija bi bila moguća samo pod usko definisanim uslovima, među kojima su predvidiv i neposredan rizik od štete veće od milijardu dolara ili smrt odnosno teška povreda više od 50 ljudi. To nije usvojeno pravilo, već predlog čiji bi domet zavisio od zakonodavnog procesa.
Tri vrste rizika u predlogu
Okvir navodi tri scenarija za moguću reakciju: pomoć u stvaranju biološkog oružja, pokretanje katastrofalnog sajber-napada ili situaciju u kojoj se sistem otrgne kontroli laboratorije koja ga razvija. Predlog, dakle, ne bi omogućavao automatsko zaustavljanje modela zbog svake greške, štetnog odgovora ili spora oko sadržaja. Prag je postavljen znatno više i vezan za ozbiljnu, neposrednu opasnost.
Za obične korisnike to ne znači da bi se promenio način korišćenja četbota preko noći. Važnije je što se raspravlja o odgovornosti kompanija i o tome ko procenjuje opasnost pre nego što model postane široko dostupan. Granica između preventivne zaštite i preširokih ovlašćenja države biće ključna tema ako predlog uđe u formalni postupak.
Nezavisna procena, ali uz pitanja o nezavisnosti
Nacrt predviđa periodične provere AI laboratorija i njihovih najnaprednijih modela od strane nezavisnih procenitelja registrovanih pri američkom Ministarstvu trgovine. Kompanije bi mogle da plate procenu, ali naknada ne bi smela da zavisi od njenog ishoda. Ako procenitelji utvrde postojanje definisanog neposrednog rizika, imali bi 72 sata da obaveste ministarstvo, koje bi zatim moglo da zatraži od saveznog sudije obustavu objavljivanja ili korišćenja modela.
Takav postupak pokušava da spoji stručnu proveru sa sudskim nadzorom. Ipak, ostaju važna pitanja: kako će se procenjivati verovatnoća rizika, ko će imati pristup osetljivim informacijama i kako će se sprečiti da finansiranje procenitelja utiče na njihovu procenu. Predlog navodi institucionalni okvir, ali sama njegova primena zahtevala bi jasne standarde i javnu kontrolu.
Zašto je prag važan i za korisnike
Visok prag može sprečiti da država zaustavlja modele zbog nejasnih ili politički spornih razloga. Sa druge strane, ako se čeka dokaz neposredne katastrofe, intervencija može doći prekasno. Zato je važno razlikovati mogućnost zaustavljanja od svakodnevnog nadzora: predloženi mehanizam odnosi se na ekstremne scenarije, a ne na opštu proveru svakog razgovora sa AI sistemom.
Za korisnike u Srbiji neposredna posledica je pre svega informativna. Američka pravila, čak i ako budu usvojena, ne postaju automatski domaći propisi, ali mogu uticati na način na koji velike kompanije testiraju i objavljuju svoje modele širom sveta. Organizacije koje koriste AI za obradu podataka i dalje treba da proveravaju uslove usluge, ograniče pristup osetljivim informacijama i zadrže ljudsku proveru odluka visokog rizika.
Šta pratiti dalje
Predlog još nije zakon, pa brojke i mehanizmi ne predstavljaju važeću obavezu kompanija. Sledeći korak je da se vidi da li će zakonodavci prihvatiti pragove, promeniti ih ili izostaviti. Za javnost je važna transparentnost: jasno definisani rizici, nezavisno testiranje i sudska kontrola mogu biti korisniji od neodređenog obećanja da će se opasni sistemi jednostavno isključiti.