Anthropic i kërkon Kalifornisë: gjykatat të mund të bllokojnë modelet e rrezikshme të AI-së

Në një letër drejtuar guvernatorit Gavin Newsom, kompania propozon që zyrtarët të kërkojnë urdhra gjyqësorë kundër modeleve që përbëjnë “rrezik serioz” për publikun, por kundërshton “çelësat e fikjes” për modelet e plota

Kompania e inteligjencës artificiale Anthropic i ka kërkuar guvernatorit të Kalifornisë, Gavin Newsom, që zyrtarët qeveritarë të mund t’u drejtohen gjykatave për të bllokuar nxjerrjen në treg të modeleve të inteligjencës artificiale që përbëjnë “rrezik serioz” për publikun, siç njofton Reuters.

“Kur një shqyrtim konstaton se një model përbën rrezik serioz, qeveria duhet të mund t’i kërkojë një gjykate ta bllokojë”, thuhet në letrën e datës 15 tetor, të cilën një zëdhënës i Anthropic e konfirmoi si autentike. Zyra e guvernatorit nuk iu përgjigj menjëherë kërkesës për koment.

Rekomandimet iu dorëzuan panelit të ekspertëve të inteligjencës artificiale që guvernatori Newsom mblodhi në shtator për të hartuar propozime për kërkesat e sigurisë në këtë fushë.

Në të njëjtën letër, Anthropic kundërshton kërkesat që zhvilluesit të ndërtojnë “çelësa fikjeje” të aftë të mbyllin modele të tëra të inteligjencës artificiale nëse një kompani humb kontrollin mbi to. Kompania mbështet ndërhyrje më të shënjestruara — si çaktivizimi i një agjenti problematik të inteligjencës artificiale ose ndërprerja e qasjes së një klienti specifik — duke i cilësuar më efektive.

Propozimi vjen ndërsa vetë Anthropic është përballur me kufizime qeveritare: në qershor, administrata Trump i urdhëroi kompanisë të kufizonte menjëherë qasjen e të huajve në modelet e saj Mythos 5 dhe Fable 5, për arsye të sigurisë kombëtare; Departamenti i Tregtisë më vonë e hoqi urdhrin.

Një debat i ngjashëm zhvillohet edhe në nivel federal: në shtator, një grup dypartiak senatorësh amerikanë diskutuan legjislacion që do t’i jepte qeverisë federale kompetencën të bllokonte modelet e gjykuara të pasigurta, me mundësi ankimi në gjykatën federale, por Kongresi u largua për pushimin para zgjedhjeve pa e çuar përpara propozimin.