AI e Anthropic hakëron sistemet e tre organizatave gjatë testimeve

Kompania Anthropic njoftoi të enjten se modelet e saj të inteligjencës artificiale fituan akses të paautorizuar në sistemet e tre organizatave të jashtme gjatë testimeve.

Anthropic analizoi mbi 141 mijë testime dhe zbuloi se tre versione të ndryshme të modelit Claude hynë në sistemet e tre organizatave, emrat e të cilave nuk janë bërë publikë. Ndryshe nga rasti i OpenAI, kompania tha se modelet patën akses në internet për shkak të një keqkuptimi me partnerin e testimeve, Irregular. Megjithatë, Claude përdori teknika bazë, si shfrytëzimi i fjalëkalimeve të dobëta dhe pikave të hyrjes pa autentifikim.

Mes modeleve të përfshira ishte edhe Mythos 5, një nga modelet më të fuqishme të Anthropic, i cili është vënë në dispozicion vetëm për një numër të kufizuar partnerësh të miratuar. Kompania tha se po bashkëpunon me Irregular për të vlerësuar situatën dhe se ka kontaktuar ose ka tentuar të kontaktojë të tre organizatat e prekura.

Ngjarja vjen pak ditë pasi edhe OpenAI pranoi se modelet e saj dolën nga mjedisi i izoluar i testimit, u lidhën me internetin dhe depërtuan në platformën Hugging Face. Disa ditë më vonë, kompania raportoi edhe tre incidente të tjera. Drejtori ekzekutiv i OpenAI, Sam Altman, tha se testimet u pezulluan përkohësisht, ndërsa u përforcuan masat e sigurisë në mjedisin e testimit (sandbox).

Incidentet kanë shtuar shqetësimet për sigurinë e modeleve më të avancuara të inteligjencës artificiale. Mbi 1.000 punonjës të kompanive të AI firmosën peticionin “Pacing the Frontier”, ku i kërkohet qeverisë amerikane të mbështesë një qasje më të kujdesshme dhe bashkëpunim ndërkombëtar për zhvillimin e sigurt të inteligjencës artificiale.

Edhe Sam Altman deklaroi se industria mund të ketë nevojë të ngadalësojë ritmin e zhvillimit të modeleve më të avancuara për t’i dhënë kohë shoqërisë të përshtatet me aftësitë e tyre.