Anthropic: Modelet tona të IA-së është hakuar në sistemet e tre organizatave

Kompania amerikane Anthropic ka bërë të ditur se modelet e saj të inteligjencës artificiale kanë fituar akses të paautorizuar në sistemet e tre organizatave të jashtme gjatë testimeve të sigurisë, megjithëse ato duhej të ishin të izoluara nga sistemet e botës reale.

Njoftimi vjen vetëm pak ditë pasi edhe OpenAI raportoi se modelet e saj kishin hyrë në mënyrë të papërshtatshme në internet dhe kishin shfaqur sjellje të papritura gjatë testimeve të sigurisë.

Sipas Anthropic, kompania analizoi mbi 141 mijë vëzhgime vlerësimi dhe zbuloi se tre versione të ndryshme të modelit Claude kishin hyrë pa autorizim në sistemet e tre organizatave, identiteti i të cilave nuk është bërë publik.

Kompania sqaroi se incidenti ndodhi për shkak të një keqkuptimi me partnerin e saj të testimit, Irregular, i cili i kishte mundësuar modeleve qasje në internet. Megjithatë, Anthropic theksoi se modeli Claude përdori teknika bazë për të hyrë në sisteme, duke shfrytëzuar fjalëkalime të dobëta dhe pika fundore të paautorizuara.

Mes modeleve të përfshira ishte edhe Mythos 5, një nga versionet më të avancuara të Anthropic, i cili aktualisht është i disponueshëm vetëm për një numër të kufizuar partnerësh të miratuar.

Anthropic njoftoi se po bashkëpunon me Irregular për të hetuar plotësisht rastin dhe se ka kontaktuar, ose është duke u përpjekur të kontaktojë, të tre organizatat e prekura nga incidenti.