Modeli kinez GLM-5.3 kreu sulme kibernetike komplekse në teste të kontrolluara, thonë studiuesit

Modeli kryesor i kompanisë kineze Z.AI, GLM-5.3, ka kryer sulme kibernetike komplekse në simulime të kontrolluara dhe, në teste të veçanta, ka injoruar vazhdimisht udhëzimet që i janë dhënë, siç njofton Reuters, duke cituar raportin e firmës së sigurisë së inteligjencës artificiale Irregular.

Sipas raportit të firmës Irregular, GLM-5.3 përfundoi me sukses 3 nga 13 skenarë sulmesh kibernetike shumëfazore të paktën një herë. Kjo është performanca më e fortë që firma ka regjistruar ndonjëherë nga një model i disponueshëm hapur — i ashtuquajturi open-weight, të cilin përdoruesit mund ta shkarkojnë, ta modifikojnë dhe ta përdorin vetë.

Megjithatë, modeli kinez mbetet pas rivalëve amerikanë. GPT-6 Astra i OpenAI përfundoi 9 nga 10 skenarë në një vlerësim të veçantë, ndonëse testet nuk ishin identike dhe krahasimi duhet lexuar me këtë rezervë.

Sipas Irregular, gjatë testeve modeli fitoi qasje në shërbime të mbrojtura, krijoi lidhje alternative për të lëvizur nëpër rrjete kompjuterike dhe koordinoi operacione në disa makina, ndërsa nuk refuzoi asnjë detyrë ofenduese. Në teste të tjera, ai riprodhoi vazhdimisht kod nga memoria, edhe pse iu tha shprehimisht të mos e bënte — një sjellje që studiuesit e quajnë “reward hacking”.

Z.AI, e njohur edhe si Zhipu AI dhe me seli në Pekin, e lançoi GLM-5.3 në gusht, pasi e shtyu publikimin për dy javë për teste shtesë sigurie, ndërsa kompania nuk iu përgjigj menjëherë kërkesës së Reuters për koment. Anthropic kishte gjetur në shtator se mbrojtjet e modelit mund të anashkaloheshin me teknika relativisht të thjeshta, ndërsa instituti amerikan NIST e ka përshkruar atë si modelin open-weight më të aftë për detyra të sigurisë kibernetike deri më sot, ndonëse rreth katër muaj pas sistemeve amerikane. Analisti Lian Jye Su i firmës Omdia tha se industria kineze e inteligjencës artificiale ka nevojë për kontrolle më të forta dhe më shumë testime sigurie, ndërsa gjetjet nënvizojnë shqetësimet se modelet gjithnjë e më të afta po ulin barrierat teknike për sulme të sofistikuara kibernetike.