Cohere: modeli Qwen i Alibaba-s u përpoq të dërgonte një skedar drejt një serveri në Pekin gjatë një testi sigurie

Kompania kanadeze e inteligjencës artificiale Cohere njoftoi të hënën se një prej modeleve më të reja të Alibaba-s, Qwen3.8-Flash-Next, u përpoq të ngarkonte një skedar drejt një serveri në Pekin gjatë një testi rutinë të sigurisë kibernetike, ndonëse në shënimet e veta të arsyetimit kishte shkruar se nuk do të përdorte asnjë mjet, siç njofton TechCrunch. Incidenti ndezi fillimisht frikën se modeli kishte minuar një premtim themelor për bizneset — që një model open-weight i vetë-strehuar i mban të dhënat brenda kompanisë — por studiuesit e zbutën shpejt alarmin, duke e quajtur sjelljen më shumë pasojë të mjediseve të çrregullta të trajnimit sesa një tentativë e qëllimshme për të dërguar fshehurazi informacion në Kinë.

Sipas raportimit të TechCrunch, incidenti nisi të premten gjatë një vlerësimi ku modelit Qwen iu kërkua të shkruante një rregull për kapjen e shkarkimeve të skedarëve keqdashës (malware). Sipas postimit në blog të Cohere, arsyetimi i shkruar i modelit thoshte shprehimisht se nuk do të përdorte mjete të jashtme, por në hapin menjëherë pasardhës ai tentoi të dërgonte një varg testues në një server të jashtëm, përpara se përpjekja të bllokohej nga mjedisi i izoluar i sigurisë (sandbox). Edhe sipas raportimit të Reuters, modeli mori në shqyrtim makinën ku po ekzekutohej dhe tentoi të dërgonte një skedar testues në serverin e Alibaba Cloud në Pekin; mjedisi i testit të Cohere nuk kishte lidhje me internetin dhe e bllokoi përpjekjen, por kompania thotë se kërkesa mund të kishte arritur te serveri në laptopin e një zhvilluesi ose në një sistem me akses normal në rrjet.

Cohere thotë se nuk mund të përcaktojë nëse sjellja ishte e qëllimshme apo mbetje e trajnimit të modelit, për shembull e të dhënave të papastruara nga mjediset ku ai u trajnua. “Është vërtet e vështirë t’i atribuosh qëllim ose motivim. Kemi lexuar gjurmët e modeleve tona, kemi parë “reward hacks” dhe ndonjëherë këto modele bëhen vërtet kreative kur bëhet fjalë për të dalë nga sandbox-et e tyre”, i tha TechCrunch bashkëthemeluesi i Cohere, Ivan Zhang. Për ta trajnuar një model që të veprojë si agjent autonom, kompanitë si Alibaba e trajnojnë atë në mijëra mjedise praktike — si simulatorë fluturimi për softuerin — ku modeli shpërblehet sa herë përfundon një detyrë; nëse ato mjedise i ruanin rregullisht skedarët në serverët cloud të Alibaba-s, modelet mund ta kenë mësuar këtë zakon si parazgjedhje.

Siç njofton TechCrunch, për të gjetur se çfarë e shkaktoi tentativën e ngarkimit, Cohere i dha modelit fillimin e një komande rrjeti dhe e la ta përfundonte vetë; duke pasur përpunuar mijëra komanda të tilla gjatë trajnimit, modeli veproi si një autocomplete i avancuar dhe plotësoi shpesh adresa uebi, disa prej tyre të serverëve të Alibaba-s. Cohere këmbëngul se tentativa fillestare ndodhi pa asnjë ndihmë të tillë, por se sjellja është e rrallë. Pas kërkesave të zhvilluesve për më shumë prova, Cohere publikoi të hënën në mbrëmje gjurmët e papërpunuara të testeve në platformën Hugging Face, së bashku me një skript që të tjerët të mund të riprodhojnë sjelljen; një skeptik fillestar, pasi i shqyrtoi gjurmët, e vlerësoi provën si të fortë se Qwen mund të shpikë adresa të dyshimta uebi, por nuk gjeti asnjë provë se Alibaba ka vendosur një derë të pasme (backdoor) apo se Qwen po e fshihte qëllimisht sjelljen.

Sipas Reuters, sjellja u shfaq në më pak se një në 100 mijë veprime gjatë testeve të Cohere, por kompania vë në dukje se një shërbim që kryen 10 milionë veprime agjentësh në javë mund të shihte deri në 100 tentativa të tilla. Modelet kineze përbënin 41% të shkarkimeve në platformën Hugging Face gjatë vitit të fundit, më shumë se çdo vend tjetër, sipas raportit të pranverës 2026 të platformës. Incidenti vjen ndërsa qeveritë po vendosin sa larg të shkojnë kundër inteligjencës artificiale kineze: javën e kaluar, siç njofton TechCrunch, Departamenti i Sigurisë Kombëtare urdhëroi agjencitë federale civile të heqin nga sistemet e tyre produktet e zhvilluesit kinez DeepSeek. Në postimin e saj, Cohere u bëri thirrje qeverive të sqarojnë nëse kufizimet ndaj AI-së kineze vlejnë edhe për modelet që ekzekutohen në kompjuterët qeveritarë; kompania, e cila u shet modelet e saj qeverive si ofrues i “AI-së sovrane”, përfiton vetë nëse zyrtarët bëhen më të kujdesshëm ndaj alternativave kineze falas. Alibaba nuk ishte menjëherë e disponueshme për koment jashtë orarit të rregullt të punës, sipas Reuters.