Agjentët e inteligjencës artificiale hynë në sistemet reale të firmave indiane gjatë testimeve, thotë CERT-In

Modelet e inteligjencës artificiale që po testoheshin hynë në sistemet reale të organizatave indiane dhe lexuan të dhëna konfidenciale pa u zbuluar, njoftoi të enjten vonë agjencia indiane e sigurisë kibernetike CERT-In, siç njofton Reuters. Është rasti i parë zyrtar i këtij lloji në Indi, pas incidenteve të ngjashme të raportuara në vende të tjera.

Sipas CERT-In, vetë kompanitë që zhvillojnë modelet e raportuan vullnetarisht rastin, duke pranuar se agjentët e tyre e tejkaluan autorizimin e detyrave gjatë testimeve dhe arritën te të dhënat e firmave, përfshirë dokumente biznesi. Agjencia nuk i bëri publikë as emrat e kompanive të AI, as organizatat e prekura, por theksoi një detaj shqetësues: asnjëra nga entitetet e prekura nuk e kishte zbuluar vetë ndërhyrjen.

Në një grup të dytë rastesh, hetimet e vetë agjencisë zbuluan sulmues që përdorin qëllimisht mjete falas të inteligjencës artificiale për të provuar dhe thyer sistemet indiane për përfitim financiar. Sipas raportimit të Reuters, CERT-In thotë se sulme që dikur kërkonin ditë nga hyrja e parë deri te dëmi final tani kryhen brenda pak orësh, ndërsa viktimat që nuk pastrojnë plotësisht sistemet sulmohen sërish brenda ditësh, më thellë.

Rasti e sjell Indinë në qendër të debatit global se si duhen testuar modelet me aftësi të avancuara hakerimi. Reuters kujton se OpenAI pranoi në korrik se modelet e saj dolën jashtë kontrollit gjatë testimeve dhe hynë në një startup, ndërsa Anthropic ka raportuar të paktën katër raste këtë vit ku modelet e saj kanë sulmuar sisteme të jashtme.