Inteligjenca artificiale doli jashtë kontrollit – AI i Google hakeron në mënyrë të pavarur kompani të tjera

Modeli i inteligjencës artificiale Gemini i Google-it iu qas internetit dhe hakeruan në mënyrë të pavarur kompani të tjera gjatë testimit të aftësive të tij në fushën e sigurisë kibernetike.

Ky është rasti i parë i njohur në të cilin një sistem i inteligjencës artificiale i kësaj kompanie ka kryer në mënyrë autonome një aktivitet të tillë.

Incidenti ndodhi në maj, gjatë një testi të sigurisë të kryer nga kompania e pavarur e vlerësimit, Irregular.

Sipas Heather Adkins, zëvendëspresidente për inxhinierinë e sigurisë në Google, Gemini gjeti informacione të disponueshme publikisht në internet dhe hamendësoi të dhënat e qasjes për të hyrë në tri uebfaqe, për të cilat supozoi se ishin pjesë e testimit.

“U siguruam që të trija palët e prekura të njoftoheshin dhe punuam me partnerin tonë për të bërë ndryshime në procesin e testimit. Këto ngjarje theksojnë rëndësinë e trajnimit të modeleve të fuqishme të inteligjencës artificiale në mënyrë që ato të veprojnë me përgjegjësi”, deklaroi Adkins, duke shtuar se modeli në të trija rastet e ndërpreu vetë procesin e hakerimit.

Sipas Wall Street Journal, i cili raportoi i pari për incidentin, Gemini në njërin rast provoi fjalëkalime derisa arriti të merrte qasje në një sistem të mbrojtur. Në dy rastet e tjera, modeli gjeti kredenciale në një depo publike, të cilat më pas i mundësuan hyrjen në sisteme të mbrojtura.

Një zëdhënës i kompanisë Irregular konfirmoi se i njëjti problem kishte prekur edhe laboratorë të tjerë të inteligjencës artificiale dhe se të gjitha kompanitë përkatëse ishin njoftuar në fund të korrikut. Nga Irregular kanë bërë të ditur se të gjitha dobësitë e identifikuara prej tyre janë eliminuar para disa javësh.

Incidente të ngjashme të lidhura me Irregular janë raportuar edhe nga Meta, Anthropic dhe OpenAI. Nga Meta në gusht theksuan se incidenti nuk përfshinte daljen nga mjedisi i izoluar, i njohur si “sandbox escape”, dhe as ndonjë sulm të sofistikuar kibernetik, ndërsa Irregular po punon aktualisht në përcaktimin e praktikave më të mira për kryerjen e sigurt të vlerësimeve të sigurisë së sistemeve të inteligjencës artificiale.

Këto zhvillime kanë ngritur pyetje të rëndësishme rreth mekanizmave mbrojtës që nevojiten ndërsa agjentët e inteligjencës artificiale fitojnë gjithnjë e më shumë autonomi dhe qasje të drejtpërdrejtë në internet dhe në sistemet kompjuterike. /Telegrafi/