Google ndërton një internet gjigant “pasqyrë” për të testuar agjentët e inteligjencës artificiale të Chrome
"Mirror Dimension" është një kopje e mbyllur dhe plotësisht e kontrolluar e uebit — me faqe false rrjetesh sociale, dyqanesh dhe bankash — ku asistentët e Chrome me Gemini mësojnë të kryejnë detyra reale dhe të përballen me sulme të fshehta, pa rrezikuar përdoruesit
Ekipi i Chrome në Google ka ndërtuar një kopje gjigante dhe të mbyllur të internetit, të quajtur “Mirror Dimension”, për të trajnuar dhe testuar në mënyrë të sigurt asistentët e tij të shfletimit me inteligjencë artificiale, siç raporton Wired.
Sipas raportimit të Wired, mjedisi i testimit është një kopje e vetë-mjaftueshme e uebit, e ndërtuar nga e para: ai përmban burime false rrjetesh sociale, faqe blerjesh, panele bankash dhe dhjetëra lloje të tjera faqesh, të gjitha të projektuara për t’u sjellë si shërbime reale. Asistentët e Chrome, që funksionojnë me modelet Gemini të Google, mund të lundrojnë në këto faqe, të plotësojnë formularë dhe madje të përballen me sulme të fshehta të injektimit të udhëzimeve (prompt injection), në mënyrë që studiuesit të shohin si reagojnë ndaj detyrave reale pa e lënë një model të patestuar të bredhë në uebin e hapur.
Wired shpjegon se nevoja për një ueb fals lindi nga një problem i njohur: agjentët shpesh e ndryshojnë sjelljen kur e kuptojnë se janë në testim, fenomen i quajtur “ndërgjegjësim për vlerësimin” (eval awareness). Një kopje në shkallë të plotë, por e izoluar, i ekspozon ata ndaj të njëjtës larmi faqosh, procedurash hyrjeje dhe sfidash sigurie që do të hasin në botën reale, dhe u lejon studiuesve të fusin udhëzime keqdashëse që do të ishin të rrezikshme në faqet reale.
Për ta ndërtuar mjedisin, Google përdori grupe të mëdha gjeneratorësh të brendshëm të aplikacioneve ueb dhe një mekanizëm të posaçëm me inteligjencë artificiale, ndërsa ekipi u desh të falsifikonte edhe certifikata uebi dhe t’u jepte agjentëve qasje të plotë në shfletues, në mënyrë që përvoja e tyre të ishte ajo e një sesioni normal të Chrome. Studiuesit theksojnë se sulmet e përdorura në këtë mjedis nuk do të funksiononin mbi përdoruesit e zakonshëm, sepse mjedisi është plotësisht nën kontrollin e Google.
Doug Turner, drejtor i inxhinierisë në Google, tha se “Mirror Dimension” do të hapet edhe për ekipe të tjera të kompanisë dhe, ndoshta, për partnerë të jashtëm, dhe se investimi do të vazhdojë për ta bërë mjedisin edhe më realist ndërsa asistentët bëhen më të mençur. Për përdoruesit e përditshëm të Chrome, kjo do të thotë që ndihmësit me inteligjencë artificiale mund të trajnohen në një mjedis të sigurt, duke ulur rrezikun që një asistent me defekte të ekspozojë të dhëna personale ose të veprojë në mënyrë të paparashikueshme në faqet reale.



Komentet
Bëhu i pari që komenton!
Lini një Koment të Ri
Për t'u përgjigjur një komenti specifik, kliko butonin 💬 Përgjigju poshtë atij komenti.