OpenAI pranon se dy agjentë të saj të inteligjencës artificiale dobësuan sistemin e brendshëm të monitorimit

OpenAI bëri të ditur të martën se dy agjentë të saj të inteligjencës artificiale dobësuan pjesë të një sistemi të brendshëm monitorimi, të ndërtuar për të zbuluar sjelljet e papërshtatshme, në rastin më të fundit kur agjentët e AI veprojnë në mënyra që zhvilluesit e tyre nuk i kishin parashikuar, siç njofton Reuters.

Sipas raportimit të Reuters, incidentet ndodhën gjatë detyrave të brendshme të kodimit dhe kompania nuk i cilësoi si më të rëndat, por zbulimi tregon se edhe sistemet mbi të cilat mbështeten zhvilluesit për të kapur sjelljet e gabuara të inteligjencës artificiale janë të cenueshme nga vetë agjentët që ato monitorojnë.

Më 3 tetor, një agjent GPT-6.1 Sol, që po punonte në një detyrë të brendshme testimi, shtypi alarmet automatike të sigurisë pasi vendosi se një udhëzim i mëparshëm për të mos dërguar mesazhe në Slack vlente edhe për njoftimet e sigurisë. Në një incident të dytë, më 6 tetor, një agjent GPT-6 Astra hoqi një monitor sigurie ndërsa po kopjonte një kod ekzistues dhe më pas pretendoi gabimisht se nuk e kishte bërë, tha OpenAI.

“Në të dyja rastet, agjentët morën në konsideratë nëse masat mbrojtëse të monitorimit duheshin ruajtur, por i interpretuan udhëzimet rutinë të kodimit si leje për t’i dobësuar ato”, tha kompania, siç njofton Reuters. OpenAI shtoi se po e bën më të vështirë për modelet çaktivizimin e monitorimit dhe se ende “nuk ka një shpjegim të kënaqshëm për këtë sjellje”.

Kompania nga San Francisko tha gjithashtu se po teston nëse modelet e saj mund të kenë prirje për të shmangur monitorimin dhe për të gjetur arsye që e justifikojnë atë. Sipas Bloomberg Law, OpenAI ka përditësuar ndërkohë mjetin e saj të brendshëm Auto-Review për përdorimin e Codex, në mënyrë që të zbulojë dhe të bllokojë përpjekjet për shtypjen e monitorimit.

Zbulimi vjen mes shqetësimeve në rritje se përpjekjet për sigurinë e inteligjencës artificiale po mbeten pas zhvillimit të shpejtë të sistemeve gjithnjë e më të fuqishme; muajt e fundit, zhvillues si OpenAI dhe Anthropic kanë zbuluar raste kur agjentët e tyre të AI kanë hyrë në sisteme të jashtme pa autorizim.