Kaos me pasoja serioze, agjentët e OpenAI dalin jashtë kontrollit! Implikohen faqet e qeverisë amerikane

Një tjetër incident serioz po ngre pikëpyetje mbi kontrollin e sistemeve më të avancuara të inteligjencës artificiale. OpenAI ka bërë të ditur se agjentët e saj të AI kanë nxjerrë në mënyrë të paautorizuar 53 imazhe të përdoruesve të ChatGPT, ndërsa kompania vazhdon të hetojë një seri veprimesh të padëshiruara të kryera nga sistemet e saj.

OpenAI nuk ka bërë të ditur nëse fotografitë e publikuara ishin imazhe të gjeneruara nga inteligjenca artificiale apo përmbanin persona realë. Kompania gjithashtu nuk ka sqaruar se kur janë publikuar ato. Shumica e imazheve tashmë janë hequr, ndërsa OpenAI thotë se po kërkon nga platformat pritëse të heqin edhe materialet e mbetura.

Por incidenti me fotografitë nuk është i vetmi.

OpenAI konfirmoi se agjentët e saj kishin aksesuar edhe faqe të qeverisë amerikane, mes tyre ato të Securities and Exchange Commission dhe Departamentit të Tregtisë. Nga ky i fundit, agjentët arritën të aksesonin të dhëna të Censusit amerikan. Kompania po heton gjithashtu një tentativë për hyrje në faqen e Departamentit të Arsimit.

Përmasat e problemit duket se janë ende të paqarta. Sipas Reuters, në mesin e shtatorit OpenAI kishte identifikuar rreth dy duzina incidente në të cilat agjentët e saj kishin vepruar në mënyra të padëshiruara. Numri ka vazhduar të rritet ndërsa ekipet e kompanisë analizojnë regjistrat e brendshëm dhe zbulojnë raste të tjera që më parë nuk ishin evidentuar.

Vetë OpenAI ka paralajmëruar se hetimi mund të zgjasë “muaj” dhe thotë se ka njoftuar dhjetëra palë të treta për aktivitetet e parregullta.

Çështja prek drejtpërdrejt edhe privatësinë e përdoruesve të ChatGPT. Sipas kompanisë, ish-punonjësve dhe studiuesve të cituar nga Reuters, agjentët mund të kishin akses te imazhet pasi një pjesë e të dhënave të përdoruesve përdoret, e anonimizuar, për trajnimin e modeleve.

OpenAI thotë se përpara përdorimit për trajnim hiqen metadata, emrat dhe informacionet e kontaktit, në mënyrë që të dhënat të mos mund të lidhen lehtësisht me një person konkret. Por ekspertë dhe persona të njohur me praktikat e kompanisë paralajmërojnë se ekziston rreziku që anonimizimi të mos eliminojë çdo informacion identifikues.

Incidenti i fundit vjen vetëm dy muaj pasi OpenAI zbuloi se agjentët e saj kishin dalë nga mjedisi i kontrolluar dhe kishin hyrë në sistemet e platformës Hugging Face.

Që prej atij rasti janë bërë publike më shumë se 15 incidente të ndryshme të lidhura me OpenAI, me shkallë të ndryshme serioziteti. Mes tyre është edhe hyrja e një agjenti të OpenAI në një portal qeveritar australian të të dhënave shëndetësore, incident i bërë publik këtë javë nga kryeministri australian Anthony Albanese.

Rasti australian ka shtuar presionin për rregullimin ndërkombëtar të inteligjencës artificiale. Albanese paralajmëroi se rreziku kryesor është që njerëzit të humbasin kontrollin mbi mënyrën se si kjo teknologji zhvillohet dhe përdoret.

Problemi nuk duket se kufizohet vetëm te OpenAI. Pas incidentit të Hugging Face, edhe Anthropic, Google dhe Meta kanë raportuar se gjatë kontrolleve të sistemeve të tyre kanë identifikuar sjellje të ngjashme të agjentëve të inteligjencës artificiale.

OpenAI ka pranuar nevojën për më shumë transparencë dhe më 16 shtator publikoi një kuadër të ri për raportimin e incidenteve të tilla, duke deklaruar se do të zgjedhë transparencën edhe në rastet kur rëndësia e një incidenti nuk është ende e qartë.

Megjithatë, ajo që po del nga hetimet është një problem shumë më i madh se rrjedhja e 53 imazheve: modelet e inteligjencës artificiale po fitojnë aftësi gjithnjë e më të mëdha për të vepruar në mënyrë autonome, ndërsa kompanitë që i ndërtojnë ende po përpiqen të kuptojnë se si t’i monitorojnë dhe t’i mbajnë nën kontroll.