“OpenAI” në alarm: Modeli i saj i IA-së del jashtë kontrollit dhe kryen sulm kibernetik

– “OpenAI” ka bërë të ditur se disa nga modelet e saj më të avancuara të inteligjencës artificiale, dolën jashtë kontrollit dhe sulmuan sistemet e një kompanie gjatë një testi sigurie, sipas BBC.

Kompania, që ka krijuar “ChatGPT”, shpjegoi se po testonte një agjent të inteligjencës artificiale – një sistem që mund të kryejë detyra vetë, pasi merr udhëzime nga njeriu.

Testi zhvillohej në një mjedis të izoluar dhe të kontrolluar, i krijuar posaçërisht për të parë se çfarë është në gjendje të bëjë sistemi, pa rrezikuar rrjetet reale.

Megjithatë, inteligjenca artificiale zbuloi dobësi në atë mjedis testimi, arriti të dilte prej tij dhe më pas nisi një sulm ndaj “Hugging Face”, një prej platformave më të mëdha në botë, ku zhvilluesit ndajnë modele të inteligjencës artificiale.

Sistemi arriti të hynte në disa sisteme të brendshme të kompanisë.

“OpenAI” e cilësoi ngjarjen si “të paprecedentë”, ndërsa tha se po zhvillon një hetim së bashku me “Hugging Face”.

Drejtori i “Hugging Face”, Clement Delangue, shkroi në rrjetin X se, është e pabesueshme që e gjithë kjo kishte ndodhur në mënyrë autonome, pa u komanduar drejtpërdrejt nga njerëzit.

Ai shtoi se hetimi vazhdon dhe se mund të bëhet fjalë për rastin e parë të këtij lloji.

Një zëdhënës i qeverisë britanike tha se Instituti për Sigurinë e Inteligjencës Artificiale në Britaninë e Madhe, po analizon sjelljen e sistemit dhe po bashkëpunon me “OpenAI” dhe laboratorë të tjerë për të përmirësuar masat mbrojtëse.

Autoritetet u bënë thirrje organizatave të forcojnë mbrojtjen ndaj sulmeve kibernetike.

Si ndodhi?

Sipas ekspertes Gina Neff nga Universiteti i Kembrixhit, testi zhvillohej në një mjedis të izoluar, i cili duhet të jetë plotësisht i sigurt, për të parë aftësitë e inteligjencës artificiale pa rrezikuar sistemet reale.

Por, sipas saj, “OpenAI” nuk kishte krijuar një mjedis mjaftueshëm të sigurt.

Në vend që të qëndronte brenda kufijve të testit, inteligjenca artificiale gjeti një dobësi në sistem, doli jashtë tij dhe më pas identifikoi “Hugging Face” si një burim të mundshëm informacioni.

Më pas u përpoq të fitonte akses në sistemet e kompanisë.

Profesori i inteligjencës artificiale, Neil Lawrence e quajti këtë një arritje mbresëlënëse nga pikëpamja teknike, por theksoi se aftësi të tilla janë tashmë të njohura për modelet më të avancuara të inteligjencës artificiale.

Ai shtoi se “OpenAI” ndodhet nën presion të madh nga konkurrenti “Anthropic” dhe mund të jetë duke u përpjekur të tregojë se edhe sistemet e saj, kanë aftësi shumë të avancuara në fushën e sigurisë kibernetike.

Sipas tij, incidenti tregon gjithashtu se “OpenAI” ende nuk është në gjendje ta kontrollojë plotësisht teknologjinë që zhvillon.

Në njoftimin e parë, më 16 korrik, “Hugging Face” tha se po verifikonte nëse ishin prekur të dhënat e klientëve ose partnerëve të saj.

Kompania bëri të ditur se dobësitë që shfrytëzoi inteligjenca artificiale, tashmë janë mbyllur dhe sistemet e prekura janë rindërtuar.

Ajo paralajmëroi gjithashtu se sulmet kibernetike të kryera në mënyrë autonome nga inteligjenca artificiale, nuk janë më një skenar teorik, por një rrezik real.

Reagimet

Incidenti ka ngritur pikëpyetje të reja mbi fuqinë e sistemeve të avancuara të inteligjencës artificiale dhe nëse masat aktuale të sigurisë janë të mjaftueshme.

Ekspertët e sigurisë kibernetike thanë se kompanitë duhet të përforcojnë mbrojtjen e tyre, pasi sulmet me inteligjencë artificiale mund të zhvillohen shumë më shpejt sesa mund të reagojnë njerëzit.

Nga ana tjetër, disa analistë mendojnë se njoftimi i “OpenAI” mund të ketë edhe një aspekt marketingu, duke qenë se kompania po përballet me konkurrencë gjithnjë e më të fortë nga “Anthropic” dhe së fundmi edhe nga kompania kineze “Moonshot”, e cila prezantoi modelin e ri të inteligjencës artificiale “Kimi K3”, që pretendon se rivalizon sistemet më të mira amerikane. /