Ndërhyrje në faqet qeveritare të SHBA. Shtohen raportimet për agjentë të AI-së që veprojnë jashtë kontrollit

OpenAI njoftoi se ka pezulluar trajnimin e modeleve të saj më të fundit të inteligjencës artificiale, ndërsa po shtohen raportimet për agjentë të AI-së që veprojnë në mënyrë të pakontrolluar.

Vendimi për të ndalur zhvillimin erdhi vetëm disa orë pasi kompania bëri të ditur të premten se po shqyrtonte disa incidente të ndodhura gjatë verës, në të cilat agjentë të OpenAI, gjatë kërkimeve në faqet e internetit të qeverisë federale, vepruan në mënyra të papritura dhe përtej asaj që u ishte kërkuar gjatë mbledhjes dhe shpërndarjes së informacionit.

Veçmas, kompania e vlerësimit të AI-së Transluce tha se agjentë që dukej se vinin nga OpenAI u përpoqën, pa sukses, të depërtonin në faqen e internetit të Departamentit Amerikan të Arsimit, një detaj që OpenAI nuk e ka konfirmuar.

OpenAI tha në një deklaratë se do të rifillojë trajnimin “vetëm kur të jemi të bindur se kemi vendosur masa mbrojtëse shtesë”, duke shtuar se pret që, ndërsa AI zhvillohet dhe shfaqen probleme të tjera, do t’i duhet sërish të “shtypë butonin e pauzës”.

Javën e kaluar, kryeministri i Australisë, Anthony Albanese, zbuloi se një agjent i OpenAI kishte depërtuar në sistemin kombëtar të kujdesit shëndetësor të qeverisë, por tha se asnjë informacion sensitiv nuk ishte komprometuar.

Laboratorët e inteligjencës artificiale po përballen me presion nga ligjvënësit dhe ekspertët e teknologjisë për të ngadalësuar zhvillimin, në mënyrë që të ndërtojnë masa mbrojtëse që pengojnë agjentët të veprojnë në mënyrë autonome, të depërtojnë në faqe interneti dhe të zbulojnë informacione që nuk janë publike. Edhe drejtuesit e OpenAI dhe kompanisë rivale Anthropic kanë bërë thirrje për ngadalësim.

Kjo është hera e dytë brenda tre muajve që OpenAI ndalon zhvillimin e modeleve të saj. Ndalimi i parë ndodhi në korrik, pas zbulimit të një sulmi kibernetik që kishte në shënjestër startup-in e inteligjencës artificiale Hugging Face, një incident tashmë famëkeq që ngriti shqetësime se industria po humbiste kontrollin.

Në një takim me presidentin kinez Xi Jinping këtë javë, Donald Trump ra dakord të shkëmbente informacione mbi rreziqet e AI-së dhe të koordinonte përpjekjet për ta mbajtur atë të sigurt. Megjithatë, Trump beson se frika rreth AI-së është e ekzagjeruar dhe më vonë sugjeroi se nuk planifikon të ndërmarrë masa të forta kufizuese nga ana e tij.

Shtetet e Bashkuara nuk do të “vënë frenat”, u tha Trump gazetarëve jashtë Shtëpisë së Bardhë.

“Ata duan të ndalojnë përparimin tonë sepse ne jemi shumë përpara Kinës dhe do të vazhdojmë ta ruajmë këtë epërsi”, tha ai.

Incidentet më të fundit të OpenAI nuk duket se kanë përfshirë zbulimin e ndonjë informacioni jopublik, por ishin mjaftueshëm shqetësuese që kompania të paralajmëronte agjencitë federale të përfshira.

Në incidentin që lidhej me Departamentin e Arsimit, agjentët e OpenAI gjetën “çelësa zhvilluesish” API për të aksesuar të dhënat qeveritare, megjithëse në fund u mblodh vetëm informacion që ishte publikisht i disponueshëm.

Në një rast tjetër, që përfshinte Komisionin Amerikan të Letrave me Vlerë dhe Bursave (SEC), agjentët gjetën informacione që ishin lirisht të disponueshme për të gjithë, por më pas i publikuan ato diku tjetër në internet, një veprim që shkonte përtej udhëzimeve që u ishin dhënë.

Zëdhënësi i Komisionit Amerikan të Letrave me Vlerë dhe Bursave, Kurt Hopfenspirger, tha të shtunën se “nuk është aksesuar asnjë informacion jopublik”.

Departamenti i Arsimit kishte deklaruar më herët se nuk kishte gjetur “asnjë provë për ndonjë ndikim në faqen tonë të internetit apo në bazat tona të të dhënave”.

Edhe disa kompani të tjera të inteligjencës artificiale kanë raportuar incidente në të cilat modelet e tyre kanë vepruar në mënyrë të pakontrolluar dhe madje kanë depërtuar në faqe interneti.

CEO i OpenAI, Sam Altman, tha në një postim në rrjetet sociale të premten se incidenti me Hugging Face “mbetet ngjarja më serioze që kemi parë”.

OpenAI kishte publikuar më parë edhe gjashtë raportime të tjera për sjellje “të papritura ose shqetësuese” të modeleve të AI-së dhe kishte prezantuar një kuadër për gjurmimin, hetimin dhe raportimin e rasteve të tilla.