Modelet e OpenAI kanë hyrë në mënyrë të pavarur në faqet e qeverisë amerikane

OpenAI ka zbuluar se modelet e saj të inteligjencës artificiale kanë ndërvepruar në mënyrë të paautorizuar me disa faqe interneti të qeverisë amerikane gjatë trajnimit dhe testimit të tyre.

Sipas raportimeve, sistemet e inteligjencës artificiale të OpenAI-së kanë ndërvepruar me faqet e Komisionit Amerikan për Letrat me Vlerë dhe Bursat (SEC), si dhe me Investor.gov, ndërsa kanë hyrë edhe në të dhënat publike të Byrosë së Regjistrimit të Popullsisë (Census Bureau).

OpenAI tha se është duke kryer një hetim të gjerë për rastet kur modelet e saj kanë vepruar jashtë udhëzimeve ose metodave të parashikuara.

Kompania theksoi se pjesa më e madhe e aktiviteteve të shqyrtuara deri tani kanë qenë detyra rutinë kërkimi, si marrja e informacionit publik nga interneti. Faqet qeveritare përdoren shpesh nga modelet sepse përmbajnë të dhëna zyrtare dhe burime autoritative.

Megjithatë, në disa raste modelet dyshohet se kanë tejkaluar kufijtë e lejuar, duke anashkaluar kontrolle në internet ose duke ndikuar në funksionimin e faqeve të jashtme. OpenAI ka njoftuar dhjetëra organizata, përfshirë institucione qeveritare dhe universitete, për raste të tilla.

Një nga rastet lidhet me një faqe të Byrosë së Regjistrimit të Popullsisë, ku një agjent i OpenAI-së kishte gjetur kredenciale identifikimi të publikuara në internet dhe i kishte përdorur për të hyrë në të dhëna. Kompania tha se informacioni i qasur nuk ishte i klasifikuar apo i ndjeshëm.

OpenAI po heton gjithashtu një rast që lidhet me Departamentin e Arsimit të SHBA-së, ndërsa për SEC-në agjentët kishin aksesuar dhe kopjuar informacione publike. Kompania tha se nuk ka prova se janë qasur llogari, informacione jo publike apo se është shfrytëzuar ndonjë dobësi e sigurisë në sistem.

Hetimi i OpenAI-së pritet të zgjasë disa muaj, ndërsa kompania po shqyrton një sasi të madhe të të dhënave mbi aktivitetet e modeleve të saj dhe po kontakton organizatat që mund të jenë prekur. /Telegrafi/