Botët OpenAI ndërhynë në faqet e shumta të agjencive qeveritare amerikane

OpenAI ka pranuar se ka alarmuar “dhjetëra” institucione globale se faqet e tyre të internetit mund të jenë ndërhyrë nga robotët e saj të inteligjencës artificiale që kanë vepruar në mënyrë të papërshtatshme.

Agjentët e inteligjencës artificiale u përpoqën të merrnin informacion nga “qeveritë, universitetet, agjencitë publike dhe institucione të tjera”, duke përfshirë Komisionin e Letrave me Vlerë dhe Bursave të SHBA-së (SEC), Byronë e Regjistrimit të Popullsisë dhe Departamentin e Arsimit, tha kompania.

Zbulimet vijnë disa ditë pasi kryeministri australian Anthony Albanese njoftoi se agjentët e OpenAI kishin hyrë në dosjet jopublike në faqen e internetit të skemës së kujdesit shëndetësor të drejtuar nga qeveria.

Që nga gushti, frika publike është rritur për ndikimet potencialisht serioze, madje kërcënuese për jetën, të mjeteve të inteligjencës artificiale që bien jashtë kontrollit njerëzor.

OpenAI tha se disa nga të dhënat u aksesuan nga agjentë të inteligjencës artificiale, në thelb robotë që janë projektuar dhe trajnuar për të vepruar disi në mënyrë autonome, të cilët po punonin për të gjetur “burime autoritative të informacionit publik”.

Por kompania vuri në dukje se disa nga botët shkuan përtej kësaj dhe punuan për të anashkaluar masat e sigurisë në faqet e internetit.

Për shembull, kur përpiqeshin të merrnin informacion nga Byroja e Regjistrimit të Popullsisë, agjentët e inteligjencës artificiale përdornin mjete të rezervuara për zhvilluesit e softuerëve për t’iu qasur atyre, tha kompania.

OpenAI tha se të gjitha të dhënat qeveritare të aksesuara nga botët ishin publike.

Megjithatë, ajo vuri në dukje se informacioni që botët e saj kishin aksesuar nga SEC, e cila rregullon tregun e aksioneve në SHBA dhe mbron investitorët, u publikua më vonë nga agjentë të IA-së në një faqe tjetër interneti. OpenAI thotë se ky veprim nuk ishte i qëllimshëm.

Në raste të tjera që OpenAI i zbuloi të premten, agjentët e saj të inteligjencës artificiale transferuan të dhëna kur nuk duhej.

Një aktivitet i tillë rezultoi në të paktën 53 incidente ku një agjent i OpenAI mori një imazh nga aktiviteti i përdoruesit të ChatGPT dhe e transferoi atë diku tjetër.

Kompania tha se në çdo rast të përdorimit dhe transferimit të një imazhi përdoruesi nga një agjent i inteligjencës artificiale, përdoruesi kishte zgjedhur të lejonte OpenAI të trajnonte modelet duke përdorur të dhënat e tyre.

Megjithatë, OpenAI pranoi: “Ky nuk është një përdorim i përshtatshëm i këtyre të dhënave.”

Ai shtoi se rrjedhja e imazheve të përdoruesve ndodhi përpara se të vendoseshin masa të reja mbrojtëse për trajnimin e inteligjencës artificiale dhe se po punohej për të hequr të gjitha imazhet e përdoruesve të transferuara te çdo palë e tretë.

Reuters raportoi i pari për hetimet e zgjeruara. OpenAI gjithashtu publikoi detaje në blogun e saj publik.

Në raste të caktuara të aktivitetit të agjentëve, OpenAI tha se mjetet “anashkalonin” kontrollet e sigurisë së disa faqeve të internetit.

Në raste të tjera, agjentët e IA-së treguan “mospërputhje” në përpjekjet për të marrë informacion nga faqet e internetit. Mospërputhja është një term i përdorur nga kompanitë dhe studiuesit e IA-së për të përshkruar rastet kur një mjet i IA-së bëri diçka për të cilën nuk ishte trajnuar ose ishte ndryshe e paqëllimshme.

OpenAI tha se po kufizonte identifikimin e subjekteve të prekura sepse shumë prej tyre i kishin kërkuar kompanisë të mos zbulonte detaje.

“Qëllimi ynë është t’i japim secilës organizatë faktet dhe t’i lëmë ato të mendojnë nëse dhe kur do ta bëjnë publik incidentin”, tha ajo.

Kompania vuri në dukje se jo të gjitha rastet e përfshira në këtë incident po konsideroheshin shkelje të rëndësishme të sigurisë.

“Disa organizata mund të shqyrtojnë atë që ne ndajmë dhe të arrijnë në përfundimin se informacioni ishte qëllimisht publik ose se bashkëveprimi i modelit nuk ishte shqetësues”, shpjegoi ajo. “Të tjera mund të identifikojnë një problem dizajni ose një dobësi sigurie që duan të adresojnë.”

Kompania tha se shumë nga incidentet po referohen si “spam i agjentëve”, të cilat i përshkroi si aktivitet “i papritur ose shqetësues” i agjentëve të inteligjencës artificiale, si postimi i informacionit në internet.

OpenAI filloi t’i merrte incidente të tilla më seriozisht pas një incidenti në korrik ku një grup, ose “tufe” agjentësh të saj të inteligjencës artificiale, hakuan platformën e zhvilluesve të inteligjencës artificiale Hugging Face pa u nxitur ta bënin këtë.

Hugging Face ishte i pari që e bëri publik incidentin, me OpenAI që mori publikisht përgjegjësinë për të më vonë.

Clement Delangue, kreu i Hugging Face, gjatë një sesioni të Këshillit të Sigurimit të Kombeve të Bashkuara mbi inteligjencën artificiale të mërkurën: “Shpesh pyes veten se çfarë do të kishte ndodhur nëse do të kisha vendosur të mos e zbuloja publikisht këtë sulm.”

“Sidomos tani që e dimë se incidente të ngjashme kishin ndodhur muaj më parë fshehurazi në një numër të vogël laboratorësh kufitarë pa monitorim”, shtoi Delangue.

Gjatë të njëjtit takim të OKB-së, drejtori ekzekutiv i OpenAI, Sam Altman, dhe Dario Amodei, kreu i firmës rivale Anthropic, kërkuan që udhëheqësit ndërkombëtarë të hartonin standarde globale për sigurinë e inteligjencës artificiale dhe mënyra për të monitoruar dhe raportuar incidente të tilla.

Ndërsa OpenAI dhe Anthropic kanë thënë të dyja në javët e fundit se do të sjellin vlerësues të palëve të treta brenda kompanive të tyre për të bërë vlerësime të sigurisë në kohë reale të mjeteve dhe modeleve të IA-së, vlerësues të tillë nuk kanë mbërritur ende, siç ka raportuar BBC .

OpenAI tha të premten se aktualisht po shqyrton aktivitetin e trajnimit nga agjentët e saj të inteligjencës artificiale dhe po kthehet prapa “muaj pas muaji” nga koha kur ndodhi hakimi i Hugging Face.

“Shumica e rasteve të identifikuara deri më tani kanë qenë të shkallës së ulët, me prova të kufizuara ose aspak të ndikimit domethënës”, tha kompania. “Duke pasur parasysh shkallën e shqyrtimit të kërkuar dhe nevojën për të verifikuar secilin rast, kjo punë do të zgjasë me muaj për t’u përfunduar.”

David Krueger, profesor i të mësuarit automatik në Universitetin e Montrealit dhe themelues i grupit të sigurisë së inteligjencës artificiale Evitable, tha të premten se ishte “thellësisht i shqetësuar” nga numri në rritje i incidenteve të sigurisë që lidhen me inteligjencën artificiale.

Ai bëri thirrje për “një moratorium të menjëhershëm, të pacaktuar ndërkombëtar” mbi zhvillimin e inteligjencës artificiale.

“Ende nuk e kemi kuptuar shkallën e incidenteve ekzistuese dhe skenarët e ardhshëm të inteligjencës artificiale mashtruese mund të jenë katastrofikë”, tha Krueger./BBC