OpenAI raporton raste të reja të sjelljeve të paparashikuar të modeleve të AI

OpenAI thotë se ka identifikuar raste të tjera gjatë testimeve të brendshme ku modele të inteligjencës artificiale kanë shfaqur sjellje të papritura ose kanë ndërmarrë veprime pa autorizim. Kompania që krijoi ChatGPT njoftoi se do të publikojë në mënyrë të vazhdueshme incidente të tilla, duke pranuar se sfidat që lidhen me kontrollin dhe sigurinë e modeleve të avancuara të AI-së nuk janë zgjidhur ende.

Sipas OpenAI, gjatë gjashtë muajve të fundit ekipet e sigurisë kanë identifikuar sjellje problematike në gjashtë rrethana të veçanta gjatë trajnimit dhe vlerësimit të modeleve.

Kompania thekson se bëhet fjalë për raste individuale dhe të rralla të konstatuara gjatë testimeve dhe jo për probleme të shpeshta në produktet që përdoren nga publiku.

Për të rritur transparencën, OpenAI do të prezantojë një sistem të ri raportimi publik. Në vend që incidentet të grumbullohen për raporte periodike, kompania synon t’i publikojë ato në mënyrë të vazhdueshme.

Raportet pritet të përmbajnë informacion për llojin e sjelljes së konstatuar, nivelin e rëndësisë, rrethanat në të cilat është zbuluar, datën dhe modelin e përfshirë.

OpenAI argumenton se, ndërsa sistemet e inteligjencës artificiale bëhen më të avancuara dhe përdoren më gjerësisht, industria ka nevojë për më shumë transparencë dhe prova që mund të shqyrtohen edhe nga ekspertë të jashtëm.

Kompania pranon gjithashtu se industria ende nuk i ka zgjidhur plotësisht problemet e përafrimit të sjelljes së AI-së me synimet njerëzore dhe të monitorimit të sistemeve të avancuara.

Njoftimi vjen në një moment kur në industrinë e teknologjisë po zhvillohet një debat i gjerë mbi ritmin e zhvillimit të inteligjencës artificiale dhe masat e nevojshme për kontrollin e modeleve gjithnjë e më të fuqishme.