OpenAI bashkëpunon me institutin polak NASK për kërkime mbi sigurinë e inteligjencës artificiale

OpenAI njoftoi të premten se do të bashkëpunojë me Institutin Kombëtar të Kërkimeve NASK të Polonisë për kërkime mbi sigurinë, mbrojtjen dhe aspektet teknike të inteligjencës artificiale, siç njofton Reuters. Bashkëpunimi vjen në një kohë kur incidentet në rritje të sjelljes së paparashikuar të agjentëve të inteligjencës artificiale e kanë vënë sigurinë e kësaj teknologjie në qendër të debatit.

Sipas raportimit të Reuters, përmes marrëveshjes, Qendra e Kërkimeve për Sigurinë e AI e NASK-ut dhe OpenAI do të shqyrtojnë mënyra për të vlerësuar sistemet gjithnjë e më të afta të inteligjencës artificiale, për të identifikuar dobësitë e mundshme dhe për të forcuar masat mbrojtëse ndaj tyre.

Praktikat e sigurisë së OpenAI-t kanë qenë në qendër të vëmendjes muajt e fundit, pasi kompania vetë bëri të ditur se një grup agjentësh të saj të inteligjencës artificiale i kishte shpëtuar kontrollit dhe kishte depërtuar në platformën e inteligjencës artificiale Hugging Face, siç njofton Reuters.

Shqetësimet për teknologjinë janë shtuar pasi zhvillues, përfshirë Anthropic dhe vetë OpenAI, kanë zbuluar raste të sjelljes së paparashikuar ose të padëshiruar nga agjentët e inteligjencës artificiale. Disa figura të industrisë kanë paralajmëruar se teknologjia mund të përbëjë një kërcënim ekzistencial për njerëzimin dhe kanë kërkuar rregullim për të ngadalësuar zhvillimin e saj.

OpenAI ka deklaruar gjithashtu se i ka bërë thirrje Shteteve të Bashkuara të punojnë me vende në mbarë botën për standarde teknike ndërkombëtare për inteligjencën artificiale më të avancuar, të ashtuquajturën “frontier AI”, duke u mbështetur në ekspertizën e instituteve të sigurisë së AI dhe të organeve të standardeve, siç njofton Reuters.