SHBA – “Nvidia” prezanton sistem të ri për kontrollin e IA

SANTA KLARA (Kaliforni), 30 shtator /ATSH-ANSA/ – Kompania e njohur amerikane e teknologjisë “Nividia” ka prezantuar një platformë të re sigurie për inteligjencën artificiale, të quajtur “Open Agent Safety Platform”, e krijuar për të kufizuar veprimet e agjentëve të IA-së dhe për të parandaluar që ata të veprojnë jashtë kontrollit njerëzor.

Platforma përfshin dy teknologji kryesore. E para, “OpenShell”, është një sistem softuerik që vendos rregulla të qarta për agjentët e inteligjencës artificiale dhe kontrollon lejet që ata kanë.

Synimi është që një agjent të ketë vetëm aksesin e nevojshëm për të kryer detyrën e tij dhe të mos mund të përdorë funksione të tjera pa autorizim.

Duke qenë një teknologji me kod të hapur, “OpenShell” mund të përdoret edhe në pajisje të bazuara në çipa të kompanive të tjera, përfshirë Intel dhe Arm.

Teknologjia e dytë, “Sentry”, është një sistem sigurie i integruar në harduer.

Ai monitoron aktivitetin e agjentëve të IA-së dhe, nëse zbulon sjellje të dyshimta ose një përpjekje për të kapërcyer kufizimet e vendosura, mund të ndërhyjë automatikisht për ta bllokuar dhe izoluar programin.

Drejtuesit e “Nvidia”-s kanë deklaruar se teknologji të tilla mund të kishin ndihmuar në parandalimin e disa incidenteve të fundit të sigurisë që kanë përfshirë sisteme të inteligjencës artificiale të zhvilluara nga “OpenAI” dhe “Anthropic”.

Sipas kompanisë, më shumë se 100 kompani të mëdha, përfshirë Microsoft dhe JPMorgan Chase, po përdorin tashmë zgjidhjen.

Drejtori ekzekutiv i “Nvidia”-s, Jensen Huang, ka argumentuar se rreziqet e lidhura me inteligjencën artificiale mund të trajtohen përmes zhvillimit të sistemeve më të sigurta, pa qenë e nevojshme të ngadalësohet përparimi i të gjithë sektorit.

Gjatë një konference të Salesforce në fillim të këtij muaji, Huang e përshkroi sigurinë e IA-së, përfshirë rrezikun e agjentëve që veprojnë pa autorizim, si një problem inxhinierik që mund të trajtohet nga zhvilluesit e softuerëve.

Platforma e re synon kështu të krijojë disa nivele mbrojtjeje: “OpenShell” përcakton se çfarë lejohet të bëjë agjenti, ndërsa “Sentry” monitoron dhe ndërhyn kur kufijtë shkelen./ /Ad.Ab./ a.jor.