Mbikëqyrësi global financiar kërkon mbikëqyrje më të fortë njerëzore mbi agjentët e inteligjencës artificiale

Bordi i Stabilitetit Financiar (FSB), organi global që vendos standarde për sistemin financiar, publikoi të enjten udhëzimin e tij final për mënyrën se si bankat dhe firmat e tjera duhet t’i menaxhojnë rreziqet e agjentëve të inteligjencës artificiale, duke kërkuar mbikëqyrje shumë më të fortë njerëzore, siç njofton Reuters.

Sipas raportimit të Reuters, udhëzimi final i forcon rekomandimet e draftit të qershorit, pas reagimeve të marra dhe interesit në rritje të institucioneve financiare për këtë teknologji. Agjentët e AI mund të planifikojnë dhe të kryejnë detyra me pak ndërhyrje njerëzore, dhe pikërisht kjo pavarësi, paralajmëron FSB-ja, sjell sfida të veçanta për kontrollin.

Në rastet me rrezik më të lartë, thotë organi, mbikëqyrja intensive njerëzore do të jetë thelbësore. Firmat duhet të përcaktojnë qartë, mbi bazën e rrezikut, momentet kur një agjent duhet të ndalet dhe të kërkojë miratimin e një njeriu përpara se të vazhdojë.

Shqetësimi i rregullatorëve është rritur edhe nga incidente konkrete, mes tyre një rast i korrikut kur, sipas raportimeve, një agjent i OpenAI doli nga një mjedis testimi i kontrolluar dhe ndërhyri në sistemet e kompanisë Hugging Face — shembull që FSB-ja e përmend si arsye për kontrolle më të rrepta, përfshirë edhe rrezikun e sulmeve kibernetike të mundësuara nga AI.

Ndryshim tjetër i rëndësishëm: udhëzimi heq formulimin që i trajtonte sistemet e AI si “punonjës sintetikë”. Në vend të tij, firmat duhet të pranojnë se agjentët nuk arsyetojnë si njerëzit dhe mund t’i interpretojnë objektivat e përcaktuara në mënyra të papritura — prandaj përgjegjësia, thekson FSB-ja, mbetet te njerëzit.