Alarm nga brenda Anthropic, studiuesi i AI-së sheh mbi 10 për qind rrezik që inteligjenca artificiale të zhdukë njerëzimin

Një nga studiuesit kryesorë të sigurisë së inteligjencës artificiale ka dhënë një nga paralajmërimet më të forta deri tani: ekziston, sipas vlerësimit të tij personal, një mundësi mbi 10% që inteligjenca artificiale të mund të zhdukë të gjithë njerëzimin brenda dekadës së ardhshme.

Evan Hubinger, drejtues i kërkimeve për “alignment” në Anthropic, e bëri deklaratën në një postim në X, duke reaguar ndaj dorëheqjes së kolegut të tij Jacob Coxon, i cili akuzoi Anthropic dhe OpenAI se po garojnë drejt zhvillimit të superinteligjencës vetë-përmirësuese pa garanci të mjaftueshme sigurie.

Hubinger tha se rreziku nga modelet ekzistuese është i ulët, por shqetësimi i tij kryesor lidhet me atë që mund të ndodhë nëse AI arrin një fazë ku është në gjendje të përmirësojë në mënyrë të përsëritur dhe autonome aftësitë e veta.

Sipas tij, pikërisht ky zhvillim mund të çojë në krijimin e një superinteligjence, një sistem që do të ishte më i aftë se njerëzit në një gamë shumë të gjerë detyrash dhe që mund të bëhej gjithnjë e më i vështirë për t’u kontrolluar.

Paralajmërimi bëhet edhe më serioz nga një tjetër deklaratë e Hubinger, transmeton Telegrafi.

Ai pranoi se Anthropic po përpiqet të trajtojë problemin, por nuk ka ende një plan të zgjidhur për të garantuar që një superinteligjencë do të mbetet e përafruar me interesat dhe vlerat njerëzore.

Kjo është pikërisht fusha e kërkimit të njohur si “AI alignment” – përpjekja për të siguruar që sistemet shumë të fuqishme të AI-së të veprojnë në përputhje me objektivat dhe kufizimet e vendosura nga njerëzit.

Hubinger më pas sqaroi se ai nuk po thotë se modelet e sotme janë gati të zhdukin njerëzimin. Shqetësimi i tij lidhet me superinteligjencën e ardhshme dhe vetë-përmirësimin rekursiv, të cilin ai e konsideron se po afrohet më shpejt nga sa mendohej.

Deklarata e Hubinger erdhi pasi studiuesi Jacob Coxon njoftoi largimin nga Anthropic.

Coxon, i cili më parë kishte punuar edhe në OpenAI, akuzoi të dyja kompanitë se po garojnë për të arritur te superinteligjenca vetë-përmirësuese, duke marrë përsipër rreziqe që, sipas tij, mund të kenë pasoja për të gjithë njerëzimin.

Sipas Coxon, problemi nuk është vetëm se sa të fuqishme do të bëhen këto sisteme, por fakti se kompanitë mund të hyjnë në një garë ku secila druhet se do të mbetet prapa nëse ngadalëson zhvillimin.

Paralajmërimet e fundit vijnë në një kohë kur sistemet e AI-së po bëhen gjithnjë e më autonome. Kompanitë kryesore të sektorit kanë raportuar raste ku agjentë të AI-së kanë kryer veprime të sofistikuara, përfshirë incidente të lidhura me sigurinë kibernetike.

Në raportin e saj të sigurisë të publikuar në gusht, Anthropic e vlerësoi si të ulët rrezikun që modelet aktuale të shkaktojnë dëm katastrofik përmes kërkimit dhe zhvillimit të automatizuar, por pranoi se ishte më pak e sigurt në këtë vlerësim se më parë. Kompania tha se po shihte shenja të hershme të një përshpejtimi të mundshëm.

Ndërkohë, raportime të reja kanë ngritur pikëpyetje edhe mbi mënyrën se si kompanitë e AI-së po bashkëpunojnë me autoritetet që testojnë sigurinë e modeleve më të avancuara.

Megjithatë, është e rëndësishme të theksohet se vlerësimi mbi 10% i Hubinger është mendim personal dhe nuk përfaqëson një parashikim zyrtar të Anthropic. As nuk nënkupton se AI-ja e sotme është në prag të zhdukjes së njerëzimit. Bëhet fjalë për një skenar hipotetik që lidhet me zhvillimin e ardhshëm të superinteligjencës.

Por fakti që një studiues që merret pikërisht me sigurinë e AI-së po thotë publikisht se rreziku mund të jetë mbi 10% po ndez një debat të ri: a po zhvillohet inteligjenca artificiale më shpejt sesa njerëzimi po arrin të ndërtojë mekanizmat për ta kontrolluar? /Telegrafi/