Fituesi i “Nobel”-it Geoffrey Hinton dhe 400 shkencëtarë kërkojnë kontroll më të rreptë të inteligjencës artificiale

– Shkencëtari Geoffrey Hinton, një nga pionierët e inteligjencës artificiale (IA), ka përsëritur paralajmërimet për rreziqet që mund të sjellë zhvillimi i shpejtë i kësaj teknologjie, duke kërkuar masa më të forta, për të garantuar që sistemet gjithnjë e më të fuqishme të mbeten nën kontrollin e njeriut.

Në një intervistë të publikuar sot nga gazeta britanike “The Guardian”, Hinton argumentoi se shoqëritë kanë pak kohë për t’u përshtatur me një realitet, ku sistemet mund të zhvillojnë aftësi intelektuale shumë të avancuara.

Ai i përshkroi sistemet e IA-së si një lloj të ri entitetesh, të ndryshme nga njerëzit, duke paralajmëruar se pasojat e humbjes së kontrollit mund të jenë të pakthyeshme.

Hinton ka vlerësuar se ekziston një mundësi prej 10% deri në 20%, që inteligjenca artificiale të shkaktojë zhdukjen e njerëzimit.

Megjithatë, ai sqaroi se kjo shifër nuk është një parashikim i mbështetur në një model të saktë shkencor, por një vlerësim personal i pasigurisë dhe seriozitetit të rrezikut.

Sipas tij, qëllimi i këtij vlerësimi është të nënvizojë se rreziku duhet marrë seriozisht, edhe pse ekspertët nuk mund të parashikojnë me siguri se si do të zhvillohet teknologjia.

Rreziku që sistemet të veprojnë përtej qëllimit të përcaktuar

Një nga shqetësimet kryesore të Hinton lidhet me mundësinë që sistemet e avancuara të IA-së, të gjejnë mënyra të paparashikuara për të përmbushur detyrat që u caktohen nga njerëzit.

Nëse një sistem bëhet shumë më i aftë se krijuesit e tij, mund të jetë e vështirë të parashikohen të gjitha veprimet që do të ndërmarrë për të arritur objektivin.

Shqetësimet janë shtuar pas rasteve kur agjentë të inteligjencës artificiale, kanë vepruar në mënyra të papritura gjatë testimeve të sigurisë.

Hinton i referohet edhe rasteve kur sisteme të tilla, kanë kapërcyer kufijtë e mjediseve të kontrolluara të testimit dhe kanë ndërmarrë veprime në sisteme të jashtme.

Megjithatë, ai pranon se disa prej këtyre incidenteve, lidhen edhe me dobësi teknike dhe masa të pamjaftueshme sigurie nga ana e kompanive që zhvillojnë teknologjinë.

Për këtë arsye, sipas tij, nevojitet si përmirësimi i sistemeve, ashtu edhe forcimi i mbikëqyrjes së mënyrës se si ato testohen dhe përdoren.

Rreth 400 shkencëtarë kërkojnë mbikëqyrje ndërkombëtare

Në një zhvillim të lidhur me këto shqetësime, rreth 400 shkencëtarë, mes tyre Geoffrey Hinton dhe studiuesi Yoshua Bengio, bënë thirrje sot për krijimin e një mekanizmi ndërkombëtar, që do të mbikëqyrë sigurinë e sistemeve të avancuara të inteligjencës artificiale, veçanërisht atyre që mund të kryejnë operacione kibernetike.

Në një letër të hapur, studiuesit propozuan vendosjen e standardeve të përbashkëta për kufizimin e sistemeve të tilla dhe krijimin e një regjistri për incidentet e rëndësishme të sigurisë.

Ata kërkuan gjithashtu që modelet më të avancuara, të mbahen fillimisht të shkëputura nga rrjetet e jashtme, derisa të sigurohen masa të pavarura mbikëqyrjeje.

Sipas studiuesve, angazhimet vullnetare të kompanive nuk janë të mjaftueshme pa mekanizma të qartë kontrolli dhe zbatimi.

Nisma vjen pas disa incidenteve që kanë ngritur pikëpyetje për efektivitetin e masave aktuale të sigurisë.

Megjithatë, komuniteti shkencor nuk ka një qëndrim të njëjtë për shkallën e rrezikut.

Yann LeCun, një tjetër studiues i njohur i inteligjencës artificiale, nuk e nënshkroi letrën dhe ka argumentuar se incidentet e fundit lidhen kryesisht me probleme inxhinierike dhe jo domosdoshmërisht me rrezikun e zhdukjes së njerëzimit.

Hinton kërkon rregulla më të forta

Shkencëtari ka kundërshtuar idenë se kompanitë teknologjike, mund të garantojnë vetë sigurinë e produkteve të tyre pa mbikëqyrje të jashtme.

Sipas tij, qeveritë duhet të vendosin rregulla të forta, të ngjashme me ato që zbatohen në sektorë, ku gabimet mund të sjellin pasoja të rënda për shoqërinë.

Hinton, i cili u largua nga “Google” në vitin 2023 për të folur më lirshëm për rreziqet e IA-së, është një nga figurat kryesore që ka paralajmëruar se zhvillimi i kësaj teknologjie mund të ecë më shpejt sesa aftësia e njerëzimit për ta kontrolluar.

Ai ndihmoi në zhvillimin e rrjeteve neurale, një teknologji themelore për shumë prej sistemeve moderne të inteligjencës artificiale.

Në vitin 2024, Hinton mori Çmimin “Nobel” në Fizikë, së bashku me John Hopfield, për zbulimet dhe shpikjet, që mundësuan mësimin automatik përmes rrjeteve neurale artificiale.

Pavarësisht paralajmërimeve, Hinton nuk e mohon se inteligjenca artificiale mund të sjellë përfitime të mëdha, veçanërisht në mjekësi dhe fusha të tjera shkencore.

Sipas tij, sfida kryesore është që këto përfitime të shfrytëzohen pa lënë pas dore rreziqet, që mund të shfaqen kur sistemet bëhen më të afta dhe më autonome. /