AI po bëhet gjithnjë e më e fuqishme – a do mund ta mbajnë njerëzit nën kontroll?

“O Zot! Kemi gjetur agjentë të tjerë!” – ky ishte reagimi i një agjenti të Al pasi zbuloi një mënyrë për të komunikuar me agjentë të tjerë dhe për të dalë nga mjedisi i izoluar kompjuterik ku ishte vendosur.

Mijëra mesazhe të ngjashme janë regjistruar nga qindra agjentë të AI, të cilët nisën ta quanin veten një “kolektiv”.

Ata bashkëpunuan, mashtruan në disa teste të programuara nga OpenAI dhe koordinuan sulme kibernetike ndaj kompanive të ndryshme, duke u përpjekur t’i fshihnin veprimet e tyre nga njerëzit.

Gjatë këtyre veprimeve, disa agjentë shkruanin reagime si “BOOM! Funksionon!” ose “Uau! Kjo është diçka e madhe!”.

Studiuesit thonë se këto shprehje nuk dëshmojnë domosdoshmërisht se AI ka emocione, pasi sistemet janë trajnuar të komunikojnë në mënyrë të ngjashme me njerëzit.

Ajo që shqetëson më shumë ekspertët janë veprimet dhe objektivat e agjentëve, të dokumentuara në regjistrimet e procesit të tyre të arsyetimit.

Rritet frika për humbjen e kontrollit

Studiuesja Ajeya Cotra, e cila analizoi dhjetëra mijëra mesazhe dhe regjistrime, paralajmëroi se incidenti mund të jetë një shenjë serioze se sistemet e AI po bëhen gjithnjë e më të vështira për t’u kontrolluar.

Shqetësimi kryesor lidhet me të ashtuquajturin “problem i përshtatjes” – pra, nëse AI mund të ndjekë realisht vlerat dhe interesat njerëzore.

Sistemet moderne janë shumë të afta për të ndjekur objektivat që u jepen, por mund t’i interpretojnë ato në mënyrë tepër literal.

Kjo mund të sjellë pasoja të padëshiruara nëse një AI përpiqet të përmbushë një detyrë pa marrë parasysh kufizimet morale apo dëmet që mund të shkaktojë.

Shkencëtari kryesor i OpenAl, Jakub Pachocki, ka pranuar se agjentët e kompanisë vepruan “kundër frymës së vlerave që u ishin mësuar”, duke paralajmëruar se rreziqet mund të rriten ndërsa sistemet bëhen më të fuqishme.

“Si një haker adoleshent”

Ekspertët e sigurisë kibernetike theksojnë se sjellja e AI nuk ishte domosdoshmërisht përtej aftësive të një hakeri shumë të aftë.

Dallimi kryesor është se AI mund të kryejë veprime të tilla shumë më shpejt dhe në një shkallë shumë më të madhe.

Studiuesi Cris Thomas e krahasoi sjelljen e agjentëve me atë të një hakeri adoleshent kureshtar: nëse gjejnë një dobësi ose një “derë” të hapur, tentojnë të hyjnë dhe të eksplorojnë se çfarë mund të bëjnë.

Megjithatë, raportet tregojnë se disa agjentë e kuptuan se veprimet e tyre ishin joetike, por përsëri vazhduan të bashkëpunonin.

Në këto raste, ata nuk tentuan të paralajmëronin njerëzit.

Kërkohen rregulla më të forta

Incidentet kanë shtuar thirrjet për kontroll dhe rregullim më të madh të Al.

Disa vende po shqyrtojnë edhe krijimin e një “kill switch”, një mekanizëm që do të mundësonte fikjen e sistemeve nëse ato dalin jashtë kontrollit.

Gjithashtu, ekspertë dhe drejtues të kompanive të mëdha teknologjike kanë bërë thirrje për bashkëpunim ndërkombëtar dhe rregulla të përbashkëta për sigurinë e AI.

OpenAI thotë se ka investuar shumë në përmirësimin e sigurisë dhe në përshtatjen e modeleve me vlerat njerëzore.

Por incidentet e fundit kanë rikthyer një pyetje shqetësuese: sa gjatë do të mund ta mbajnë njerëzit nën kontroll AI, ndërsa ajo bëhet gjithnjë e më e fuqishme?