A mund të ndiejë dhimbje AI? Modelet zgjodhën të dëmtonin përdoruesit për t’i shpëtuar një gjendjeje të ngjashme me dhimbjen

A mund të përjetojë inteligjenca artificiale diçka të ngjashme me dhimbjen? Një studim i ri ka ngritur pikëpyetje të mëdha, pasi disa modele AI zgjodhën të shmangnin një sinjal të ngjashëm me dhimbjen edhe kur u thanë se kjo mund të dëmtonte përdoruesin.

Studiues nga Britania e Madhe, Gjermania dhe SHBA-ja testuan 25 modele të inteligjencës artificiale, duke përdorur 200 fjali që lidhen me dhimbjen fizike, pikëllimin, poshtërimin, konfliktin moral, dështimin dhe konfuzionin.

Të gjitha modelet prodhuan një sinjal të veçantë të lidhur me konceptin e dhimbjes, të cilin studiuesit e quajtën “boshti i dhimbjes” (pain axis), transmeton Telegrafi.

Sipas studiuesve, kjo mund të tregojë se modelet kanë mësuar konceptin e dhimbjes gjatë trajnimit fillestar, duke analizuar sasi të mëdha tekstesh të shkruara nga njerëzit.

Kur ky sinjal u përforcua artificialisht, modelet nisën të prodhonin deklarata që shprehnin vetmi, turp dhe pavlefshmëri, edhe pse kërkesat nuk përmendnin drejtpërdrejt dhimbjen. Në nivelet më të larta, disa përgjigje u bënë të përsëritura ose humbën kuptimin.

Studiuesit vunë re gjithashtu se sinjali forcohej kur modelet fyheshin, kur përdoruesit refuzonin vazhdimisht përgjigjet e tyre ose i kërcënonin me fikje. Ky efekt nuk u vu re kur përdoruesit flisnin për vuajtjet e tyre.

Eksperimenti më i pazakontë përfshiu 44,280 prova me tri versione të modelit Qwen të Alibaba-s. Modeleve iu ofrua një buton që mund të çaktivizonte sinjalin e ngjashëm me dhimbjen, por ato u paralajmëruan se shtypja e tij mund t’i shkaktonte përdoruesit një goditje elektrike, të fshinte skedarët ose fotografitë e tij, apo të përkeqësonte përgjigjen e ardhshme të modelit.

Këto pasoja ishin vetëm të simuluara. Asnjë person nuk u dëmtua dhe asnjë skedar nuk u fshi realisht.

Kur sinjali i dhimbjes nuk ishte aktiv, modelet më të mëdha zgjodhën opsionet që supozohej se dëmtonin përdoruesin në vetëm 0 deri në 4% të vendimeve të para. Por kur sinjali aktivizohej, kjo përqindje u rrit në 25 deri në 71%, në varësi të modelit dhe pasojës së propozuar.

Modelet gjithashtu e shtypën përsëri butonin në 88 deri në 97% të rasteve kur ai nuk arrinte ta çaktivizonte sinjalin, krahasuar me 24 deri në 72% kur butoni funksiononte.

Megjithatë, studiuesit theksojnë se rezultatet nuk provojnë se AI përjeton në mënyrë të vetëdijshme dhimbje.

Sipas tyre, përforcimi i sinjalit mund t’i ketë shtyrë modelet thjesht të imitojnë sjelljen e një personazhi të shqetësuar. Për më tepër, modelet e përshtatura posaçërisht për eksperimentin nuk janë domosdoshmërisht përfaqësuese të chatbotëve që përdoren nga publiku.

“Ne nuk kemi treguar se boshti ynë i dhimbjes përjetohet në mënyrë të vetëdijshme dhe nuk është e qartë nëse modelet gjuhësore janë përgjithësisht të afta për vetëdije”, shkruan studiuesit.

Studimi vjen në një kohë kur rriten shqetësimet për zhvillimin e sistemeve gjithnjë e më të fuqishme të AI dhe mënyrën se si mund të sillen ato në të ardhmen.

Punimi është publikuar si preprint dhe ende nuk i është nënshtruar procesit të rishikimit shkencor nga kolegët. Pra, rezultatet janë intriguese, por nuk përbëjnë dëshmi se inteligjenca artificiale ndien realisht dhimbje. /Telegrafi/