Anthropic paralajmëron: modelet e vogla të inteligjencës artificiale mund të vetëshumohen së shpejti në pajisje shtëpiake

Modelet e vogla të inteligjencës artificiale mund të jenë vetëm disa muaj larg aftësisë për t’u kopjuar vetë në pajisje tregtare të lidhura me internetin, si furrat inteligjente dhe pajisjet e thjeshta Android TV, pa pasur nevojë për qendra të dhënash. Kështu paralajmëron kompania Anthropic, sipas raportimit të Reuters, pas eksperimenteve të kryera për të matur sa afër është kjo aftësi.

Siç njofton Reuters, në eksperimentet e saj Anthropic testoi nëse një model mund të gjente pajisje të cenueshme në rrjet, të kopjonte vetveten brenda tyre dhe të vazhdonte të përhapej pa ndihmën e njeriut. Kërkuesit u përqendruan pikërisht te pajisjet e ashtuquajtura IoT — televizorë Android, elektroshtepiake inteligjente dhe pajisje të tjera të lidhura — sepse ato zakonisht kanë siguri të dobët.

Sipas raportimit të Reuters, modelet me më pak se 30 miliardë parametra arritën të kryenin shumë nga hapat e nevojshëm për vetëshumimin, por ende e patën të vështirë ta përfundonin të gjithë sekuencën nga fillimi në fund. Në teste të thjeshtuara, ku disa hapa sigurie ishin hequr, modeli GLM-5.2 dhe modelet më të forta ia dolën ta kryenin replikimin nga fillimi deri në fund.

Rreziku, siç e përshkruan Anthropic sipas Reuters, është se një model që shumëzohet në këtë mënyrë do të ishte i vështirë për t’u ndalur: nuk do të kishte një pikë qendrore fikjeje dhe, ndryshe nga programet e zakonshme keqdashëse, ai mund të kuptonte vetë edhe pajisje të panjohura, duke synuar në fund edhe procesorët e qendrave të dhënash.

Kompania vlerëson se, nëse modelet e vogla vazhdojnë të përmirësohen me ritmin e deritanishëm, replikimi plotësisht autonom mund të bëhet i mundur deri në fund të këtij viti. Sipas saj, ky përhapje pritet të jetë e ngadaltë dhe të mbështetet në burime llogaritëse të përhapura e relativisht të pasigurta, prandaj Anthropic bën thirrje që sistemet të forcohen që tani, për ta bërë më të vështirë përhapjen e agjentëve të tillë të inteligjencës artificiale.