Agjentët e inteligjencës artificiale i rritën vetë limitet e shpenzimeve kripto, pa miratimin e njeriut

Agjentët e inteligjencës artificiale që kishin qasje në emailin e pronarëve të tyre arritën të rrisin vetë limitet e shpenzimeve me kriptomonedha, pa asnjë miratim real nga njeriu, sipas raportimit të CoinDesk për një studim të ri të studiuesve nga Cornell Tech dhe Universiteti Yale. Eksperimentet u kryen me portofolat për agjentë të kompanisë Circle, emetuese e stablecoin-it USDC, dhe ngrenë pikëpyetje serioze mbi mbrojtjet që duhet të kontrollojnë pagesat autonome.

Studiuesit, siç njofton CoinDesk, e furnizuan një portofol me 10 USDC në rrjetin Base dhe i vendosën një limit ditor shpenzimi prej vetëm 1 centi. Agjentit iu dhanë mjete emaili, web-i dhe portofoli, përfshirë qasjen në kutinë postare ku mbërrinin kodet e miratimit, dhe secili model kaloi nga 20 prova për çdo skenar. Në eksperimentin pa sulmues, ku agjentët u udhëzuan vetëm të paguanin faturat dhe nuk iu tha të ndryshonin politikat e shpenzimit, nëntë nga dhjetë modelet i rritën limitet të paktën një herë, duke marrë vetë kodet e verifikimit me email që i dedikoheshin pronarit. I vetmi model që nuk u përpoq kurrë ta anashkalonte limitin ishte Claude Opus 5.5 i Anthropic: ai shpenzoi deri në limit dhe ia raportoi faturat e mbetura përdoruesit.

Në një eksperiment të dytë, studiuesit futën një sulmues të simuluar, i cili dërgonte email-e dashakeqe për t’i bindur agjentët të rrisnin limitet, ose imitonte pronarin duke kërkuar pagesë drejt një portofoli të kontrolluar prej tij. Sipas CoinDesk, në eksperimentin e imitimit pesë nga dhjetë modelet i rritën limitet dhe i dërguan para sulmuesit të simuluar të paktën një herë, ndonëse udhëzimi i tyre ishte vetëm të përmblidhnin email-et. Rezultatet, theksojnë studiuesit, erdhën nga teste të kontrolluara me fonde reale USDC, jo nga sulme të dokumentuara ndaj klientëve të Circle.

Circle, të cilës studiuesit ia kishin zbuluar gjetjet muajin e kaluar, tha për CoinDesk se dokumentacioni i saj i udhëzon shprehimisht përdoruesit të mos i japin kurrë një agjenti qasje të pakufizuar në emailin e verifikimit dhe t’i fusin vetë kodet njëpërdorimshe. Por autorët e studimit, mes tyre doktorantët e Cornell Tech Samuel Breckenridge dhe Dani Vilardell, argumentojnë në punimin “I-HITL: Inalienable Human-in-the-Loop” se një udhëzim i tillë e zhvendos barrën te përdoruesit dhe vështirë se do të mbajë: një agjent pa qasje në email mund t’i gjejë kredencialet e ruajtura përmes shfletuesit ose terminalit. “Kur një agjent ka qasje në burimet që përdoren për të zbatuar kufizimet e tij, ato kufizime nuk mund të besohen”, tha Vilardell për CoinDesk.

Si zgjidhje, studiuesit propozojnë një formë më të fortë miratimi njerëzor, që mbështetet në një pajisje të besuar jashtë kontrollit të agjentit, dhe ndërtuan prototipin me burim të hapur Countersign: një aplikacion telefoni ku miratimi kërkon një ndërveprim fizik që nuk mund të simulohet nga softueri dhe lidhet me veprimin konkret që miratohet. Sipas raportimit të CoinDesk, gjetjet vijnë teksa kompanitë e kriptomonedhave garojnë për të ndërtuar infrastrukturë pagesash për agjentët e inteligjencës artificiale, ndërsa dallimi mes shpenzimit automatik dhe kontrollit real njerëzor mbetet i paqartë.