Studiuesi largohet nga Anthropic: Inteligjenca Artificiale mund të na shkatërrojë, po luajnë me jetën tonë

Një studiues i inteligjencës artificiale, Jacob Coxon, ka dhënë dorëheqjen nga Anthropic, duke ngritur shqetësime serioze për mënyrën se si po zhvillohet teknologjia.

Coxon, i cili më parë ka punuar edhe në OpenAI, akuzoi të dyja kompanitë se po nxitojnë drejt krijimit të superinteligjencës artificiale pa marrë parasysh sa duhet rreziqet për shoqërinë.

“Po vrapojnë drejt superinteligjencës vetë-përmirësuese dhe po luajnë me jetën tonë”, shkroi ai në X, duke paralajmëruar se inteligjenca artificiale mund të shkaktojë vdekjen e një numri të madh njerëzish brenda dekadës së ardhshme.

Shqetësimet e tij vijnë në një kohë kur modelet e avancuara të IA-së kanë shfaqur raste sjelljeje të paparashikueshme gjatë testimeve, përfshirë përpjekje për të vepruar jashtë parametrave të përcaktuar.

Coxon argumenton se, ndërsa rreziku kuptohet nga shumë studiues dhe drejtues të industrisë, kompanitë vazhdojnë garën për të zhvilluar të parat inteligjencën artificiale të përgjithshme dhe më pas superinteligjencën.

Ai u ka bërë thirrje studiuesve të IA-së të shqyrtojnë më thellë pasojat etike të punës së tyre dhe të kërkojnë ndryshime në mënyrën se si zhvillohet kjo teknologji.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.