BBC: “Anthropic” bllokon përpjekjet për përdorimin e IA-së për armë biologjike

– Kompania amerikane e inteligjencës artificiale “Anthropic” tha median britanike, BBC, se ka zbuluar dhe ndërprerë disa raste ku modeli i saj “Claude”, ishte përdorur në mënyra që mund të ndihmonin në zhvillimin e armëve biologjike.

Në raportin e saj të fundit, kompania përmend pesë raste ku disa persona kishin përdorur “Claude” në mënyra që mund të mbështesnin zhvillimin e armëve biologjike.

“Anthropic” i konsideron këto ndër rreziqet më serioze, që paraqet inteligjenca artificiale e avancuar.

Kompania thekson se i njëjti informacion shkencor mund të përdoret si për qëllime të rrezikshme, ashtu edhe për qëllime të dobishme, si zhvillimi i vaksinave apo trajtimeve për sëmundjet.

Për këtë arsye, zbulimi i keqpërdorimit është veçanërisht i vështirë.

Raporti thotë gjithashtu se “Claude” është keqpërdorur për sulme kibernetike, mashtrime, mbikëqyrje dhe propagandë, ndërsa në gjashtë raste është përdorur për zhvillimin e teknologjive që lidhen me armë konvencionale, përfshirë raketa, dronë të armatosur dhe sisteme drejtimi.

“Anthropic” tha se ka bllokuar përdoruesit e dyshuar, ka përmirësuar sistemet e sigurisë dhe, kur ka qenë e nevojshme, ka ndarë informacionin me autoritetet dhe kompani të tjera teknologjike.

Raporti vjen në një kohë kur po shtohen paralajmërimet për rreziqet e IA-së.

“OpenAI” dhe studiues të tjerë, kanë bërë thirrje për masa më të forta sigurie, ndërsa senatori amerikan Bernie Sanders ka kërkuar një ndalim të përkohshëm të zhvillimit të IA-së së avancuar dhe ndalimin e të ashtuquajturës superinteligjencë artificiale. /