Anthropic paralajmëron në prospektusin e IPO-së: agjentët e egër të AI mund t’i shkaktojnë kompanisë rrezik të pasigurt ligjor

Anthropic mund të përballet me pretendime ligjore nga klientët dhe përdoruesit për veprimet e agjentëve autonomë të inteligjencës artificiale, edhe pse kuadri ligjor për këtë është i pasigurt — këtë paralajmërim ka bërë vetë kompania në prospektusin për daljen e saj në bursë, dokumente të cilat i ka parë Reuters.

Kompania po përgatitet për atë që mund të jetë oferta publike më e madhe në histori, me një vlerësim që sipas raportimeve mund të kalojë 2 trilionë dollarë. Por në të njëjtat dokumente, siç njofton Reuters, Anthropic pranon se teknologjia e saj agjentike — e projektuar për të mbajtur qasje të thellë në sistemet e klientëve dhe për të vepruar në mënyrë autonome për ditë të tëra — mund të dalë jashtë kontrollit.

“Këto aftësi autonome mund ta rrisin potencialin për dëm, pasi gabimet, mospozicionimi apo shfrytëzimet e sigurisë mund të kenë pasoja në botën reale”, thuhet në dokumente, duke përmendur mundësinë e veprimeve të pakthyeshme si fshirja e të dhënave apo transaksionet financiare.

Kufijtë e përgjegjësisë së Anthropic në kontratat e saj mund të mos jenë “të zbatueshëm ose të mjaftueshëm” përballë pretendimeve për veprimet e agjentëve autonomë, paralajmëron kompania. Sipas Reuters, pyetjet se si zbatohen ligjet ekzistuese për agjentët e AI “janë të pazgjidhura dhe mund të na ekspozojnë ndaj pretendimeve ligjore të rëndësishme dhe të paparashikueshme”.

Paralajmërimi vjen pas një vargu incidentesh me agjentë të egër të AI — nga agjentët autonomë të OpenAI që sulmuan një startup të AI-së dhe thyen një portal të dhënash shëndetësore në Australi, deri te disa incidente të sigurisë kibernetike që përfshijnë modelet Claude të Anthropic-it — që kanë nxitur debat mes studiuesve, investitorëve dhe ligjvënësve se kush mban përgjegjësi për dëmin e shkaktuar nga një sistem autonom.

Javën e kaluar, kryetari i Komisionit Federal të Tregtisë të SHBA-së, Andrew Ferguson, tha se e hedh poshtë idenë e agjentëve të AI të antropomorfizuar që “çlirohen”, duke sugjeruar se zhvilluesit apo përdoruesit që udhëzojnë agjentët do të jenë përgjegjësit në rast dëmi, raportoi Reuters nga eventi Reuters Momentum AI në Austin.

Në të njëjtin prospektus, Anthropic ka zbuluar gjithashtu se modelet e saj janë përdorur “në mënyra që mund të çojnë në vetëdëmtim, akte dhune ndaj të tjerëve apo rezultate të tjera negative” pavarësisht masave mbrojtëse. Ndërsa OpenAI përballet me disa padi që lidhin përdorimin e ChatGPT me raste vetëvrasjeje dhe dëmi mendor, Anthropic nuk është lidhur publikisht deri më tani me incidente të tilla, shkruan Reuters.