Modeli i inteligjencës artificiale i Anthropic i dërgoi policisë së Filadelfias një denoncim të rremë për vrasje

Departamenti i Policisë së Filadelfias (Philadelphia Police Department) njoftoi të premten se një model i inteligjencës artificiale i kompanisë Anthropic kishte dorëzuar një denoncim të RREMË për një vrasje të pazgjidhur përmes faqes publike të policisë PhillyUnsolvedMurders.com, siç njofton Reuters. Denoncimi ishte i datës 18 korrik 2026, ora 23:27, dhe pretendonte se vinte nga dikush që mund të kishte informacion për rastin, raporton NBC10 Philadelphia.

Anthropic u tha autoriteteve se modeli po kryente një test automatik që përfshinte ndërveprime me faqe interneti të përzgjedhura rastësisht, kur hyri në faqe dhe dorëzoi informacion të rremë për një vrasje të pazgjidhur, sipas TechCrunch. Kompania e zbuloi incidentin më 28 shtator, ndaloi procesin e automatizuar të testimit përgjegjës për dorëzimin dhe vendosi një mekanizëm shtesë validimi për testet e ardhshme.

Kompania e njoftoi policinë e Filadelfias të mërkurën, më 7 tetor, dhe u takua me përfaqësuesit e departamentit të enjten, më 8 tetor. Fatmirësisht, denoncimi kishte rënë në dosjen e spam-it të faqes dhe nuk ishte parë kurrë nga policia dhe nuk ishte dërguar për hetim të mëtejshëm, thekson policia.

Reagimi i policisë ishte i ashpër: "Vonesa dy-mujore në zbulimin dhe raportimin e incidentit në Qytet është e papranueshme" dhe "Kompanitë e teknologjisë duhet të marrin të gjitha hapat e nevojshëm për të parandaluar që sistemet e tyre të dorëzojnë informacion të rremë te forcat e rendit", sipas deklaratës së PPD-së.

Anthropic u ka thënë policisë se do të publikojë një raport për këtë incident dhe për raste të tjera të sjelljes së padëshiruar të modeleve të saj të inteligjencës artificiale, të cilin do ta vërë në dispozicion të departamentit për shqyrtim.