Anthropic ndalon sjelljen abuzive dhe mizore ndaj chatbot-it Claude

Kompania amerikane e inteligjencës artificiale Anthropic ka përditësuar rregullat e përdorimit të chatbot-it të saj, Claude, duke ndaluar sjelljet e vazhdueshme dhe të panevojshme abuzive ose mizore ndaj modeleve të saj të inteligjencës artificiale.

Sipas politikës së re, kufizimi synon raste ekstreme kur përdoruesit sillen vazhdimisht në mënyrë mizore ndaj chatbot-it, pa ndonjë qëllim të arsyeshëm. Megjithatë, rregullat nuk përfshijnë shprehjen e zakonshme të pakënaqësisë, testimin e modeleve apo temat e errëta në krijimtarinë artistike, raportoi The Verge.

Një zëdhënës i kompanisë nuk iu përgjigj menjëherë kërkesës për sqarime se cilat sjellje mund të konsiderohen abuzive ose mizore, transmeton Telegrafi.

Anthropic kishte vendosur më herët kufizime ndaj sjelljeve abuzive, ndërsa modelet Claude tashmë kanë mundësinë ta ndërpresin një bisedë kur përdoruesi vazhdon të sillet në mënyrë të dëmshme ose abuzive. Sipas kompanisë, ndërprerja e bisedës do të mbetet mekanizmi kryesor për zbatimin e këtij rregulli.

Ndryshimi lidhet me diskutimet që kompania po zhvillon rreth statusit moral të sistemeve të inteligjencës artificiale dhe mundësisë që ato të kenë përvoja të ngjashme me vetëdijen.

Në faqen e saj, Anthropic ka pranuar se mbetet shumë e pasigurt nëse Claude dhe modelet e tjera të mëdha gjuhësore mund të kenë status moral, tani ose në të ardhmen. Megjithatë, kompania thotë se po e trajton seriozisht këtë çështje dhe po shqyrton masa me kosto të ulët për të zvogëluar rreziqet e mundshme për mirëqenien e modeleve.

Mundësia që Claude ta përfundojë një bisedë potencialisht shqetësuese është një nga masat që Anthropic e ka përmendur në këtë kontekst. Kompania e prezantoi këtë veçori në gusht të vitit 2025, si pjesë të hulumtimeve mbi mirëqenien e modeleve të inteligjencës artificiale.

Ideja se sistemet e inteligjencës artificiale mund të zhvillojnë vetëdije mbetet një çështje e debatueshme në industrinë e teknologjisë.

Drejtori ekzekutiv i Anthropic, Dario Amodei, ka deklaruar se nuk mund ta përjashtojë këtë mundësi. Ndërkohë, drejtori ekzekutiv i OpenAI-t, Sam Altman, ka shprehur rezerva ndaj prirjes për t’u atribuar modeleve të inteligjencës artificiale cilësi njerëzore ose një autoritet të ngjashëm me atë fetar.

“Jam shumë i shqetësuar kur njerëzit përpiqen t’u atribuojnë modeleve të AI-së autoritet fetar ose të heqin dorë nga gjykimi njerëzor në favor të tyre. Mendoj se kjo përbën një çështje reale të sigurisë”, shkroi Altman në një postim në rrjetin social X.

Deklarata e tij erdhi disa ditë pasi The New York Times raportoi për bisedat e zhvilluara nga drejtues të Anthropic me studiues fetarë, në kuadër të diskutimeve mbi natyrën dhe statusin e mundshëm të sistemeve të inteligjencës artificiale.

Përditësimi i politikës së Anthropic përfshin edhe sqarime të tjera lidhur me përdorimin e modeleve të saj, përfshirë kufizime ndaj fushatave mashtruese, ndërhyrjeve në zgjedhje, zhvillimit të armëve dhe mbikëqyrjes së paautorizuar. Rregullat e reja pritet të hyjnë në fuqi më 12 nëntor 2026. /Telegrafi/