OpenAI nis shenjat e padukshme të tekstit në ChatGPT dhe Codex në BE përmes teknologjisë «textGrain»

OpenAI ka njoftuar se do të fillojë të vendosë shenja të padukshme, të lexueshme nga makinat, në tekstin e gjeneruar nga ChatGPT dhe Codex. Njoftimi, i raportuar të hënën nga The Verge, vjen në përgjigje të kërkesave të Aktit të AI të Bashkimit Evropian, i cili kërkon identifikim të lexueshëm nga makinat të tekstit të gjeneruar nga inteligjenca artificiale.

Lançimi do të ndodhë në Bashkimin Evropian gjatë javëve të ardhshme, sipas raportimit të The Verge. Teknologjia, e pagëzuar «textGrain», ngulit një sinjal statistikor në zgjedhjen e fjalëve të modelit, të lidhur me një çelës sekret dhe me tekstin e mëparshëm — dhe siç thekson kompania, nuk shton karaktere të fshehura apo hapësira të padukshme: sinjali qëndron në vetë fjalët.

Ka megjithatë një kufizim të rëndësishëm: detektori që verifikon shenjat, fillimisht do të jetë i disponueshëm vetëm për kërkues dhe organizata ekspertësh të miratuara, ndaj nuk do të ketë test publik të menjëhershëm për çdo tekst. Në të njëjtën kohë, sipas Bloomberg Law, klientët e API-së në mbarë botën do të mund ta aktivizojnë teknologjinë opsionalisht — ndryshe nga Anthropic, e cila e aplikon watermarking-un globalisht për Claude.

Lëvizja vjen në një moment kur OpenAI e kishte vonuar këtë hap për shkak të shqetësimeve për false positives dhe rrezikut konkurrues, siç raporton The Decoder. Në treg, Google DeepMind tashmë operon sistemin SynthID për identifikimin e përmbajtjes së gjeneruar, ndërsa Anthropic e ka zgjeruar watermarking-un në të gjitha modelet e Claude.