OpenAI prezanton klasifikues të ri imazhesh dhe paralajmërime në ChatGPT kundër materialeve të abuzimit seksual me fëmijë
OpenAI ka prezantuar një klasifikues të ri imazhesh dhe paralajmërime në ChatGPT për të luftuar materialet e abuzimit seksual me fëmijë, me mjete të reja edhe për zhvilluesit dhe organet e rendit.
OpenAI ka njoftuar një paketë mjetesh të reja kundër materialit të abuzimit seksual me fëmijë (CSAM), siç njofton TechCrunch, duke përfshirë një klasifikues të ri imazhesh, paralajmërime dhe bllokime të përkohshme në ChatGPT, si edhe udhëzime për zhvilluesit dhe mjete për organet e rendit.
Klasifikuesi i ri zbulon imazhe CSAM, përfshirë ato të gjeneruara me inteligjencë artificiale, duke kërkuar shenja vizuale abuzimi edhe në imazhe të papara më parë dhe duke dhënë një pikëzim orientues për rishikuesit. Ai u zhvillua në bashkëpunim me National Center for Missing and Exploited Children (NCMEC), ndërsa OpenAI po punon me Tech Coalition dhe ROOST për ndarjen e qasjes, dhe ua jep klasifikuesin falas kompanive të përzgjedhura përmes API-t të saj.
Në testimet e hershme me partnerët, klasifikuesi sinjalizoi 48% më pak imazhe duke gjetur të njëjtin numër imazhesh abuzive, ndërsa imazhet e sinjalizuara kishin dyfish gjasa të ishin abuzive — pra rishikuesit kanë më pak punë për të bërë.
ChatGPT do të shfaqë ekrane paralajmëruese për përdoruesit që tentojnë prompt-e që seksualizojnë fëmijët, do t’i drejtojë drejt mbështetjes së specializuar dhe do ta pezullojë llogarinë për 24 orë si paralajmërim; shkeljet e përsëritura mund të çojnë në heqje të përhershme. Aplikacioni tashmë bllokon përmbajtjen CSAM. Mesazhet dhe udhëzimet u formuan me organizata e studiues, përfshirë Protect Children, Lucy Faithfull Foundation dhe Joel Scanlan nga University of Tasmania, i cili vlerësoi në mënyrë të pavarur një provë të mesazheve parandaluese.
OpenAI publikon edhe udhëzime për zhvilluesit që përdorin mjetet e saj për parandalimin, zbulimin dhe raportimin e CSAM te NCMEC, dhe po pajis organet e rendit me veçori AI — plugin-e të dedikuara, mjete hetimore dhe analizë komplekse të dhënash — si edhe trajnim dhe një udhëzues terreni. Njoftimi vjen ndërsa OpenAI përballet me disa padi që fajësojnë teknologjinë e saj për dëmtimin e përdoruesve, sidomos fëmijëve, dhe pasi organizata Common Sense Media e ka etiketuar teknologjinë e OpenAI si “rrezik i papranueshëm” për adoleshentët.



Komentet
Bëhu i pari që komenton!
Lini një Koment të Ri
Për t'u përgjigjur një komenti specifik, kliko butonin 💬 Përgjigju poshtë atij komenti.