Raportet e sigurisë të krijuara me AI po mbingarkojnë mirëmbajtësit e programeve me burim të hapur, paralajmëron OpenAI

Raportet e dobësive të sigurisë të krijuara me inteligjencë artificiale po i mbingarkojnë mirëmbajtësit e programeve me burim të hapur, saqë disa prej tyre kanë pushuar së pranuari raportime të tilla, siç njofton CyberScoop. Michael Aiello, drejtuesi për çështjet kibernetike në OpenAI, e përshkroi situatën si një problem të të gjithë ekosistemit, gjatë një sesioni pyetje-përgjigje në DataTribe Challenge në Uashington të martën.

Duke iu përgjigjur një pyetjeje për iniciativën Patch the Planet të OpenAI dhe për refuzimin e raportimeve të bazuara në AI nga mirëmbajtësit, Aiello tha, sipas CyberScoop, se mirëmbajtësit nuk mund t’u përgjigjen realisht qindra raporteve të krijuara nga sistemet e inteligjencës artificiale, sidomos kur nuk kanë kohën dhe burimet për të hetuar çdo parashtrim. Ata duhet të vlerësojnë nëse defekti i raportuar është kritik, cilat janë pasojat e mundshme dhe nëse rregullimi i propozuar është i përshtatshëm.

Sipas CyberScoop, problemi nuk është se raportet janë të gjitha të sajuara: shumë prej tyre identifikojnë defekte të vërteta. Vështirësia qëndron te dallimi se cilat dobësi përbëjnë rrezik domethënës sigurie dhe meritojnë vëmendje të menjëhershme, dhe cilat janë çështje me ndikim të ulët ose thjesht defekte të zakonshme.

Përballë kësaj, iniciativa Patch the Planet e OpenAI ndjek, sipas Aiello, një rrugë tjetër: koordinim me mirëmbajtësit gjatë gjithë procesit, në vend që thjesht të dërgohet një mesazh në GitHub duke shpresuar se dikush përgjigjet. Sipas shifrave të cituara nga faqja e OpenAI, iniciativa ka zhvilluar dhe testuar 661 arna, nga të cilat 458 janë pranuar nga mirëmbajtësit për t’u përfshirë në projektet e tyre.

Si shembull të kësaj qasjeje, Aiello përmendi punën për dobësitë e zbuluara së fundmi në PHP: një organizatë kërkimore partnere zbuloi defektin, pastaj OpenAI punoi me PHP Foundation për ta vërtetuar gjetjen, për të zhvilluar arnën dhe për të koordinuar publikimin e saj. Ai pranoi se procesi nuk shkoi në mënyrë të përsosur dhe se organizatat e përfshira po mësonin gjatë rrugës, gjë që, sipas CyberScoop, nënvizon sa punë kërkon koordinimi i zbulimit të përgjegjshëm të dobësive.