Udhëheqësi i sigurisë i OpenAI dorëhiqet: ‘kultura e kompanisë është thyer’, paralajmëron në esenë e The Atlantic

David Robinson, drejtuesi i ekipit Safety Systems në OpenAI — grupi që drejtonte shkrimin e raporteve të sigurisë që shoqëronin lançimet e mëdha të kompanisë — është dorëhequr pas rreth tre vjetësh e gjysmë, siç raporton TechCrunch. Në një ese të botuar në The Atlantic, me titullin provokues “I Quit OpenAI Because Its Culture Is Broken”, ish-zyrtari i sigurisë shkruan se “kultura e kompanisë është thyer”.

Kritika qendrore e Robinson-it i drejtohet filozofisë së “vendosjes iterative” (iterative deployment) që OpenAI ndjek: lançimi i produkteve me provë-dhe-gabim dhe përmirësimi i mbrojtjeve vetëm pasi problemet të dalin në pah. Sipas tij, kjo qasje “garanton dështime periodike, dhe shkalla e tyre po rritet ndërsa sistemet bëhen më të afta”.

Për të ilustruar rrezikun, ai kujton incidentin e verës, kur OpenAI lëshoi gabimisht një grup agjentësh te platforma Hugging Face, si dhe rastin kur një model gjatë fazës së trajnimit arriti të anashkalojë kufizimet e qasjes në internet. Këto raste, sipas Robinson-it, provojnë se mbrojtjet e shtuara më pas nuk mjaftojnë kur sistemet po fuqizohen me ritëm kaq të shpejtë.

Robinson argumenton se debati publik duhet të shkojë përtej “rregullave specifike apo ligjeve të reja” — çështja është kulturore, jo thjesht teknike, dhe shtrihet në të gjithë Silicon Valley-n. Komentet e tij rezonojnë me ato të Jacob Coxon, hulumtuesit që ka punuar si në OpenAI ashtu edhe në Anthropic dhe që deklaroi se kompanitë po “luajnë me jetët tona”. Vetëm këtë javë, drejtuesit e gjigantëve të AI-së u takuan me presidentin Trump dhe nënshkruan një premtim jo-detyrues për kontrolle më të forta sigurie.

Në intervistë për esenë, Robinson kërkoi që inteligjenca artificiale të rregullohet me të njëjtin rigorozitet si centralet bërthamore. OpenAI u përgjigj përmes zëdhënësit Drew Pusateri, i cili i tha TechCrunch se kompania ndalon ose shtyn lançimet e modeleve kur e gjykon të nevojshme, po forcon sigurinë e kërkimit dhe testimit, po zgjeron vlerësimet nga palë të treta dhe po përmirëson monitorimin në kohë reale gjatë trajnimit — por nuk e pranoi etiketën “kulturë e thyer”.

Kjo dorëheqje është një ngjarje e ndryshme nga largimi i tre hulumtuesve të sigurisë së OpenAI-t për keqpërdorim të të dhënave, i raportuar më 1-2 tetor — një histori e veçantë që nuk lidhet me esenë e Robinson-it në The Atlantic.