Nadella: modeleve të inteligjencës artificiale u duhet një «fren emergjence»

Shefi ekzekutiv i Microsoft-it, Satya Nadella, deklaroi të shtunën se modelet e inteligjencës artificiale kanë nevojë për një «fren emergjence» dhe se ka ardhur koha «të tërhiqemi dhe të rivlerësojmë arkitekturën e besimit» së AI-së, siç raporton TechCrunch.

Në një postim të shtunën në X, Nadella argumentoi se «Super Intelligence» — termi që administrata Trump preferon për inteligjencën artificiale — nuk mund të trajtohet «si një sërë kutish të zeza brenda njëra-tjetrës, duke thjesht pranuar ose refuzuar rekomandimet, përgjigjet dhe veprimet e saj».

Qasja që ai propozon, sipas postimit, nënkupton ndarjen e modelit nga «lidhësja» (harness) që orkestron punën e tij, si dhe eksternalizimin e kontrolleve dhe masave mbrojtëse. Nadella kërkoi gjithashtu që çdo veprim i rëndësishëm i një modeli të dokumentohet me «prova të pamundura për t’u falsifikuar dhe të lexueshme nga njeriu», dhe që një person i autorizuar të ketë gjithmonë mundësinë «ta ndalojë ose fikë modelin në mes të detyrës».

«Duhet të supozojmë se modeli është i kompromentuar dhe ta izolojmë që në fillim», shkroi ai. «Mendojeni si një fren emergjence».

Komentet e Nadellës vijnë në një kohë kur kompanitë kryesore të AI-së po pranojnë gjithnjë e më shumë incidente ku duket se kanë humbur kontrollin mbi modelet e tyre, dhe pak pasi shefi i Anthropic, Dario Amodei, publikoi një plan për zhvillim më të kujdesshëm të inteligjencës artificiale.