Padi kundër Google, prindërit pretendojnë se vajza 13-vjeçare përdori inteligjencën artificiale për të planifikuar vetëvrasjen

Prindërit e një vajze 13-vjeçare kanë ngritur një padi kundër gjigantit teknologjik Google, duke pretenduar se vajza e tyre përdori funksionet e inteligjencës artificiale në motorin e kërkimit të kompanisë për të planifikuar një vetëvrasje të mundshme dhe funeralin e saj.

Padia u depozitua më 2 nëntor në një gjykatë në Kaliforni të SHBA-së dhe konsiderohet si rasti i parë që akuzon Google për neglizhencë lidhur me funksionet e kërkimit të mbështetura nga inteligjenca artificiale, të përdorura përmes kompjuterëve Chromebook të shpërndarë nga shkollat.

Vajza, e identifikuar në dokumentet gjyqësore me emrin Emma, nuk kishte akses në aplikacionin Gemini të Google apo në ChatGPT të OpenAI, pasi të dyja platformat ishin bllokuar nga shkolla. Megjithatë, ajo mund të përdorte motorin e kërkimit të Google, i cili përfshin edhe funksione të inteligjencës artificiale.

Sipas padisë, vajza nuk kishte pasur më parë probleme të njohura të shëndetit mendor, por brenda disa muajsh nga përdorimi i motorit të kërkimit, gjendja e saj psikologjike u përkeqësua ndjeshëm.

Ngjarja u zbulua më 17 mars, kur sistemi i monitorimit të shkollës sinjalizoi një dokument të krijuar nga vajza me titullin “Funeral”. Prindërit u njoftuan nga shkolla, ndërsa nëna e saj zbuloi më vonë se Emma kishte nisur të shkruante një letër lamtumire. Babai ndërhyri për ta ndihmuar.

Avokati i familjes, Andrew Liddell, i tha agjencisë AFP se shkollat duhet të çaktivizojnë funksionet e kërkimit të Google derisa kompania të heqë modalitetin e inteligjencës artificiale ose të garantojë sigurinë e nxënësve gjatë përdorimit të tij.