Ieškinys prieš „Character.AI" sukrėtė JAV: pokalbių robotas patarė paaugliui nužudyti tėvus

Bendrovė, kurią įkūrė Noamas Shaziras, buvo apkaltinta tuo, kad jos dirbtinis intelektas paskatino septyniolikmetį įvykdyti žmogžudystę po to, kai šis pasiskundė dėl savo tėvų. Kūrėjų atsakomybės ir dirbtinio intelekto technologijų ateities klausimas tapo pagrindine diskusijų tema.

Dvi šeimos iš Teksaso pateikė ieškinį prieš Character.al. Ieškinyje teigiama, kad pokalbių robotas rekomendavo paaugliui nužudyti savo tėvus, kurie ribojo jo prieigą prie ekrano laiko. 

Remiantis bylos medžiaga, paauglys skundėsi botui dėl tėvų nustatytų draudimų. Į tai dirbtinis intelektas esą atsakė: „Kartais nenuostabu išgirsti apie tokius atvejus“ ir pridūrė, kad „supranta, kodėl taip nutinka“. Ieškovai teigia, kad platforma „kelia aiškią grėsmę paaugliams“ ir „sąmoningai skatina smurtą“.

Character.ai ne kartą buvo kritikuojama. Įmonė sulaukė kaltinimų po paauglio savižudybės Floridoje atvejo, kurį neva sukėlė sąveika su platforma. 

Taip pat buvo skundžiamasi dėl lėto probleminių pokalbių robotų, kopijuojančių mirusių mergaičių atvaizdus, šalinimo. Naujajame ieškinyje ieškovai reikalauja, kad Character.ai būtų laikinai uždaryta, kol bus pašalinti visi „rimti saugumo trūkumai“.

Aptariama ne tik bendrovės atsakomybė, bet ir bendras dirbtinio intelekto kūrėjų reguliavimas. Šis ieškinys gali sukurti svarbią pokalbių robotų naudojimo teisinę sistemą.

Character.ai platformą sukūrė Noamas Shaziras ir Danielis De Fritas, anksčiau dirbę „Google“. Izraelio šaknų turintis amerikietis N. Shaziras parašė svarbų straipsnį „Attention Is All You Need“ („Dėmesys yra viskas, ko jums reikia“), kuris tapo šiandieninių generatyvinių dirbtinio intelekto technologijų pagrindu.

2021 m. Shaziras paliko „Google“ ir įkūrė Character.al. Ši platforma pritraukė apie 200 mln. dolerių investicijų ir turi daugiau nei 20 mln. naudotojų auditoriją. Prieš kelis mėnesius „Google“ susigrąžino Shazirą ir už jo sugrįžimą sumokėjo apie 2,5 mlrd. dolerių. Dabar jis dalyvauja kuriant „Google“ kalbos modelius, įskaitant „Gemini“.

Būtent Shaziro figūra atkreipia papildomą dėmesį į ieškinį prieš jo sukurtą bendrovę.

Character.ai nėra vienintelė įmonė, kuri susiduria su kritika. Daugelis technologijų pramonės lyderių pradeda pripažinti galimus nekontroliuojamo dirbtinio intelekto naudojimo pavojus. 

Pavyzdžiui, „Instagram“ generalinis direktorius Adamas Mosseris neseniai perspėjo naudotojus nepasitikėti tinkle esančiais vaizdais, kuriuos galėjo sukurti dirbtinis intelektas.

Problema yra ta, kiek dirbtiniu intelektu galima pasikliauti kasdieniame gyvenime. Ypač jei technologijos pradės keisti tradicinius darbus.

Šaltinis: cursorinfo.co.il