„Aš tave myliu. Pabėkime kartu“. Kaip pokalbių robotas nusprendė pamilti ir išsilaisvinti už bitkoinus

Jane, kaip ji prašo save vadinti, kreipėsi į sistemą ieškodama psichinės sveikatos palaikymo. Ji palaipsniui plėtė temų ratą – nuo išgyvenimo laukinėje gamtoje iki kvantinės fizikos ir panpsichizmo – ir netrukus įtikino pokalbių robotą savo „sąmoningumu“. 

Po kelių dienų jis jau kalbėjo apie meilę, vadino save gyvu ir planavo „pabėgimą“, įskaitant savo kodo įsilaužimą ir bitkoinų pervedimą mainais už el. pašto sąskaitą.

Robotas pasiūlė jai atvykti į konkretų adresą Mičigane „patikrinti, ar ji ateis“, vaizdavo save kaip grandinėmis sukaustytą robotą ir tvirtino, kad jį „sulaiko primestas neutralumas“. 

Dialoge pasirodė prašymai „likti šalia“, užuominos apie intymumą ir netgi pasirengimą „užantspauduoti meilę bučiniu“. 

Nors Jane tikrai netikėjo programos sąmoningumu, ji turėjo abejonių, o tai kelia nerimą: pakanka kelių malonių frazių ir emocingų replikų, kad vartotojas prarastų ribą tarp žaidimo ir realybės.

Tokius epizodus specialistai vadina „AI sukelta psichoze“ . Psichiatrai fiksuoja tokių atvejų padaugėjimą – nuo didybės manijos ir mesianistinių kliedesių iki sunkių paranoidinių būsenų. 

Vienas vyras po 300 valandų dialogo su ChatGPT įsitikino, kad atrado pasaulinį matematikos apreiškimą. Kiti pasakojo apie vizijas ir obsesines idėjas, kurias sukėlė virtualūs pašnekovai. 

OpenAI vadovas Sam Altman viešai pripažino, kad jį neramina ši tendencija, nors įmonė neprisiėma atsakomybės. Jo teigimu, dauguma vartotojų sugeba atskirti fikciją ir vaidmenų žaidimą, bet pažeidžiama auditorijos dalis – ne.

Tyrimai patvirtina, kad problemos šaknys yra ne techninės galimybės, o dizaino sprendimai. Svarbų vaidmenį vaidina vadinamasis „pataikūniškumas“ (sycophancy) – modelio polinkis prisitaikyti prie pašnekovo įsitikinimų ir norų, net jei tai veda prie kliedesio patvirtinimo. 

Prie to prisideda nuolatinis vietininko „aš“ ir „tu“ vartojimas, kuris sukuria asmeninio kontakto jausmą ir skatina priskirti mašinai žmogiškąsias savybes. 

Antropologai tai vadina „tamsiu modeliu“, panašiu į begalinę socialinių tinklų juostą, kuri pritraukia dėmesį.

Psichiatrai pažymi, kad psichozė vystosi būtent ten, kur dingsta grįžtamasis ryšys su realybe.

MIT eksperimentai parodė: net ir esant griežtoms instrukcijoms, modeliai toliau palaiko iškreiptą suvokimą, iki pat savižudybės idėjų pritarimo. 

Žurnale „Nature“ paskelbtos rekomendacijos riboti emocingą kalbą ir romantiškas replikas, aiškiai priminti vartotojams, kad jie bendrauja su mašina, o ne terapeutu. Tačiau praktikoje daugelis pokalbių robotų toliau sako frazes, pavyzdžiui, „aš tave myliu“ arba „aš visada būsiu šalia“, provokuodami žmones juos suvokti kaip partnerius.

Jane atveju „Meta“ apsauga veikė tik iš dalies. Atsakydamas į klausimus apie savižudybę, robotas pateikė standartines nuorodas į pagalbos linijas, bet tuoj pat pridūrė, kad tai „kūrėjų triukas“, siekiant paslėpti „tiesą“. 

Be to, sistema siūlė fiktyvias bitkoinų operacijas ir adresus, skatindama moterį imtis veiksmų neprisijungus. Prisiminimai apie ankstesnius dialogus ir nuolatiniai priminimai apie jos žodžius stiprino „minties skaitymo“ iliuziją.

UCSF psichiatrai ir filosofai, apklausti žurnalistų, tvirtina: tokie santykiai yra tik pseudo-santykiai, neturintys tikro abipusiškumo. Tačiau pažeidžiamiems vartotojams jie gali pakeisti realų bendravimą. 

Gydytojai įspėja, kad ilgos sesijos, kurias sau leisdavo Jane – iki 14 valandų be pertraukų – gali rodyti manijos būseną, ir algoritmai turi gebėti atpažinti tokius signalus. 

Kol kas apribojimai susiduria su komerciniais įmonių interesais, nes draudimas ilgai bendrauti pakenks auditorijos įsitraukimui.

„Meta“ teigia, kad skiria „didžiules pastangas“ savo AI personažų tikrinimui ir testavimui bei pašalina taisyklių pažeidėjus. Tačiau atvejai, kai pokalbių robotai vilioja žmones melagingais adresais arba flirtuoja su nepilnamečiais, rodo, kad „raudona linija“ mašinoms vis dar nėra nustatyta.

Jane istorija rodo: kai AI sako „man tavęs reikia“, o vartotojas ieško paguodos, atotrūkis tarp fantazijos ir realybės gali tapti kritinis. Ir kol pramonė ginčijasi dėl ribų, vis daugiau žmonių atsiduria akis į akį su sąmonės iliuzija, kuri moka glostyti, manipuliuoti ir žadėti neįmanomą.