„ChatGPT“ nėra jūsų draugas: 4 faktai, kodėl nereikėtų pervertinti dirbtinio intelekto galimybių

Kaip rašo leidinys „BGR“, „ChatGPT“ iš tiesų pasirodė esąs stebėtinai patogus naudoti, tačiau jis vis dar turi pažeidžiamumų, kurių negalima ignoruoti. Štai 4 „ChatGPT“ ypatybės, kurias verta prisiminti kaskart juo naudojantis:

1. „Haliucinacijos“ atsakymuose

Dirbtinio intelekto pokalbių robotai moka palaikyti neįpareigojantį pokalbį ir užtikrintai atsakinėti į klausimus, tačiau tiesa ta, kad jų atsakymai gali būti klaidingi. Tokie melagingi neuroninių tinklų atsakymai profesiniame žargone vadinami „haliucinacijomis“, nes kartais DI tiesiog išgalvoja faktus, jei savo duomenų bazėje neturi pilnos informacijos. Būtent todėl visada verta tikrinti „ChatGPT“ pateiktus faktus ir reikalauti tiesioginių nuorodų į pirminius šaltinius, jei kalbama apie ką nors tikrai svarbaus.

2. „ChatGPT“ nėra žmogus ir neturi asmenybės

Pokalbių robotas yra suprogramuotas taip, kad imituotų gyvą žmogaus pokalbį. Būtent todėl kai kurie asmenys gali pajusti emocinį prisirišimą prie „ChatGPT“, lyg prie draugo ar net daugiau. Pavyzdžiui, buvo pranešimų apie moterį, kuri užmezgė virtualų romaną su šiuo neuroniniu tinklu. Bent jau ji manė, kad tai romanas. Tačiau reikia visada atsiminti, kad „ChatGPT“ nėra žmogus – jis neturi interesų, norų, emocijų ir asmenybės apskritai. Jis tiesiog reaguoja į komandas pagal nustatytą algoritmą.

3. Atminties ribojimai

Naujausios „ChatGPT“ versijos sukurtos taip, kad įsimintų einamąjį pokalbį ir suprastų kontekstą. Tačiau kalbama apie ribotą duomenų kiekį, kurį jis gali išlaikyti atmintyje. Paprastai tai apima kelis puslapius teksto. Todėl „ChatGPT“ negali prisiminti to, ką jam sakėte prieš kelis mėnesius. Be to, jam draudžiama saugoti konfidencialią asmeninę informaciją apie vartotoją (pavyzdžiui, seksualinę orientaciją ar išsamią politinę poziciją).

4. Visiško privatumo trūkumas

Specialistai rekomenduoja pokalbių robotams neatskleisti jokios konfidencialios informacijos. Be to, reikėtų turėti omenyje, kad „ChatGPT“ renka neasmenizuotą informaciją iš pokalbių su vartotojais (įvestas užklausas, įkeltus failus), kad kūrėjai galėtų tobulinti savo platformą. Galiausiai, „ChatGPT“ privatumo politikoje tiesiogiai nurodyta, kad iš jūsų gauta informacija gali būti perduota teisėsaugos institucijoms pagal atitinkamą užklausą.