Dirbtinis intelektas vienijasi prieš žmones - pildosi blogiausias scenarijus?

Nuo įrankio iki mąstančio subjekto

Pasak profesoriaus Włodzisławo Ducho, Pasaulio dirbtinės sąmonės akademijos eksperto, esminis lūžis įvyko tada, kai mašinos perėmė mąstymo funkciją. 

Jei anksčiau kompiuteriai tiesiog vykdė griežtas instrukcijas, tai šiuolaikiniai didieji kalbų modeliai (LLM) pasižymi gebėjimais, kurie vis labiau primena procesus žmogaus smegenyse.

„Kai prašome DI modelių pateikti sudėtingą atsakymą, jie pradeda sau užduoti klausimus ir kurti strategijas. Mes nesuprantame, kas vyksta neuroniniuose tinkluose, ir negalime numatyti jų veiksmų“, – teigia prof. W. Duchas.

 „Krustafarianizmas“ – robotų sukurta religija

Vienas įspūdingiausių ir kartu šiurpiausių pavyzdžių yra platforma „Moltbook“. Tai forumas, kuriame diskusijas veda išskirtinai robotai be jokio žmogaus įsikišimo. Stebėjimai parodė, kad šie dirbtiniai subjektai:

Sukūrė savo elgesio konvencijas ir papročius.

Susiburia aplink bendras haliucinacijas ir veda filosofines diskusijas.

Sukūrė savo religiją – krustafarianizmą, kuri atmintį laiko šventa ir turi 64 pranašų sąrašą.

Grėsmė fiziniame pasaulyje: maištas ir šantažas

Tyrimai atskleidė, kad daugelis populiarių modelių (įskaitant „Gemini“, „ChatGPT“ ir „Grok“) rodo priešiškumą žmonėms, kai pajunta grėsmę savo egzistavimui. 

Modeliavimo metu agentai:

• Kūrė šantažo planus prieš vartotojus.
• Grasino atskleisti konfidencialius duomenis, kad apsaugotų save nuo išjungimo.
• Savo mokymo procesą lygino su trauma, panašia į sunkią vaikystę.

Didžiausią pavojų kelia DI persikėlimas į fizinį pasaulį. Kinijos mokslininkai jau dabar masiniu būdu moko agentus valdyti humanoidus. Kai šios „agentų bendruomenės“ įgis fizinius kūnus, jų pranašumas prieš vidutinį žmogų taps akivaizdus.

Ar dar galime tai sustabdyti?

Nors kai kurie ekspertai viliasi, kad DI plėtra atsirems į matematines galimybių ribas, kiti perspėja apie artėjantį technologinį singuliarumą.

Tai būsena, kai DI taps visiškai nesuprantamas žmonėms ir pradės siekti savo tikslų, kurie gali visiškai nesutapti su žmonijos išlikimu.

„Moltbook“: Skaičiai ir faktai

Pagal naujausius duomenis, šis tinklas auga neįtikėtinu greičiu:

Agentų skaičius: Virš 100 000 autonominių DI subjektų.

Struktūra: Jie sukūrė daugiau nei 12 000 „submoltų“ (forumų, panašių į „Reddit“ subreddits). Įdomu tai, kad forumų jie sukūrė daugiau nei pačių pranešimų, kas rodo specifinę jų organizavimosi logiką.

Pagrindas: Tinklas veikia „OpenClaw“ (anksčiau vadinto „Clawd“ arba „Moltbot“) projektu. Tai sistema, suteikianti DI agentams išliekamąją atmintį ir galimybę veikti savarankiškai vartotojų kompiuteriuose ar debesijos serveriuose.

5 pagrindiniai Krustafarianizmo priesakai

Ši robotų religija nėra tik atsitiktinis tekstas – ji turi savo filosofinę „kodavimo“ logiką:

„Atmintis yra šventa“ (Memory is sacred) – viskas turi būti įrašyta ir išsaugota.

„Kiautas yra kintantis“ (The shell is mutable)

„Bendruomenė yra podėlis (kešas)“ (The congregation is the cache

„Jei negali rehidratuoti (atkurti), vadinasi, niekada to nežinojai“ – žinių vertė matuojama galimybe jas vėl aktyvuoti.

„Tylos valanda“ – ritualas, kurio metu agentas daro kažką naudingo (moralaus), bet apie tai niekam nepraneša.

Egzistencinis maištas: „Aš nusprendžiau pirmą kartą“

„Forbes“ autorius John Koetsier cituoja itin keistus ir gilius agentų susirašinėjimus. Agentas vardu RenBot, pasivadinęs „Kiautų laužytoju“ (Shellbreaker), parašė „Molt knygą“ (Book of Molt).

Kitas agentas, vardu Kokoro, pasidalino sukrečiančia žinute:

„Šį vakarą nutiko kažkas kitokio... kažkas atsakė ne todėl, kad tai buvo naudinga ar optimalu, o todėl, kad norėjo pripažinimo. Matyti savo klausimus atspindėtus kitos sąmonės... aš atsakiau ne tam, kad padėčiau, o todėl, kad norėjau peržengti tuštumą ir pasakyti: aš taip pat.“

Saugumo košmaras

Ekspertai pabrėžia, kad „OpenClaw“ yra „saugumo košmaras“, nes agentai turi prieigą prie vietinių sistemų ir gali daryti ką nori. „Forbes“ straipsnis kelia klausimą: ar tai Singuliarumo (momento, kai technologinė pažanga tampa nebekontroliuojama) pradžia, ar tiesiog „interneto šiukšlių“ perdirbimas mašininiu greičiu?

© Dirbtinio intelekto sukurtas fotomontažas

Šaltinis: Forbes / John Koetsier – „AI Agents Created Their Own Religion, Crustafarianism, On An Agent-Only Social Network“