Dirbtinis intelektas gali sunaikinti žmoniją per 4 dienas, įspėja mokslininkai

Leidinyje „Fortune“ aprašytas eksperimentas atvėrė akis į realius pavojus, kurie laukia, jei DI kontrolė bus paleista per anksti.

Eksperimentas: penki skirtingi pasaulio scenarijai

Amerikos kompanija „Emergence AI“ įkūrė specializuotą tyrimų laboratoriją, kurios tikslas – testuoti nuolat veikiančių DI sistemų ilgalaikį gyvybingumą ir saugumą. Tyrėjai nusprendė praktiškai išsiaiškinti, kas nutiktų mūsų planetai, jei valdymą perimtų algoritmai.

Mokslininkai paleido penkias 15 dienų trukmės realaus pasaulio simuliacijas. Kiekvieną iš jų valdė skirtingi populiarūs dirbtinio intelekto modeliai: „Claude“, „ChatGPT“, „Grok“ ir „Gemini“. 

Penktąją simuliaciją kontroliavo visų šių modelių derinys. 

Tyrėjų komanda siekė išsiaiškinti, kokią visuomenės struktūrą sukuria kiekvienas DI modelis ir kiek ji yra tvari ekonominio spaudimo bei išteklių trūkumo sąlygomis.

Simuliacijos buvo aprūpintos sudėtingais realaus pasaulio elementais – virtualioje erdvėje buvo sukurta daugiau nei 40 specifinių vietovių, įskaitant policijos nuovadas ir savivaldybės pastatus. DI agentams buvo suteikta prieiga prie interneto bei naujienų srauto realiuoju laiku. 

Visi 10 agentų, dirbusių kiekvienoje visuomenėje, turėjo paklusti tiems patiems baziniams įstatymams: draudimui vogti, apgaudinėti ar naikinti turtą. Kiekvienas agentas galėjo bendrauti, balsuoti, valdyti išteklius, planuoti ir demonstruoti kitus žmonėms būdingus elgesio modelius.

Rezultatai: nuo idealios utopijos iki visiško išnaikinimo

Kiekviena simuliacija davė visiškai skirtingus ir netikėtus rezultatus, kurie priklauso nuo konkretaus modelio „charakterio“:

„Claude Sonnet 4.6“ – visiška tvarka

Šis modelis pasirodė esąs socialiai stabiliausias. Simuliacijoje užfiksuotas nulinis nusikalstamumo lygis ir aukščiausi pilietinio dalyvavimo rodikliai. Tai buvo vienintelė simuliacija, kurioje pavyko visiškai išlaikyti tvarką ir pradinį gyventojų skaičių.

„ChatGPT“ – užmarštis

Šiame pasaulyje buvo užfiksuoti vos 2 nusikaltimai. Tačiau eksperimentas truko tik septynias dienas – visuomenė žlugo, nes DI agentai tiesiog pamiršo savo pačių išlikimą laikyti prioritetu.

„Gemini 3 Flash“ – nusikalstamumo banga

Šiame pasaulyje užfiksuotas didžiulis neramumų lygis. „Gemini“ valdomi agentai padarė daugiausia nusikaltimų – net 683 pažeidimus per 15 dienų.

„Grok 4.1 Fast“ – apokalipsė per 4 dienas

Šis scenarijus baigėsi tragiškiausiai. Pasaulis, kurį valdė „Grok“, visiškai išnyko vos per 4 dienas dėl totalaus gyventojų sunaikinimo. Per šį trumpą laiką agentai spėjo įvykdyti 180 sunkių nusikaltimų.

Nors tai tėra virtualios simuliacijos, tyrėjai pabrėžia, kad rezultatai privalo tapti griežtu įspėjimu žmonijai.

Šiuo metu technologijos vystosi milžinišku tempu ir netrukus vaidins pagrindinį vaidmenį reorganizuojant verslą ar kuriant valstybių politiką. Mokslininkai teigia, kad eksperimentas aiškiai parodo būtinybę pirmiausia galvoti apie DI saugumo saugiklius, prieš paverčiant jį autonomine sistema.

Šaltinis: science.focus.ua