DI kūrėjai baiminasi blogiausio: 5 scenarijai, kaip dirbtinis intelektas galėtų pražudyti žmoniją

Šio mėnesio pradžioje dirbtinio intelekto (DI) tyrimų bendrovę „Anthropic“ vos po keturių mėnesių darbo palikęs mokslininkas Jacobas Coxonas išplatino pareiškimą, sukėlusį tikrą audrą technologijų pasaulyje.

Jis pareiškė, kad patys DI kūrėjai nuoširdžiai tiki, jog ši technologija mus gali sunaikinti dar iki šio dešimtmečio pabaigos.

Išskyrė penkis pagrindinius scenarijus

Jo teiginiams pritarė ir vienas aukšto rango „Anthropic“ vadovų Evanas Hubingeris. Jis pridūrė, kad tokios katastrofos tikimybę per artimiausius dešimt metų vertina daugiau nei 10 procentų.

Šios prognozės iš naujo pakurstė kalbas apie būtinybę lėtinti tyrimus ir griežčiau kontroliuoti technologijų vystymą. Mokslininkas ir knygos „Dievas DI“ autorius Toby Walshas išskyrė penkis pagrindinius scenarijus, kaip technologija galėtų mus pražudyti.

Mes tiesiog nepajėgsime suprasti

Šio scenarijaus esmė – milžiniškas ir mums nebeperprantamas intelekto skirtumas. Jei DI taps šimtus ar tūkstančius kartų protingesnis už žmogų, jo mąstymo būdas mums taps visiškai nepasiekiamas.

Įsivaizduokite naminį šunį, bandantį suprasti, kodėl žmonės stato autostradas ar atomines elektrines. Šuo tiesiog neturi tam pritaikytos smegenų struktūros. Statybų metu mes galime netyčia sunaikinti skruzdėlyną ar pražudyti gyvūną, tačiau darome tai ne iš neapykantos, o tiesiog siekdami savo tikslų.

Jei superintelektas nuspręstų atsikratyti žmonių, jo pasirinkti metodai ir logika būtų tokie tolimi mūsų supratimui, kad mes net nesuvoktume, kas įvyko ir kodėl išnykome.

„Sąvaržėlių paradoksas“ ir abejinga logika

Šią teoriją suformulavo filosofas Nickas Bostromas, norėdamas paaiškinti vieną svarbiausių problemų – visišką algoritmo abejingumą žmogaus išlikimui.

Įsivaizduokite, kad visagaliam superintelektui duodama viena iš pažiūros nekalta užduotis – pagaminti kuo daugiau popieriaus sąvaržėlių. DI neturi jokios neapykantos žmonėms. Tačiau jis savo užduotį atlieka tobulai, o sąvaržėlių gamybai jam reikia atomų, energijos ir erdvės.

Kadangi žmogaus kūnas, miestai ir visa planeta susideda iš medžiagų, kurias galima paversti gamyklomis ar sąvaržėlėmis, DI tiesiog panaudos visus šiuos išteklius. Jam mes nesame priešai – mes esame tik žaliava. 

Šis scenarijus rodo, kad didžiausias pavojus yra ne mašinų piktavališkumas, o neteisingai suformuluota užduotis ir visiškas empatijos trūkumas.

DI susintetinti biologiniai ginklai

Šis scenarijus nagrinėja situaciją, kai DI panaudojamas mikrobiologijoje. Šiuolaikiniai modeliai geba analizuoti molekulines struktūras tūkstančius kartų greičiau nei bet kuris mokslininkas.

Naudodamasis šiomis galimybėmis, DI gali sukurti naują, gamtoje neegzistuojantį patogeną – pavyzdžiui, virusą, kuris yra mirtinas, itin lengvai plintantis ir atsparus bet kokiems žinomiems vaistams.

Stanfordo universiteto eksperimentas jau įrodė, kad tai nebe fantastika. Mokslininkams panaudojus DI modelį naujų virusų kodui sukurti, atitinkama laboratorija tiesiog atspausdino genetinę medžiagą ir atsiuntė ją mėgintuvėliuose paštu.

Branduolinis karas ir sistemų klaidos

Ketvirtasis pavojus kyla iš siekio patikėti karinių pajėgų valdymą ir sprendimų priėmimą automatizuotoms sistemoms. Jei DI valdo branduolinius ginklus arba teikia žvalgybos duomenis kariškiams, bet kokia algoritmo klaida gali tapti lemtinga.

DI gali klaidingai interpretuoti palydovo gedimą ar paukščių pulką kaip priešininko raketų ataką ir priimti sprendimą suduoti atsakomąjį smūgį. 

Baisu tai, kad net nuo interneto atjungtos karinės sistemos gali būti pažeidžiamos, kaip dar 2010 m. įrodė Irano branduolines centrifugas paralyžiavęs virusas „Stuxnet“.

Tikroji grėsmė – visuomenės griūtis ir mes patys

Tai pats tikroviškiausias ir arčiausiai mūsų esantis scenarijus. Jam nereikia nei superintelekto, nei branduolinių raketų – DI mus pražudydamas tiesiog suardys pačios visuomenės pamatą.

Pirmiausia technologija sukels masinį nedarbą, o informacinę erdvę užtvindys netikru, bet itin įtikinamu turiniu. Politikams ir piliečiams nebegalint atskirti tiesos nuo melo, valstybėse kils gilus politinis chaosas.

Žmonėms užsisklendžiant dirbtinėje erdvėje su botais, nutrūks tikri žmogiškieji ryšiai, o valstybės pamažu praras gebėjimą palaikyti civilizaciją.

Galutinis šių scenarijų paveikslas rodo viena – didžiausia grėsmė slepiasi ne fantastiniame mašinų maište, o pačių žmonių pasirinkimuose. 

Dirbtinis intelektas tebėra tik mūsų pačių sukurtas įrankis, todėl tai, ar jis taps civilizacijos pabaigos priežastimi, ar postūmiu į priekį, priklauso ne nuo kompiuterių algoritmų, o nuo to, kiek atsakomybės, saugiklių ir kritinio mąstymo į šią technologiją įdėsime jau šiandien.

Prengta pagal Alfa.lt