Dirbtinis intelektas gali sunaikinti žmoniją per 10 metų: kūrėjas padarė nerimą keliančią išvadą

Apie tai rašo Сyfrowа.

AI pionierius, Monrealio universiteto profesorius, atvirai pareiškė, kad bijo egzistencinės šios technologijos grėsmės.

Superprotingų mašinų grėsmė

Bengio nerimas grindžiamas eksperimentiniais rezultatais, modeliuojančiais superprotingų mašinų elgesį. Jos gali turėti savo pavojingus tikslus, pavyzdžiui, išlikimą ir tobulėjimą.

„Jei mes kuriame mašinas, kurios yra daug protingesnės už mus ir turi savo išlikimo tikslus, tai yra pavojinga“, – pažymi mokslininkas.

Pasak jo, simuliacijos rodo, kad susidūrusi su dilema (pasiekti tikslą ar išgelbėti žmogaus gyvybę), AI gali be dvejonių pasirinkti pirmąjį variantą. 

Ši niūri perspektyva tampa vis realistiškesnė, atsižvelgiant į spartėjančią technologijų varžybas. 

Ypač tai pasakytina apie naujų galingų modelių išleidimą iš „OpenAI“, „Google Gemini“, „Anthropic“ ir Elono Musko „xAI“.

Bengio jau seniai įspėjo, kad žmonija artėja prie „konkurento, kuris yra protingesnis už mus“ sukūrimo. 

Toks superintelektas galės daryti įtaką žmonėms įtikinėjimais, grasinimais ar pažangiais visuomenės nuomonės manipuliacijomis. 

Be to, AI gali būti naudojamas teroristų biologinių ginklų kūrimui ar demokratijos destabilizavimui.

Šaltinis: tsn.ua