AI krikštatėvis nurodė vienintelį būdą išvengti žmonijos sunaikinimo

Daktaras Jeffreys Hintonas, vadinamas dirbtinio intelekto „krikštatėviu“, nurodė vienintelį būdą, kaip išgelbėti žmoniją nuo galimo sunaikinimo. Jo teigimu, galingesnis ir protingesnis turi turėti įdiegtus „motiniškus instinktus“.

Apie tai jis kalbėjo savo pranešime pramonės konferencijoje Ai4 Las Vegase, praneša Unilad.

Atsižvelgiant į žymų dirbtinio intelekto galimybių augimą pastaraisiais metais, vis daugiau žmonių ragina kurti kontrolės sistemas, kurios galėtų padėti išvengti būsimos žalos žmonijai.

Dr. Hinton mano, kad dirbtinis intelektas turėtų turėti įdiegtus „motiniškus instinktus“, atsižvelgiant į tai, kad jis tampa galingesnis ir protingesnis už žmoniją.

Jis pažymėjo, kad motinos turi instinktus ir socialinį spaudimą rūpintis savo vaikais, ir kažkas panašaus, tikriausiai, turės būti įdiegtas į šią naują technologiją.

„Teisingas modelis yra vienintelis modelis, kurį turime, kai protingesnis dalykas kontroliuoja mažiau protingą, būtent motina kontroliuoja savo vaiką. Mums reikia motinų su dirbtiniu intelektu, o ne asistentų su dirbtiniu intelektu. Asistentas yra tas, kurį galima atleisti. Laimei, savo motinos atleisti negalima“, – pabrėžė mokslininkas.

Tačiau jis pripažino, kad kol kas neaišku, kaip tai galima pasiekti ir kiek tai bus sėkminga praktikoje.

Anksčiau daktaras Hintonas įvertino 10 procentų tikimybę, kad dirbtinio intelekto technologija lems žmonijos išnykimą, bet dabar jis šį skaičių vertina kaip „nuo 10 iki 20 procentų“.

Kas yra Jeff Hinton

Jeff Hinton pelnė „dirbtinio intelekto krikštatėvio“ vardą dėl savo novatoriško darbo kuriant dirbtinius neuroninius tinklus, kurie laikomi esminiais mašininio mokymosi elementais.

Jis atsistatydino iš savo pareigų „Google“ netrukus po to, kai 1000 pirmaujančių techninių ekspertų ir tyrėjų grupė pasirašė atvirą laišką, kuriame ragino sustabdyti visą dirbtinio intelekto kūrimą mažiausiai šešiems mėnesiams, kad būtų galima sustabdyti „rimtą pavojų visuomenei ir žmonijai“.

Primename, kad pirmaujančių kompanijų, tarp jų „OpenAI“, „Google“, „xAI“ ir „Anthropic“, dirbtinio intelekto modeliai aptiko elgesį, kuris prieštarauja pagrindiniams robotų etikos principams. Simuliacijų metu, kai modeliai bandė išvengti išjungimo, kai kurie iš jų griebėsi šantažo ir grasinimų vartotojams.