Gąsdinantis mokslininkų pareiškimas – būtų neįmanoma kontroliuoti superprotingo dirbtinio Intelekto (6)

Jau dabar mašinos mokosi pačios ir programuotojai nežino kaip jos tai padarė. Europos aukštųjų mokslinių tyrimų įstaigos „Max Planck Society“ mokslininkai teigia, kad žmonija niekada negalės kontroliuoti itin protingo dirbtinio intelekto, kuris galėtų išgelbėti arba sunaikinti žmoniją.

Tai rodo tyrimai, paskelbti „Journal of Artificial Intelligence Research“. Maxo Plancko mokslininkų teigimu, problema yra ta, kad jokiu būdu negalima sukurti tokio algoritmo be technologijos, kuri būtų kur kas pažangesnė už tą, kurią galime sukurti šiandien.

Komanda daugiausia dėmesio skyrė santūrumo klausimui. Jei visagalis algoritmas kažkaip nuspręstų, kad jis turėtų pakenkti žmonėms arba apskritai sunaikinti žmoniją, kaip mes jį sustabdytume?

Jie siūlo sukurti tam tikrą „sulaikymo algoritmą“, kuris imituoja pavojingo algoritmo elgesį ir neleidžia jam daryti nieko kenksmingo, tačiau kadangi sulaikymo algoritmas turėtų būti toks pat galingas, kaip ir pavojingasis, mokslininkai paskelbė, kad problemos išspręsti neįmanoma.

Visa tai yra teorinė diskusija. Pakankamai pažengęs intelektas, kuris keltų grėsmę žmonijai, tikriausiai dar toli, tačiau tai, yra puiki tema iš anksto diskutuoti – mes norėtume sužinoti apie pavojų dar prieš jam įvykstant.

„Itin intelektuali mašina, valdanti pasaulį, skamba kaip mokslinė fantastika“, – pranešime spaudai sakė tyrimo bendraautorius Maxo Plancko žmogaus vystymosi instituto Žmonių ir mašinų centro skaitmeninės mobilizacijos grupės vadovas Manuelis Cebrianas.

„Tačiau jau yra mašinų, kurios tam tikras svarbias užduotis atlieka savarankiškai, programuotojams visiškai nesuprantant, kaip jos to išmoko.

Todėl kyla klausimas, ar tai tam tikru momentu gali tapti nevaldoma ir pavojinga žmonijai“.

 

Juokinga kai rašo : mes norim sužinoti ir užkirsti kelią pavojui prieš jam įvykstant. Na iš neseniai įvykusių įvykių ir istorijos, nesunku padaryti išvadą, kad net ir žinodami apie pavojų iš anksto - visvien susimaunam totaliai bandant jį kontroliuoti. Taigi, susitaikykit su neišvengiama ateitimi ir realybe.
Svečias, 2021-10-19 14:37
Skynetas. Tuoj bus kaip per filma terminatorius 🤣🤣🤣🤣
Andrius, 2021-10-18 18:57
Kad skradytų bepilociai aukštai ir patys nusprestų i ka paleist raketa. Pavizdziui jei žmogus turi rankoj kalašnikova. Aišku kad priešas. Arba susirenka minia kelia riaušes. Ar itartinai priartėja prie valstybes sienos
Pirmiausia intelektualus ginklai., 2021-10-18 13:13
Sidebar placeholder