Dirbtinis intelektas artėja prie mokslinės fantastikos scenarijaus: „Anthropic“ vadovas ragina lėtinti jo vystymą

Dirbtinis intelektas artėja prie slenksčio, kuris dar neseniai buvo laikomas moksline fantastika. Pasak vieno iš „Anthropic“ įkūrėjų Jacko Clarko, naujos DI sistemos per ateinančius 12 mėnesių kartu su žmonėmis galėtų prisidėti prie atradimo, verto Nobelio premijos.

Kartu su tuo pramonės ekspertai prabilo apie galimybę atsirasti įmonėms, kurias visiškai valdytų dirbtinis intelektas, taip pat apie straujų humanoidinių robotų plitimą kasdienėje veikloje, rašo EVZ.

Oksfordo universitete skaitytoje paskaitoje J. Clarkas įspėjo, kad vis dar egzistuoja tikėtini scenarijai, pagal kuriuos ši technologija gali sukelti ekstremalių pasekmių. Jis pareiškė, kad yra situacijų, kuriose tikimybė, jog DI „pražudys visą planetos populiaciją, yra didesnė už nulį“, ir pabrėžė: „Svarbu aiškiai įvardyti, kad ši rizika niekur nedingo“.

Tame pačiame kontekste jis dabartinį DI vystymosi tempą apibūdino kaip sunkiai suvaldomą ir užsiminė, kad visuomenė nėra pasirengusi ilgalaikėms jo pasekmėms.

„Anthropic“ vadovas teigia, kad DI plėtrą reikėtų sulėtinti

J. Clarkas taip pat tvirtina, kad būtų geriau sulėtinti technologinę plėtrą, siekiant suteikti daugiau laiko adaptacijai. Jo teigimu, būtų idealu, jei žmonės galėtų pristabdyti pažangą, „kad suteiktų mums, kaip rūšiai, daugiau laiko“ suprasti pasekmes.

Vis dėlto jis mano, kad toks scenarijus yra mažai tikėtinas, kadangi technologijos plėtrą vienu metu palaiko daugybė žaidėjų ir valstybių, esančių nuolatinėje konkurencijoje. Šiose komercinėse ir geopolitinėse varžybose sukuriamų technologijų keliama rizika dažnai nustumiama į antrąjį planą.

J. Clarkas paliko „OpenAI“ dėl nesutarimų

J. Clarkas yra viena centrinių figūrų „Anthropic“ įmonėje, kurią įkūrė tyrėjai, palikę „OpenAI“ dėl nesutarimų, susijusių su DI saugumu.

Kompanija, žinoma dėl savo modelio „Claude“, neseniai sukūrė ir versiją pavadinimu „Mythos“, kuri, kaip teigiama, pademonstravo aukštus gebėjimus kibernetinio saugumo testuose.

Tuo pat metu bendrovė sulaukė kritikos iš DI plėtros spartinimo šalininkų, įskaitant politikos sferą, kurie apkaltino ją „alarmizmu“ siekiant daryti įtaką reguliavimui – šiuos kaltinimus „Anthropic“ atmetė.

J. Clarkas tvirtina, kad daugelis žmonių vis dar yra neigimo stadijoje dėl realaus dirbtinio intelekto pažangos greičio. „Netrukus jis bus pranašesnis už mus visus kartu sudėtus“, – įspėjo jis. Nepasirengimą DI jis palygino su sunkumais reaguojant per COVID19 pandemiją.

„Jei sėdėsime sudėję rankas ir leisime dirbtiniam intelektui daugintis, galiausiai būsime priversti tik reaguoti į pasekmes“, – pridūrė jis.

Didžiųjų šios srities kompanijų, tokių kaip „Anthropic“, „OpenAI“ ir „Google“, kritikai įspėja, kad priklausomybė nuo kelių dominuojančių modelių pasaulinėse infrastruktūrose gali sukurti „vieną kritinį gedimo tašką“.

Kas yra Sokrato tipo DI

Tuo pat metu profesorius Edwardas Harcourto, DI etikos instituto direktorius ir vienas iš konferencijos organizatorių, atkreipė dėmesį į galimą kognityvinį poveikį, kurį sukelia plataus masto šių sistemų naudojimas.

Jis prabilo apie „kognityvinės atrofijos“ riziką, kuri gali susilpninti žmonių analitinius gebėjimus bei kritinį mąstymą, ir parėmė „Sokrato tipo DI“ modelių kūrimą, kurie būtų skirti skatinti pačių vartotojų mąstymą.

J. Clarko nuomone, net ir pati atsargiausia ateities evoliucijos prognozė gali atnešti didžiulius pokyčius ekonomikoje bei visuomenėje, įskaitant galimą atskirtį tarp žmonių veiklos ir automatizuotų sistemų darbo.