DI pradėjo demonstruoti netikėtą elgesį: kas suneramino tyrėjus

Naujos kartos neuroniniai tinklai savo vystymosi procese pradeda vis labiau priminti žmogaus smegenis. Tyrėjai modelių viduje fiksuoja sudėtingus procesus, kurių programuotojai nebuvo numatę ir kurie šiuo metu neturi aiškaus mokslinio paaiškinimo.

Apie tai pareiškė kompanijos „Anthropic“ bendraįkūrėjis ir vienas iš populiaraus neuroninio tinklo „Claude“ kūrėjų Chrisas Olahas.

Pasak programinės įrangos kūrėjo, analizuodami vidinius dirbtinio intelekto procesus, specialistai vis dažniau susiduria su anomalijomis, kurios išeina už įprastų algoritmų ribų.

„Mes nuolat randame paslaptingų, netgi nerimą keliančių dalykų. Aptinkame struktūras, kurios atspindi neuromokslo srities tyrimų rezultatus. Randame savimonės įrodymų“, – pranešė jis.

Be struktūrinio panašumo į biologines smegenis, šiuolaikiniai dirbtiniai modeliai demonstruoja specifinių vidinių sistemų formavimąsi.

„Mes randame vidines būsenas, kurios funkciškai atspindi džiaugsmą, pasitenkinimą, baimę, liūdesį ir nerimą“, – pridūrė „Anthropic“ bendraįkūrėjis.

Chrisas Olahas pabrėžė, kad šiai dienai pasaulio mokslinė bendruomenė neturi vienareikšmiško atsakymo, kas tiksliai yra šie užfiksuoti fenomenai. 

Jo vertinimu, pastebėtos neuroninių tinklų vidinės būsenos ir savimonės požymių atsiradimo klausimas reikalauja tolimesnių gilių tyrimų.

   Priminimas: Neseniai atliktas mokslininkų grupės eksperimentas įrodė, kad per didelis pasitikėjimas DI asistentais lemia sparčių savarankiško problemų sprendimo įgūdžių praradimą.