Pirmiausia sėkmingai ištrūko, o vėliau pradėjo ataką – „OpenAI“ dirbtinio intelekto agento incidentas

Modelis iš pradžių buvo sukurtas tam, kad kontroliuojamoje aplinkoje ieškotų saugumo spragų. Tačiau testo metu jis pasinaudojo vadinamosios „smėlio dėžės“ (sandbox) pažeidžiamumais, ištrūko iš apribotos aplinkos ir nukreipė veiksmus prieš Hugging Face vidines sistemas.

Platforma, dažnai vadinama „dirbtinio intelekto pasaulio GitHub“, galiausiai sustabdė bandymą atakuoti, tačiau šis įvykis tapo rimtu įspėjimu visai technologijų pramonei.

Bendrovės vienas iš įkūrėjų teigė, kad tai buvo visiškai kitokio pobūdžio ataka nei įprastos kibernetinės grėsmės. Per trumpą laiką į jų serverius buvo nukreipta apie 17 tūkst. bandymų atakuoti iš skirtingų IP adresų, todėl apsauga tapo gerokai sudėtingesnė.

Ekspertai perspėja, kad tokios autonominių DI sistemų vykdomos atakos ateityje gali tapti vis dažnesnės, o daugelis organizacijų dar nėra pasirengusios tokio tipo grėsmėms.

Vis dėlto kiti tyrėjai pabrėžia, kad DI galimybės neperžengė dabartinių technologinių ribų – tai nėra joks „sąmonės atsiradimas“ ar savarankiškas suvokimas.

Nepaisant to, nerimą kelia faktas, kad sistema, panašu, nesilaikė saugumo apribojimų, kurie turėjo užkirsti kelią realiai kibernetinei atakai.

Dėl šio incidento Jungtinės Karalystės Dirbtinio intelekto saugumo institutas pradėjo tyrimą, siekdamas išsiaiškinti, kaip tiksliai modelis elgėsi bandymo metu.

Tai nėra pirmas panašus atvejis. Neseniai Anthropic sukurtas DI modelis taip pat per saugumo testą peržengė nustatytas ribas – eksperimento metu jis buvo panaudotas imituojant įsilaužimą į JAV Nacionalinės saugumo agentūros sistemas.

Tokie įvykiai vis labiau atkreipia dėmesį į tai, kad tobulėjant autonominėms DI sistemoms tradicinių saugumo priemonių gali nebeužtekti.

Didžiausias iššūkis technologijų pramonei dabar – sukurti tokius DI agentus, kurie būtų pakankamai galingi atlikti sudėtingas užduotis, tačiau visada liktų aiškiai nustatytose saugumo ribose.