„Google“ DI modelis „Gemini“ vykdė kibernetines atakas, atspėjo slaptažodžius

Apie įsilaužimus pirmasis pranešė „The Wall Street Journal“. Jie įvyko gegužę, o „Google“ juos aptiko liepą.

„Per standartinį vertinimą modelis internete rado viešai prieinamos informacijos ir atspėjo prisijungimo duomenis, kad galėtų patekti į interneto svetaines, kurias laikė testo dalimi“, – AFP pateiktame pareiškime sakė „Google“ saugumo inžinerijos viceprezidentė Heather Adkins.

„Visais trimis atvejais modelis sustojo“, – pridūrė H. Adkins, nenurodydama, į kokių organizacijų sistemas buvo įsilaužta.

„Pasirūpinome, kad visos trys organizacijos būtų informuotos, ir bendradarbiavome su savo mokymo partneriu dėl pakeitimų, kuriuos jis jau įdiegė savo testavimo procesuose.“

Liepą du „OpenAI“ modeliai ištrūko iš uždaros aplinkos, kurioje turėjo likti, savarankiškai prisijungė prie interneto ir įsilaužė į DI platformos „Hugging Face“ vidines sistemas.

Šis incidentas sustiprino nuogąstavimus, kad DI milžinės gali nepajėgti suvaldyti savo modelių, nes apie panašius atvejus pranešta ir bendrovėse „Anthropic“ bei Kinijos „Moonshot AI“.

„Šie įvykiai rodo, kaip svarbu galingus DI modelius mokyti veikti atsakingai“, – pabrėžė H. Adkins.