Mašinų sukilimas operacinėse: AI sistemos „TruDi“ sukeltas skandalas

Kas yra „TruDi“ sistema?

Tai navigacinė sistema su AI elementais, skirta padėti gydytojams atlikti tikslias nosies operacijas. 

2021 m. ji buvo pristatyta kaip esminis proveržis, tačiau praktika parodė ką kita:

Gedimai: FDA gavo apie 100 pranešimų apie galimus įrangos trikdžius.

Klaidos: Pagrindinė ieškovų pretenzija – sistema netinkamai rodydavo chirurginių instrumentų padėtį, taip klaidindama medikus kritinių procedūrų metu.

Tragiškos pasekmės pacientams

Nors gamintojai neigia tiesioginį ryšį, teismą pasiekę skundai mini šiurpius sužalojimus:

Insultai: Mažiausiai du atvejai, kai dėl miego arterijos pažeidimų pacientai patyrė insultą.

Fizinės traumos: Pažeisti kaukolės pagrindai, smegenų edemos, nugaros smegenų skysčio nuotėkis per nosį.

Skubios operacijos: Vienu atveju pacientei teko pašalinti dalį kaukolės kaulo, kad būtų sumažintas spaudimas smegenyse.

AI medicinoje: platesnė problema

„TruDi“ nėra vienintelė sistema, sukėlusi pavojų. Tyrimai rodo sistemines spragas:

Net 60 medicininių prietaisų su AI buvo atšaukti 182 kartus po to, kai FDA jau buvo juos patvirtinusi.

Kiti incidentai: AI širdies monitoriai neatpažino gyvybei pavojingų ritmų, o ultragarso sistemos klaidingai interpretavo vaisiaus vystymąsi.

Svarbi detalė: Dabartinė technologijos savininkė „Integra LifeSciences“ (įsigijusi ją 2024 m.) pabrėžia, kad kol kas nėra įtikinamų įrodymų, jog būtent sistema tiesiogiai sužalojo žmones, o ne chirurgo veiksmai ar kitos aplinkybės.