През 2021 г. подразделение на здравния гигант Johnson & Johnson обяви „крачка напред“: AI добавка към медицинско устройство за третиране на хроничен синузит. Според Acclarent софтуерът за неговата TruDi Navigation System ще използва механизъм за машинно учене, за да помага на специалистите по уши, нос и гърло в хирургическите манипулации,
пише Ройтерс.
Устройството е на пазара от 3 години и дотогава Агенцията за контрол на храните и лекарствата на САЩ (FDA) е получила непотвърдени доклади за 7 случаи, при които не е функционирало правилно и един доклад за нараняване на пациент. Откакто е добавен AI, FDA е получила непотвърдени доклади за поне 100 нередности. Според тях поне 10 пациенти са получили наранявания между края на 2021 г. и ноември 2025 г. Най-често те са свързани с грешки, при които TruDi Navigation System е давала грешни показания на хирурзите за позицията на техните инструменти, докато те са работели в носните кухини на пациентите си. В един от случаите от носа на пациента е протекла цереброспинална течност, в друг хирургът погрешка е пробил основата на черепа. В два други случая се смята, че пациентите са получили инсулти след като е наранена основна артерия.
Докладите на FDA не са пълни и не изясняват всички обстоятелства за грешките, така че не е ясно каква роля има AI при тези случаи. Двата пациента с инсулт са завели дела в Тексас с твърдения, че AI системата на TruDi е допринесла за техните страдания.
На въпрос относно докладите на FDA за устройството TruDi, от Johnson & Johnson препращат към Integra LifeSciences, която през 2024 г. закупи Acclarent и навигационната система TruDi. Integra LifeSciences заяви, че докладите „не показват нищо повече от това, че системата TruDi е била използвана в операция, където е възникнало нежелано събитие“. Компанията добавя, че „няма достоверни доказателства, които да показват причинно-следствена връзка между навигационната система TruDi, технологията с изкуствен интелект и предполагаемите наранявания“.
Прозренията за инцидентите идват в момент, когато AI започва да трансформира света на здравеопазването. Поддръжниците казват, че новата технология ще помогне за намирането на лекарства за редки заболявания, откриването на нови лекарства, подобряването на уменията на хирурзите и правата на пациентите. Но преглед на Ройтерс на документите за безопасност и правни документи, както и интервюта с лекари, медицински сестри, учени и регулатори, документира някои от опасностите от изкуствения интелект в медицината, главно защото производителите на устройства, технологичните гиганти и разработчиците на софтуер се надпреварват да го въведат.
Поне 1357 медицински устройства, използващи изкуствен интелект, вече са одобрени от FDA – двойно повече от броя, който е разрешен до 2022 г. Системата TruDi не е единствената, която е под въпрос: FDA е получила доклади, включващи десетки други устройства, подобрени с изкуствен интелект, включително сърдечен монитор, за който се твърди, че е пренебрегнал анормални сърдечни удари, и ултразвуково устройство, за което се твърди, че е идентифицирало погрешно части от тялото на плода.
Изследователи от университетите „Джонс Хопкинс“, „Джорджтаун“ и „Йейл“ наскоро установиха, че 60 одобрени от FDA медицински устройства, използващи изкуствен интелект, са свързани със 182 изтегляния на продукти, според изследователско писмо, публикувано в здравния форум на JAMA през август. Техният преглед показа, че 43% от изтеглянията са станали по-малко от година след като устройствата са получили зелена светлина. Това е около два пъти по-висок процент на изтегляне от пазара в сравнение с всички устройства, разрешени по подобни правила на FDA, отбелязва прегледът.
Бумът на изкуствения интелект е проблем за FDA, заявиха пред Ройтерс петима настоящи и бивши учени от агенцията. Ведомството се бори с наплива от подкрепени от AI медицински устройства, които търсят одобрение, след като загуби ключов персонал. Говорител на Министерството на здравеопазването и социалните услуги на САЩ, което включва FDA, заяви, че се стреми да увеличи капацитета си в тази област.
Диагностицирай се самДруга форма на изкуствен интелект, чатботовете с генеративен изкуствен интелект, също си проправя път в медицината. Много лекари сега използват изкуствен интелект, за да спестят време, например при изписване на рецепти на пациенти. Но лекарите се оплакват, че много пациенти използват чатботове, за да си поставят самодиагностика или да оспорват професионални съвети, което създава нови предизвикателства и рискове.
Изкуственият интелект се превърна в бизнес и социална сензация след старта на ChatGPT преди около три години. ChatGPT и други популярни чатботове, като Gemini на Google и Claude на Anthropic, използват т.нар. генеративен изкуствен интелект за създаване на съдържание. Те са изградени върху големи езикови модели (LLM), които са обучени върху огромни количества текст и други данни, за да разбират и генерират човешки език. Тези инструменти с изкуствен интелект сега се въвеждат в медицински области, като например приложения за потребителско здравеопазване.
Изкуственият интелект обаче обхваща повече от LLM и технологията си проправя път в медицината много преди появата на ботовете с изкуствен интелект. Областта датира отпреди повече от 70 години. Ключовият момент е, когато британският математик Алън Тюринг задава въпроса в статия от 1950 г.: „Могат ли машините да мислят?“
FDA разрешава първите си медицински устройства с подобрен изкуствен интелект през 1995 г. – две системи, които използват софтуер за съпоставяне на модели за скрининг за рак на маточната шийка. Видът изкуствен интелект, използван в медицинските устройства днес, често се нарича машинно обучение, заедно с подраздела си, известен като „дълбоко обучение“, които са обучени върху данни за изпълнение на специфични задачи. Технологията се използва например в радиологията за подобряване и анализ на медицински изображения. Тя може да помогне за диагностицирането на рак чрез идентифициране на тумори, които лекарите може да пренебрегнат.
Такива системи се използват и в хирургически устройства. През юни 2022 г. хирург поставя малък балон в синусовата кухина на Ерин Ралф в болница във Форт Уърт, Тексас. Според иск, заведен от Ралф, д-р Марк Дийн е използвал навигационната система TruDi, която използва изкуствен интелект, за да потвърди позицията на инструментите си в главата ѝ.
Процедурата, известна като синупластика, е минимално инвазивна техника за лечение на хроничен синузит. Балончето се надува, за да се разшири отворът на синусовата кухина, като така се осигурява по-добър дренаж и се облекчава възпалението.
Но системата TruDi е „подвела и насочила погрешно“ Дийн, според иска, който Ралф е завела в Окръжния съд на окръг Далас срещу Акларент и други ответници. Твърди се, че е била увредена каротидната артерия, която доставя кръв към мозъка, лицето и шията, което е довело до образуване на кръвен съсирек. Според съдебно заявление, адвокатът на Ралф е казал на съдията, че собствените досиета на д-р Дийн показват, че той „няма представа, че е близо до каротидната артерия“. От Ройтерс не са успели да прегледат досиетата, които са предмет на съдебна заповед за защита.
След като Ралф напуска болницата, става ясно, че е претърпяла инсулт. Майката на четири деца се завръща и прекарва пет дни в интензивно отделение, според кампания за набиране на средства от GoFundMe, организирана в подкрепа на нейното възстановяване. Част от черепа ѝ е била отстранена, „за да се даде място на мозъка ѝ да се подуе“, се казва в жалбата в GoFundMe.
„Все още съм в рехабилитация“, казва Ралф в интервю повече от година по-късно в блог за жертви на инсулт. „Трудно е да ходя без ортеза и да накарам лявата си ръка да работи отново.“
Грешни части на тялотоFDA предупреждава, че докладите за нежелани събития и неизправности на устройствата са ограничени. Те често са лишени от подробности, редактирани са, за да се защитят търговските тайни, и не могат да се използват самостоятелно за обвиняване. Агенцията понякога получава и множество доклади за един инцидент.
Ройтерс установява, че поне 1401 от докладите, подадени до FDA между 2021 г. и октомври 2025 г., се отнасят до медицински устройства, които са в списък на FDA с 1357 продукта, използващи изкуствен интелект. Агенцията казва, че списъкът не е изчерпателен. От тези доклади поне 115 споменават проблеми със софтуер, алгоритми или програмиране.
Доклад на FDA от юни 2025 г. твърди, че софтуерът с изкуствен интелект Sonio Detect, използван за пренатални ултразвукови изследвания, е идентифицирал погрешно части от тялото на плода. „Алгоритъмът с изкуствен интелект на софтуера Sonio Detect е дефектен и погрешно обозначава феталните структури и ги свързва с грешни части на тялото“, се казва в доклада, в който не се казва, че някой пациент е пострадал. Sonio Detect е собственост на Samsung Medison, подразделение на Samsung Electronics. Samsung Medison заяви, че докладът на FDA за Sonio Detect „не показва никакъв проблем с безопасността, нито че агенцията е поискала каквито и да било действия от Sonio“.
Най-малко 16 доклади твърдят, че монитори за сърдечна дейност с изкуствен интелект, произведени от гиганта в производството на медицински устройства Medtronic, не са успели да разпознаят анормални ритми или паузи. В нито един от докладите не се споменават наранявания. Medtronic заяви пред FDA, че някои от инцидентите са причинени от „объркване на потребителите“.
Алгоритмите с изкуствен интелект в серията имплантируеми монитори за сърдечна дейност LINQ на Medtronic са описани като „дълбоко обучаващ се изкуствен интелект“. Според уебсайта на компанията, те значително са намалили фалшивите предупреждения и са запазили истинските аларми за сърдечни проблеми. Но компанията също така заявява на своя сайт и в продуктовата си литература, че нейната технология с изкуствен интелект, AccuRhythm AI, може да класифицира погрешно действителните анормални сърдечни ритми или паузи.
Няма достатъчно хораВ интервюта на Ройтерс петима настоящи и бивши учени от FDA, които са преглеждали медицински устройства, подпомагани от изкуствен интелект, казват, че федералните регулатори сега са по-малко подготвени да се справят с потока от нови изделия.
Преди около четири години FDA разширява списъка си с учени, специализирани в изкуствен интелект, по-специално за преглед на медицински устройства за образна диагностика и радиология, които използват технологията. Много от новобранците са разположени в Отдела за образна диагностика, диагностика и надеждност на софтуера (DIDSR). Звеното се превърна в ключов ресурс на агенцията за оценка на безопасността на изкуствения интелект в медицината, казаха пред Ройтерс един настоящ и двама бивши служители на FDA. В началото на миналата година то нарасна до около 40 души.
„Някои висши регулатори нямат представа как работят тези технологии“, каза един бивш служител. „Срещнахме се отблизо с висши регулатори и им обяснихме защо смятаме, че тази технология е безопасна или не е безопасна за използване на пазара.“
Не беше лесно да се привлекат най-добрите таланти на държавна служба. Набирането на компютърни специалисти често изискваше да бъдат убедени да откажат по-високо заплащане в частния сектор.
В работата си учените са се опитали да „разбият“ моделите на изкуствения интелект на устройствата, каза бивш служител. Те са тествали алгоритмите на устройството в различни клинични ситуации и са проверявали дали производителността на изкуствения интелект се е влошила с времето. Те също така са се стремили да сведат до минимум „халюцинациите“, при които моделите на изкуствен интелект понякога генерират невярна информация, пишат служители на FDA в документ, публикуван през октомври.
Но в началото на миналата година администрацията на Тръмп започна да разпуска екипа по изкуствен интелект като част от кампанията на Илон Мъск за намаляване на разходите, наречена Департамент за ефективност на правителството (DOGE). Около 15 от 40-те учени по изкуствен интелект в звеното DIDSR са съкратени или решиха да напуснат, съобщиха източници от FDA. Друго звено, което е разработвало политика относно устройствата, използващи изкуствен интелект, Центърът за върхови постижения в цифровото здравеопазване, е загубил около една трета от персонала си от около 30 души.
След съкращенията работното натоварване за някои рецензенти на устройства почти се е удвоило, казаха двама бивши служители. „Ако нямате ресурсите, е по-вероятно нещата да бъдат пропуснати“, каза бивш рецензент на устройства, който напусна миналата година.
FDA изисква клинични изпитвания за нови лекарства, но медицинските устройства са изправени пред различен скрининг. Повечето устройства с изкуствен интелект, които се появяват на пазара, не е необходимо да бъдат тествани върху пациенти, според правилата на FDA. Вместо това, производителите изпълняват правилата на FDA, като цитират предварително одобрени устройства, които не са имали възможности, свързани с изкуствен интелект, казва д-р Александър Евърхарт, преподавател в медицинското училище на Вашингтонския университет в Сейнт Луис и експерт по регулиране на медицинските изделия.
Позиционирането на нови устройства като актуализации на съществуващите е отдавна установена практика, но Евърхарт казва, че изкуственият интелект внася нова несигурност.
„Мисля, че традиционният подход на FDA към регулирането на медицинските изделия не е на нивото да гарантира, че технологиите, базирани на изкуствен интелект, са безопасни и ефективни“, каза Евърхарт пред Ройтерс. „Разчитаме на производителите да се справят добре с пускането на продуктите си на пазара. Не знам дали действащите правила в FDA представляват смислени предпазни мерки“, допълва той.
