The Verge: Почему с ИИ, выявляющим рак, нужно обращаться осторожно

В наше время может показаться, что алгоритмы превосходят в диагностике врачей на каждом шагу, идентифицируя опасные высыпания и родинки с безошибочным автоматизмом, на который способна только машина. Например, в январе Google вызвал волну заголовков с исследованием, показывающим, что его системы ИИ могут определить рак молочной железы на маммограммах более точно, чем врачи.

Но для многих в здравоохранении подобные исследования демонстрируют не только перспективность ИИ, но и его потенциальную опасность. Они говорят, что при всех очевидных способностях алгоритмов к обучению не так легко оцифровать навыки медсестер и врачей. И в некоторых областях, где технологические компании продвигают медицинский ИИ, эта технология может усугубить существующие проблемы.

Ускорение диагностики рака может и навредить

Как отметил Кристи Ашванден в Wired в недавней публикации, врачи полагают, что раннее сканирование рака молочной железы может помочь, но может и навредить, а вторжение ИИ  способно нарушить баланс.

”Считается, что более интенсивный поиск раковых заболеваний — это заведомо хорошо, но это не всегда верно», — говорит Адевол Адамсон, дерматолог и доцент Медицинской школы Dell, сообщает The Verge. Цель состоит в том, чтобы найти больше разновидностей болезни, которые могут убить человека. Но проблема в том, что «нет никакого золотого стандарта для определения того, что из себя представляет смертельно опасный рак».

Если показать изображения одних и тех же патологических изменений группе врачей, то можно получить совершенно разные ответы о том, видят они рак или нет. Но даже если они сойдутся во мнении, что изображение свидетельствует о раковом процессе, то довольно трудно установить, точно ли это представляет опасность для чьей-то жизни. Это приводит к гипердиагностике, говорит Адамсон: “если бы эти признаки специально не искали и не назвали бы патологическими, они не вредили бы людям на протяжении всей их жизни.”

Но как только звучит диагноз «рак», это запускает цепочку медицинских вмешательств, которые могут быть болезненными, дорогостоящими и меняющими жизнь. В случае рака молочной железы это может означать лучевое лечение, химиотерапию, секторальную резекцию молочной железы (лампэктомию) или удаление одной или обеих грудей (мастэктомию). Но это не те решения, которые нужно форсировать.

И вот как раз сложности диагностирования не уделяется должного внимания в исследовании Google, говорит Адамсон. Во-первых, исследователи компании обучили свой алгоритм на изображениях, которые уже были идентифицированы как раковые или нет. Но поскольку нет никакого «золотого стандарта» для диагностики ракаособенно на ранних стадиях вполне возможно, что такие данные – всего лишь хорошая базовая основа. Алгоритм Google выдает только двоичные результаты: да, это рак, или нет, это не так. Но как утверждает Адамсон в недавней статье, нужно оставить место и для неопределенности-третий вариант, который представляет собой серую область диагностики и который продлевает дискуссию, а не закрывает ее.

Гугл говорит: мы только в начале пути

Отвечая на вопрос об этих проблемах, команда из Google сказала The Verge, что сокращение ложноположительных показателей их алгоритмов (инциденты, когда что-то неправильно идентифицируется как рак) уменьшит угрозу гипердиагностики. Они также подчеркнули, что исследования находятся на ранней стадии, и что они готовы ознакомиться с тем видом небинарного анализа, который отстаивает Адамсон.

“Это именно то исследование, которое мы будем проводить с нашими партнерами в качестве следующего шага”, — сказал представитель Google Health.

Для Адамсона, однако, проблематика куда шире. Гипердиагностика, говорит он, это проблема для самых разных видов рака: для рака простаты, меланомы, рака молочной железы, рака щитовидной железы. И если ИИ-системы начнут совершенствоваться в поиске все более тонких признаков патологических изменений, то есть опасность появления все большего количества псевдопациентов с «болезнью», которая на самом деле не убьет их.

Не такой уж и устаревший радиолог

Гипердиагностика – отнюдь не единственная проблема интеграции ИИ в медицину. Адепты ИИ-продуктов, например, уверены в том, что скоро смогут потеснить целую категорию медицинской работы: радиологию.

В 2016 году пионер ИИ Джеффри Хинтон (один из трех “крестных отцов ИИ”, получивших премию Тьюринга в 2018 году) сказал : “Пора уже прекратить обучение рентгенологов. Совершенно очевидно, что в течение пяти лет глубокое обучение превзойдет врачей-рентгенологов».

Такие пассажи всегда вызывали усмешку у настоящих радиологов.  Ведь они не просто смотрят на изображения, говорит Хью Харви, радиолог и консультант по технологиям здравоохранения. “Это полное непонимание того, что делают радиологи. Их работа больше похожа на чтение романа и попытку написать саммари того, о чем он.”

Способен ли ИИ действительно заменить радиолога?

Как отметил Харви в своем блоге еще в 2018 году, работа радиолога —  это и планирование,  и контакт с пациентами, сбор данных различными способами (УЗИ, биопсия и т. д.), соотнесение с другими диагнозами. Но также  и участие во всевозможных вспомогательных задачах, таких как преподавание, обучение и аудит работы других. «ИИ действительно не может заменить то, что делают радиологи в любом значимом смысле”, — говорит Харви. «Да, он может найти вещи, которые трудно отыскать, и показать их рентгенологам, но не более того».

И дело вовсе не в какой-то вендетте конкретно против радиологов, просто «машинное зрение» показало наибольшую склонность к глубокому обучению, и стало своего рода доминантой развития ИИ. Безусловно, получено немало преимуществ от применения этих алгоритмов к наборам медицинских данных. Однако врачи говорят, что наиболее полезны приложения для разметки, в отличие от более сложных, которые пытаются делать собственные диагнозы.

Рефрейминг нарратива об ИИ в медицине

Медицинский журналист Мэри Крис Яклевич отметила в своей недавней статье, что искажения начинаются уже с самой постановки вопроса “машина против доктора”, характерного для многих исследований ИИ и посвященных им сообщениях СМИ. Этот прием, конечно, привлекает интерес читателей, но очень сиюминутно и одномерно. Такие клише совсем не учитывают огромные пласты работы здравоохранении, которые не поддаются количественной оценке.

И все же несмотря на все эти трудности и программисты, и врачи  по-прежнему с осторожным оптимизмом относятся к потенциалу ИИ в области здравоохранения. Как отмечает Адамсон, именно способность ИИ к масштабированию делает его мощным и многообещающим, но также требует осторожности.

После того, как алгоритм будет исчерпывающе проверен, и показать способность вписаться в диагностический процесс, его можно быстро и легко развернуть почти в любой точке мира. Но если тестирование будет поспешным, то это приведет к валу побочных эффектов, таких как гипердиагностика.

«У ИИ хороший потенциал, — говорит Адамсон. – Но лишь в случае, если он спроектирован соответствующим образом. Меня интересует не ИИ как технология, а то, как мы будем ее применять».

Источник: https://www.theverge.com/platform/amp/2020/1/27/21080253/ai-cancer-diagnosis-dangers-mammography-google-paper-accuracy?__twitter_impression=true&utm_source=The+Medical+Futurist+Newsletter&utm_campaign=3090c20c9e-EMAIL_CAMPAIGN_2019_10_29_diabetes_companies_COPY_&utm_medium=email&utm_term=0_efd6a3cd08-3090c20c9e-420668573 

Комментарий к статье члена наблюдательного совета Ассоциации разработчиков и пользователей систем искусственного интеллекта в медицине «Национальная база медицинских знаний» Александра Гусева:

«Очень хорошая и вдумчивая статья по теме ИИ в медицине. Главные тезисы:
1. Применение ИИ не только показывает перспективы, но и открывает потенциальные угрозы.
2. Применение ИИ с целью раннего выявления, например, новообразований на рентгеновских снимках, может приводить к гипердиагностике и ненужным вмешательствам. Задача состоит не просто найти рак, а найти рак – который может убить пациента. ИИ пока работает слишком тупо, чтобы ответить на такую задачу.
3. Заявления гуру ИИ-отрасли, например Джеффри Хинтон или Эндрю Ин, о том что скоро радиологи станут не нужны и их вытеснит ИИ, пока оказались преждевременными. Пока ИИ может заменить некоторые рутинные операции, но никак не врача.
4. Врачи склонны доверять тем ИИ-алгоритмам, которые решают простые задачи типа анализа данных и выявление каких-то паттернов. До самостоятельной постановки диагноза на уровне, пригодном для реального внедрения в клиническую практику, ИИ пока не дорос.
5. Для технологических компаний кажется, что в медицине все просто и они активно предлагают разные ИИ-решения. Но в медицине все непросто и неоднозначно. Нельзя это недооценивать. Неправильно скатываться в неглубокие и непродуманные поделки – врачи это не примут.
6. Очень важна исчерпывающая проверка алгоритма и его соответствия диагностическому процессу. Спешка приводит к плохим результатам.
7. У ИИ есть огромный потенциал. Проблема состоит не в ИИ как в технологии – а в непродуманном ее применении».