Искусственный интеллект представляет серьезную угрозу для «медицины будущего»
Алгоритмы искусственного интеллекта и сотни медицинских приложений для смартфонов не проходят таких же тщательных испытаний, как традиционные медицинские инструменты, устройства и технологии. Цели медицинских стартапов, врачей и пациентов на самом деле сильно отличаются. Задача последних - не допустить и избежать ошибок. Но инструменты искусственного интеллекта в медицине развиваются по принципу ПО - "сообщай об ошибке быстро, исправляй ее потом". Рано или поздно, уверены врачи и медицинские юристы, это приведет к тяжелым ошибкам и последствиям для всей индустрии.
Медицинские товары, усиленные искусственным интеллектом, проникают в нашу жизнь под видом носимых сенсоров и чатботов, дающих врачебные советы. Системы машинного зрения превосходят радиологов в чтении снимков.
"За всю свою более чем 30-летнюю медицинскую практику я не видел ничего более значимого и революционного, чем ИИ", - заявил Эрик Тополь, кардиолог и вице-президент Института Скриппса в Калифорнии. ИИ помогает врачам интерпретировать МРТ сердца, сканы КТ мозга и фотографии глазного дна и, в потенциале, способен взять на себя массу рутинной работы, которую врачи выполняют вместо того, чтобы беседовать с пациентами.
Управление США по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA), которое за последние пять лет одобрило более 40 ИИ-продуктов, тоже признает прорывной характер этой технологии, пишет Scientific American.
Однако ряд экспертов в области медицины опасается, что эти продукты окажутся ненадлежащего качества. Врачи и защитники прав потребителей боятся, что индустрия ИТ воспользуется при разработке этих алгоритмов привычным правилом "сообщай об ошибке быстро, исправляй ее потом". И что регуляторы делают недостаточно, чтобы уберечь от этого потребителей гаджетов и медицинских услуг.
По словам Милдред Чо, профессора педиатрии Стэнфордского центра биомедицинской этики, такие случаи не редкость. Системы, разработанные в одной больнице, часто виснут в других. Программы, созданные для белых американцев, дискриминируют представителей цветных меньшинств. А ИИ делают предсказания на основе факторов, не имеющих отношения к медицине.
"Это только вопрос времени, пока что-то подобное не приведет к серьезным медицинским осложнениям", - сказал Стивен Ниссен, глава отделения кардиологии Кливлендской клиники.
Лишь один ИИ, проданный в США, прошел рандомизированные испытания, самый надежный критерий медицинской проверки - тесты подтвердили, что компьютерная диагностика колоноскопии выявляет больше полипов, чем стандартная. ИТ-стартапы редко публикуют свои статьи в рецензируемых научных журналах, а пресс-релизы часто преувеличивают достижения этих компаний. При этом модели ИИ тестируются в основном на компьютерах в лабораториях, а не в реальных условиях больниц и медицинских учреждений.
Мало существует исследований и относительно всех 320?000 медицинских приложений, которые доступны врачам и пациентам. Судя по докладу Национальной медицинской академии США, опубликованному 17 декабря, почти ни одно из них, что предназначены больным, в действительности не работает.
Аналитики замечают, что разработчики ИИ слабо заинтересованы в том, чтобы проводить дорогостоящие и долгие испытания. Экономика США работает на основе других принципов. И здесь должны вмешаться врачи. "Если от предпринимателей требуется думать масштабно и рисковать, то задача докторов - защищать своих пациентов", - подчеркнул Викас Сайни, кардиолог и президент некоммерческой организации Lown Institute.
