Эксперты нашли ошибки в медицинских рекомендациях искусственного интеллекта IBM
Эксперты-онкологи проанализировали рекомендации, которые были составлены искусственным интеллектом Watson for Oncology гипотетическим пациентам, и остались недовольны ими. Как сообщает Naked science, специалисты выявили "многочисленные примеры небезопасных и некорректных рекомендаций по лечению", но считают, что подобные ошибки неизбежны при создании такого масштабного проекта.
С системой Watson for Oncology работали 230 больниц и медицинских центров по всему миру. Алгоритм анализирует данные пациента, в том числе записи лечащих врачей, семейную историю онкологических заболеваний и результаты анализов, и сопоставляет их с базой данных доступных исследований. ИИ не заменяет врача-специалиста, но может предоставить дополнительное "мнение", если несколько экспертов придерживаются разных точек зрения.
Документы IBM приводят несколько примеров неверных решений суперкомпьютера. Например, в случае 65-летнего пациента с раком легких и сильными кровотечениями Watson предложил применить комбинацию химиотерапии и бевацизумаба - препарата на основе моноклональных антител. При этом известно, что бевацизумаб может усиливать кровотечения. Рекомендации ИИ не применялись на практике, поскольку алгоритмы находятся на стадии тестов.
Эксперты предполагают, что ошибки алгоритма могут быть связаны с тем, что его тестировали не на реальных данных пациентов, а на искусственно созданных сценариях. Представители IBM подчеркнули, что искусственный интеллект дорабатывается с учетом рекомендации врачей, а критические замечания позволят сделать его более эффективным.
