Этические проблемы внедрения искусственного интеллекта в медицине

Системы искусственного интеллекта (ИИ) высокоэффективны, что делает невозможным игнорирование их имплементации в медицинскую практику, но создаёт ряд этических проблем. Проблема «чёрного ящика» является базовой для философии искусственного интеллекта, но имеет свою специфику применительно к медицине. С целью изучения проблем внедрения ИИ в медицину проведён отбор релевантных статей за последние три года через Pubmed и Google Scholar по цитированиям и их анализ. Одной из центральных проблем внедрения ИИ в медицину является проблема «чёрного ящика» — отсутствие ясных и обоснованных принципов работы ИИ. Как врачи могут опираться на заключения ИИ, не имея достаточного количества данных, объясняющих принятие того или иного решения? А в случае неблагоприятного исхода (летального случая, тяжёлой травмы) на ком будет лежать ответственность за окончательно принятое решение? В рутинной практике медицинские решения основываются на комплексном подходе: понимании патофизиологии и биохимии, интерпретации полученных в прошлом результатов, клинических исследованиях и когортных наблюдениях. Искусственный интеллект может быть использован для построения плана диагностики заболеваний и лечения, но не предоставляет убедительных обоснований для принятия конкретных решений. Это и создаёт «чёрный ящик»: не всегда понятно, какую информацию ИИ считает важной для вынесения заключения, каким образом и почему ИИ приходит именно к такому выводу. Хуан Мануэль Дуран пишет: «Даже если мы заявляем, что понимаем принципы, лежащие в основе маркировки и обучения ИИ, всё равно сложно, а часто даже невозможно претендовать на понимание внутренней работы таких систем. Врач может интерпретировать или проверять результаты этих алгоритмов, но врач не может объяснить, как алгоритм пришёл к своим рекомендациям или диагнозу». Сегодня модели ИИ обучены распознавать микроскопические аденомы и полипы в толстой кишке. Но, несмотря на высокую точность, врачи всё ещё имеют недостаточно представлений о том, как ИИ дифференцирует различные виды полипов, а признаки, являющиеся ключевыми для постановки диагноза ИИ, остаются неясными для опытных врачей-эндоскопистов. Другой пример — биомаркеры колоректального рака, распознаваемые ИИ. При этом врач не знает, как алгоритмы определяют количественные и качественные критерии выявляемых биомаркеров для формулировки окончательного диагноза в каждом индивидуальном случае, т.е. возникает «чёрный ящик» в патологии процесса. Для того чтобы завоевать доверие врачей и пациентов, необходимо обеспечить расшифровку и пояснение процессов, лежащих в основе работы ИИ, описать, как последовательно, шаг за шагом происходит работа и формулируется конкретный результат. Хотя алгоритмы «чёрного ящика» нельзя назвать прозрачными, стоит рассмотреть возможность применения данных технологий в практической медицине. Несмотря на перечисленные проблемы, точность и эффективность решений не позволяет пренебрегать использованием ИИ, даже, наоборот, делает это использование необходимым. Возникающие проблемы должны служить основой для подготовки и обучения врачей умению работать с ИИ, расширения сфер применения и разработки новых методик диагностики.