Дискриминация искусственного интеллекта в медицине

В настоящее время искусственный интеллект (ИИ) играет важную роль в различных областях в качестве основного работника или помощника, особенно в здравоохранении. Искусственный интеллект обладает множеством функций, которые он может выполнять даже лучше, чем человек, благодаря высокой скорости компиляции большого количества данных из различных источников [Интернет, Electronic health record (EHR) и т.д.], что повышает производительность труда врачей.

Менее обсуждаемой, но не менее важной проблемой является дискриминации искусственного интеллекта в здравоохранении: врачи, на которых лежит большая ответственность, не могут полагаться на ИИ, поскольку сталкиваются с рядом уязвимостей.

Во-первых, ИИ собирает огромные массивы данных и, несмотря на то что он не автономен и контролируется оператором, не гарантирует безошибочный результат, так как может сыграть роль человеческий фактор, который будет источником неточностей в работе. Следовательно, существует высокий риск использования некачественных данных в процессе дальнейшего принятия решений. Ошибки, предрассудки (этнические, гендерные, возрастные, социальные и др.) и пробелы в данных ухудшают результаты работы ИИ, что приводит, например, к дискриминации меньшинств, назначению им неточного лечения. Кроме того, ИИ может действовать неэтично или даже нарушать законы (например, часть VI, раздел 1557 закона США о доступном медицинском обслуживании, запрещающего дискриминацию по признаку расы, цвета кожи, национального происхождения, пола, возраста или инвалидности в некоторых программах и мероприятиях в области здравоохранения).

Во-вторых, ИИ можно назвать скрытным из-за неопределённости алгоритмов. Это означает, что никто не может объяснить, как и почему ИИ принял такое решение (по словам Джудии Перл в произведении «Книга почему»), поэтому врачи не могут проверить факты и убедиться, что анализ выполнен правильно и сделан верный вывод.

Необходимо признать существование трудностей в решении посредством ИИ проблем реального мира, которые не могут быть решены с помощью формальных, математических правил логики, в то время как люди делают это хорошо (например, естественный язык, распознавание лиц и т.д.).

Можно утверждать, что ИИ облегчает работу медицинских работников, однако он имеет множество нерешённых проблем, которые вводят врачей в заблуждение и способствуют принятию неверных решений.