К вопросу об этических аспектах внедрения систем искусственного интеллекта в здравоохранении

Обложка

Цитировать

Полный текст

Аннотация

Рассматриваются этические вопросы применения в ходе жизненного цикла систем искусственного интеллекта; представлена актуальная информация о мировых и отечественных тенденциях в этой сфере. Описан международный и национальный опыт в области этических вопросов применения систем искусственного интеллекта в здравоохранении; разобраны международные и национальные стратегии развития искусственного интеллекта в здравоохранении, где особое внимание уделяется национальному развитию, и выявлены основные тенденции, сходства и различия между стратегиями. Описаны также этические составляющие процесса клинических испытаний систем искусственного интеллекта в России, в рамках которых оцениваются их безопасность и эффективность. В рамках передового отечественного опыта по техническому регулированию систем искусственного интеллекта, аналогов которому нет в мире, представлены работы по унификации и стандартизации требований, используемые при разработке, тестировании и эксплуатации систем искусственного интеллекта в здравоохранении и уникальный опыт России в части сертификационных требований к медицинским изделиям, использующим технологии искусственного интеллекта.

Особо подчёркнута важность построения успешной системы здравоохранения в области технологий искусственного интеллекта, которая способствует укреплению доверия и соблюдению этических норм.

Об авторах

Дарья Евгеньевна Шарова

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: d.sharova@npcmr.ru
ORCID iD: 0000-0001-5792-3912
SPIN-код: 1811-7595
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Виктория Валерьевна Зинченко

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: v.Zinchenko@npcmr.ru
ORCID iD: 0000-0002-2307-725X
SPIN-код: 4188-0635
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Екатерина Сергеевна Ахмад

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: e.Akhmad@npcmr.ru
ORCID iD: 0000-0002-8235-9361
SPIN-код: 5891-4384
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Олеся Александровна Мокиенко

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: o.Mokienko@npcmr.ru
ORCID iD: 0000-0002-7826-5135
SPIN-код: 8088-9921

доктор медицинских наук

Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Антон Вячеславович Владзимирский

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: a.Vladzymyrskyy@npcmr.ru
ORCID iD: 0000-0002-2990-7736
SPIN-код: 3602-7120

доктор медицинских наук

Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Сергей Павлович Морозов

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Автор, ответственный за переписку.
Email: Morozov@npcmr.ru
ORCID iD: 0000-0001-6545-6170
SPIN-код: 8542-1720

доктор медицинских наук, профессор

Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Список литературы

  1. Тop 10 principles for ethical artificial intelligence [электронный ресурс]. UNI Global Union; 2017. Режим доступа: http://www.thefutureworldofwork.org/media/35420/uni_ethical_ai.pdf. Дата обращения: 11.07.2021.
  2. World Medical Association, Inc. WMA Declaration of Helsinki — Ethical Principles for Medical Research Involving Human Subjects [электронный ресурс]. Режим доступа: https://web.archive.org/web/20140101202246/http://www.wma.net/en/30publications/10policies/b3/. Дата обращения: 11.07.2021.
  3. Gerke S, Minssen T, Cohen G. Ethical and legal challenges of artificial intelligence-driven healthcare//Artificial Intelligence in Healthcare. 2020. P. 295–336. doi: 10.1016/B978-0-12-818438-7.00012-5
  4. Состояние отрасли в России и мире. Стратегия России//Альманах «Искусственный интеллект»: сборник аналитических материалов по отрасли искусственного интеллекта в России и мире. Центр компетенций НТИ по направлению «Искусственный интеллект» на базе МФТИ. 2019. № 1. C. 7–136.
  5. Павлов Н.А., Андрейченко А.Е., Владзимирский А.В., и др. Эталонные медицинские датасеты (MosMedData) для независимой внешней оценки алгоритмов на основе искусственного интеллекта в диагностике//Digital Diagnostics. 2021. Т. 2, № 1. C. 49–66.
  6. Jaremko J.L., Azar M., Bromwich R., et al. Canadian association of radiologists white paper on ethical and legal issues related to artificial intelligence in radiology//Can Assoc Radiol J. 2019. Vol. 70, N 2. P. 107–118. doi: 10.1016/j.carj.2019.03.001
  7. Морозов С.П., Владзимирский А.В., Кляшторный В.Г., и др. Клинические испытания программного обеспечения на основе интеллектуальных технологий (лучевая диагностика). Серия «Лучшие практики лучевой и инструментальной диагностики». Вып. 57. Москва, 2019. 51 с.
  8. FDA. Factors to consider regarding benefit-risk in medical device product availability, compliance, and enforcement decisions [электронный ресурс]. Режим доступа: https://www.fda.gov/ regulatory-information/search-fda-guidance-documents/factors-consider-regarding-benefit-risk-medical-device-product-availability-compliance-and. Дата обращения: 11.07.2021.
  9. WHO guidance. Ethics and governance of artificial intelligence for health [электронный ресурс]. 2020. Режим доступа: https://www.who.int/publications/i/item/9789240029200. Дата обращения: 11.07.2021.
  10. Морозов С.П., Зинченко В.В., Хоружая А.Н., и др. Стандартизация искусственного интеллекта в здравоохранении: Россия выходит в лидеры//Врач и информационные технологии. 2021. № 2. C. 12–19. doi: 1025881/18110193_2021_2_12
  11. Liu X., Cruz Rivera S., Moher D., et al.; SPIRIT-AI and CONSORT-AI Working Group. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: the CONSORT-AI extension//Nat Med. 2020. Vol. 26, N 9. P. 1364–1374. doi: 10.1038/s41591-020-1034-x
  12. Select Committee on artificial intelligence: a report//The national artificial intelligence research and development strategic plan: 2019 update [электронный ресурс]. 2019. Режим доступа: https://www.nitrd.gov/pubs/National-AI-RD-Strategy-2019.pdf. Дата обращения: 11.07.2021.
  13. Konrad Adenauer Stiftung. Comparison of national strategies to promote artificial intelligence [электронный ресурс]. Режим доступа: https://www.kas.de/en/single-title/-/content/vergleich-nationaler-strategien-zur-forderung-von-kunstlicher-intellige-1. Дата обращения: 11.07.2021.
  14. Artificial Intelligence Technology Strategy (Reportof Strategic Council for AI Technology) [электронный ресурс]. Strategic Council for AI Technology; 2017. Режим доступа: https://pdf4pro.com/view/artificial-intelligence-technology-strategy-nedo-6dc4e.html. Дата обращения: 11.07.2021.
  15. National Research Foundation. AI Singapore [электронный ресурс]. Режим доступа: https://www.nrf.gov.sg/programmes/artificial-intelligence-r-d-programme. Дата обращения: 11.07.2021.
  16. The International Trade Administration (ITA). Korea ― Artificial Intelligence [электронный ресурс]. Режим доступа: https://www.privacyshield.gov/article?id=Korea-Artificial-Intelligence. Дата обращения: 11.07.2021.
  17. European Commission website. Shaping Europe’s digital future. Communication artificial intelligence for Europe [электронный ресурс]. Режим доступа: https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe. Дата обращения: 11.07.2021.
  18. Current state and near-term priorities for ai-enabled diagnostic support software in health care [электронный ресурс]. Duke-Margolis Center for Health Policy; 2019. Режим доступа: https://healthpolicy.duke.edu/sites/default/files/2019-11/dukemargolisaienableddxss.pdf. Дата обращения: 11.07.2021.
  19. European Commission website. Shaping Europe’s digital future. Ethics guidelines for trustworthy AI [электронный ресурс]. Режим доступа: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai. Дата обращения: 11.07.2021.
  20. Council of Europe and Artificial Intelligence [электронный ресурс]. Режим доступа: https://www.coe.int/en/web/ artificial-intelligence. Дата обращения: 11.07.2021.
  21. ООН по вопросам образования, культуры и науки. SHS/BIO/AHEG-AI/2020/4 REV.2. Первый проект рекомендации об этических аспектах искусственного интеллекта [электронный ресурс]. 2020. Режим доступа: https://ifap.ru/pr/2020/n201116a.pdf. Дата обращения: 11.07.2021.
  22. European Commission website. USA-China-EU plans for AI: where do we stand? [электронный ресурс]. 2018. Режим доступа: https://ati.ec.europa.eu/sites/default/files/2020-07/USA-China-EU%20plans%20for%20AI%20-%20where%20do%20we%20stand%20%28v5%29.pdf. Дата обращения: 11.07.2021.
  23. Указ Президента Российской Федерации от 01.12.2016 № 642 «О стратегии научно-технологического развития Российской Федерации». Режим доступа: http://www.kremlin.ru/acts/bank/41449. Дата обращения: 11.07.2021.
  24. Global Artificial Intelligence Industry Whitepaper [электронный ресурс]. Deloitte Technology, Media and Telecommunications Industry; 2019. Режим доступа: https://www2.deloitte.com/cn/en/pages/technology-media-and-telecommunications/articles/global-ai-development-white-paper.html. Дата обращения: 11.07.2021.
  25. Geis J.R., Brady A.P., Wu C.C., et al. Ethics of artificial intelligence in radiology: summary of the Joint European and North American Multisociety Statement//Radiology. 2019. Vol. 293, N 2. P. 436–440. doi: 10.1148/radiol.2019191586
  26. Safdar N.M., Banja J.D., Meltzer C.C. Ethical considerations in artificial intelligence//Eur J Radiol. 2020. Vol. 122. Р. 108768. doi: 10.1016/j.ejrad.2019.108768
  27. Сайт Президента России. Перечень поручений по итогам конференции по искусственному интеллекту [электронный ресурс]. Режим доступа: http://www.kremlin.ru/acts/assignments/orders/64859. Дата обращения: 11.07.2021.
  28. Экспертный центр электронного государства. Актуальные задачи международного взаимодействия по развитию и регулированию искусственного интеллекта [электронный ресурс]. Режим доступа: http://d-russia.ru/aktualnye-zadachi-mezhdunarodnogo-vzaimodejstviya-po-razvitiyu-i-regulirovaniyu-iskusstvennogo-intellekta.html. Дата обращения: 11.07.2021.
  29. Распоряжение Правительства Российской Федерации от 19.08.2020 № 2129-р. Режим доступа: http://publication.pravo.gov.ru/Document/View/0001202008260005?index=0&rangeSize=1. Дата обращения: 11.07.2021.
  30. Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Режим доступа: http://www.kremlin.ru/acts/bank/44731. Дата обращения: 11.07.2021.
  31. Министерство промышленности и торговли Российской Федерации. Федеральное агентство по техническому регулированию и метрологии. Приказ от 25 июля 2019 года № 1732 «О создании технического комитета по стандартизации "Искусственный интеллект"». Режим доступа: https://docs.cntd.ru/document/560916332. Дата обращения: 11.07.2021.
  32. Технический комитет по стандартизации «Искусственный интеллект» (ТК164). Приказ от 13.01.2020 № 1 «Об определении базовой организации подкомитета "Искусственный интеллект в здравоохранении"». Режим доступа: https://tele-med.ai/media/uploads/2021/03/18/01_-2-2.pdf. Дата обращения: 11.07.2021.
  33. Морозов С.П., Чернина В.Ю., Андрейченко А.Е., и др. Как искусственный интеллект влияет на оценку поражения легких при COVID-19 по данным КТ грудной клетки?//Digital Diagnostics. 2021. Vol. 2, № 1. P. 27–38. doi: 10.17816/DD60040.

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML
Скачать
2. Рис. Временная шкала разработки и утверждения стратегий развития искусственного интеллекта в мире.

Скачать (1MB)
Метаданные

© Шарова Д.Е., Зинченко В.В., Ахмад Е.С., Мокиенко О.А., Владзимирский А.В., Морозов С.П., 2021

Creative Commons License
Эта статья доступна по лицензии Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».