К вопросу об этических аспектах внедрения систем искусственного интеллекта в здравоохранении

Обложка

Цитировать

Полный текст

Аннотация

Рассматриваются этические вопросы применения в ходе жизненного цикла систем искусственного интеллекта; представлена актуальная информация о мировых и отечественных тенденциях в этой сфере. Описан международный и национальный опыт в области этических вопросов применения систем искусственного интеллекта в здравоохранении; разобраны международные и национальные стратегии развития искусственного интеллекта в здравоохранении, где особое внимание уделяется национальному развитию, и выявлены основные тенденции, сходства и различия между стратегиями. Описаны также этические составляющие процесса клинических испытаний систем искусственного интеллекта в России, в рамках которых оцениваются их безопасность и эффективность. В рамках передового отечественного опыта по техническому регулированию систем искусственного интеллекта, аналогов которому нет в мире, представлены работы по унификации и стандартизации требований, используемые при разработке, тестировании и эксплуатации систем искусственного интеллекта в здравоохранении и уникальный опыт России в части сертификационных требований к медицинским изделиям, использующим технологии искусственного интеллекта.

Особо подчёркнута важность построения успешной системы здравоохранения в области технологий искусственного интеллекта, которая способствует укреплению доверия и соблюдению этических норм.

Об авторах

Дарья Евгеньевна Шарова

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: d.sharova@npcmr.ru
ORCID iD: 0000-0001-5792-3912
SPIN-код: 1811-7595
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Виктория Валерьевна Зинченко

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: v.Zinchenko@npcmr.ru
ORCID iD: 0000-0002-2307-725X
SPIN-код: 4188-0635
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Екатерина Сергеевна Ахмад

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: e.Akhmad@npcmr.ru
ORCID iD: 0000-0002-8235-9361
SPIN-код: 5891-4384
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Олеся Александровна Мокиенко

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: o.Mokienko@npcmr.ru
ORCID iD: 0000-0002-7826-5135
SPIN-код: 8088-9921

доктор медицинских наук

Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Антон Вячеславович Владзимирский

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Email: a.Vladzymyrskyy@npcmr.ru
ORCID iD: 0000-0002-2990-7736
SPIN-код: 3602-7120

доктор медицинских наук

Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Сергей Павлович Морозов

Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы

Автор, ответственный за переписку.
Email: Morozov@npcmr.ru
ORCID iD: 0000-0001-6545-6170
SPIN-код: 8542-1720

доктор медицинских наук, профессор

Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1

Список литературы

  1. Тop 10 principles for ethical artificial intelligence [электронный ресурс]. UNI Global Union; 2017. Режим доступа: http://www.thefutureworldofwork.org/media/35420/uni_ethical_ai.pdf. Дата обращения: 11.07.2021.
  2. World Medical Association, Inc. WMA Declaration of Helsinki — Ethical Principles for Medical Research Involving Human Subjects [электронный ресурс]. Режим доступа: https://web.archive.org/web/20140101202246/http://www.wma.net/en/30publications/10policies/b3/. Дата обращения: 11.07.2021.
  3. Gerke S, Minssen T, Cohen G. Ethical and legal challenges of artificial intelligence-driven healthcare//Artificial Intelligence in Healthcare. 2020. P. 295–336. doi: 10.1016/B978-0-12-818438-7.00012-5
  4. Состояние отрасли в России и мире. Стратегия России//Альманах «Искусственный интеллект»: сборник аналитических материалов по отрасли искусственного интеллекта в России и мире. Центр компетенций НТИ по направлению «Искусственный интеллект» на базе МФТИ. 2019. № 1. C. 7–136.
  5. Павлов Н.А., Андрейченко А.Е., Владзимирский А.В., и др. Эталонные медицинские датасеты (MosMedData) для независимой внешней оценки алгоритмов на основе искусственного интеллекта в диагностике//Digital Diagnostics. 2021. Т. 2, № 1. C. 49–66.
  6. Jaremko J.L., Azar M., Bromwich R., et al. Canadian association of radiologists white paper on ethical and legal issues related to artificial intelligence in radiology//Can Assoc Radiol J. 2019. Vol. 70, N 2. P. 107–118. doi: 10.1016/j.carj.2019.03.001
  7. Морозов С.П., Владзимирский А.В., Кляшторный В.Г., и др. Клинические испытания программного обеспечения на основе интеллектуальных технологий (лучевая диагностика). Серия «Лучшие практики лучевой и инструментальной диагностики». Вып. 57. Москва, 2019. 51 с.
  8. FDA. Factors to consider regarding benefit-risk in medical device product availability, compliance, and enforcement decisions [электронный ресурс]. Режим доступа: https://www.fda.gov/ regulatory-information/search-fda-guidance-documents/factors-consider-regarding-benefit-risk-medical-device-product-availability-compliance-and. Дата обращения: 11.07.2021.
  9. WHO guidance. Ethics and governance of artificial intelligence for health [электронный ресурс]. 2020. Режим доступа: https://www.who.int/publications/i/item/9789240029200. Дата обращения: 11.07.2021.
  10. Морозов С.П., Зинченко В.В., Хоружая А.Н., и др. Стандартизация искусственного интеллекта в здравоохранении: Россия выходит в лидеры//Врач и информационные технологии. 2021. № 2. C. 12–19. doi: 1025881/18110193_2021_2_12
  11. Liu X., Cruz Rivera S., Moher D., et al.; SPIRIT-AI and CONSORT-AI Working Group. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: the CONSORT-AI extension//Nat Med. 2020. Vol. 26, N 9. P. 1364–1374. doi: 10.1038/s41591-020-1034-x
  12. Select Committee on artificial intelligence: a report//The national artificial intelligence research and development strategic plan: 2019 update [электронный ресурс]. 2019. Режим доступа: https://www.nitrd.gov/pubs/National-AI-RD-Strategy-2019.pdf. Дата обращения: 11.07.2021.
  13. Konrad Adenauer Stiftung. Comparison of national strategies to promote artificial intelligence [электронный ресурс]. Режим доступа: https://www.kas.de/en/single-title/-/content/vergleich-nationaler-strategien-zur-forderung-von-kunstlicher-intellige-1. Дата обращения: 11.07.2021.
  14. Artificial Intelligence Technology Strategy (Reportof Strategic Council for AI Technology) [электронный ресурс]. Strategic Council for AI Technology; 2017. Режим доступа: https://pdf4pro.com/view/artificial-intelligence-technology-strategy-nedo-6dc4e.html. Дата обращения: 11.07.2021.
  15. National Research Foundation. AI Singapore [электронный ресурс]. Режим доступа: https://www.nrf.gov.sg/programmes/artificial-intelligence-r-d-programme. Дата обращения: 11.07.2021.
  16. The International Trade Administration (ITA). Korea ― Artificial Intelligence [электронный ресурс]. Режим доступа: https://www.privacyshield.gov/article?id=Korea-Artificial-Intelligence. Дата обращения: 11.07.2021.
  17. European Commission website. Shaping Europe’s digital future. Communication artificial intelligence for Europe [электронный ресурс]. Режим доступа: https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe. Дата обращения: 11.07.2021.
  18. Current state and near-term priorities for ai-enabled diagnostic support software in health care [электронный ресурс]. Duke-Margolis Center for Health Policy; 2019. Режим доступа: https://healthpolicy.duke.edu/sites/default/files/2019-11/dukemargolisaienableddxss.pdf. Дата обращения: 11.07.2021.
  19. European Commission website. Shaping Europe’s digital future. Ethics guidelines for trustworthy AI [электронный ресурс]. Режим доступа: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai. Дата обращения: 11.07.2021.
  20. Council of Europe and Artificial Intelligence [электронный ресурс]. Режим доступа: https://www.coe.int/en/web/ artificial-intelligence. Дата обращения: 11.07.2021.
  21. ООН по вопросам образования, культуры и науки. SHS/BIO/AHEG-AI/2020/4 REV.2. Первый проект рекомендации об этических аспектах искусственного интеллекта [электронный ресурс]. 2020. Режим доступа: https://ifap.ru/pr/2020/n201116a.pdf. Дата обращения: 11.07.2021.
  22. European Commission website. USA-China-EU plans for AI: where do we stand? [электронный ресурс]. 2018. Режим доступа: https://ati.ec.europa.eu/sites/default/files/2020-07/USA-China-EU%20plans%20for%20AI%20-%20where%20do%20we%20stand%20%28v5%29.pdf. Дата обращения: 11.07.2021.
  23. Указ Президента Российской Федерации от 01.12.2016 № 642 «О стратегии научно-технологического развития Российской Федерации». Режим доступа: http://www.kremlin.ru/acts/bank/41449. Дата обращения: 11.07.2021.
  24. Global Artificial Intelligence Industry Whitepaper [электронный ресурс]. Deloitte Technology, Media and Telecommunications Industry; 2019. Режим доступа: https://www2.deloitte.com/cn/en/pages/technology-media-and-telecommunications/articles/global-ai-development-white-paper.html. Дата обращения: 11.07.2021.
  25. Geis J.R., Brady A.P., Wu C.C., et al. Ethics of artificial intelligence in radiology: summary of the Joint European and North American Multisociety Statement//Radiology. 2019. Vol. 293, N 2. P. 436–440. doi: 10.1148/radiol.2019191586
  26. Safdar N.M., Banja J.D., Meltzer C.C. Ethical considerations in artificial intelligence//Eur J Radiol. 2020. Vol. 122. Р. 108768. doi: 10.1016/j.ejrad.2019.108768
  27. Сайт Президента России. Перечень поручений по итогам конференции по искусственному интеллекту [электронный ресурс]. Режим доступа: http://www.kremlin.ru/acts/assignments/orders/64859. Дата обращения: 11.07.2021.
  28. Экспертный центр электронного государства. Актуальные задачи международного взаимодействия по развитию и регулированию искусственного интеллекта [электронный ресурс]. Режим доступа: http://d-russia.ru/aktualnye-zadachi-mezhdunarodnogo-vzaimodejstviya-po-razvitiyu-i-regulirovaniyu-iskusstvennogo-intellekta.html. Дата обращения: 11.07.2021.
  29. Распоряжение Правительства Российской Федерации от 19.08.2020 № 2129-р. Режим доступа: http://publication.pravo.gov.ru/Document/View/0001202008260005?index=0&rangeSize=1. Дата обращения: 11.07.2021.
  30. Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Режим доступа: http://www.kremlin.ru/acts/bank/44731. Дата обращения: 11.07.2021.
  31. Министерство промышленности и торговли Российской Федерации. Федеральное агентство по техническому регулированию и метрологии. Приказ от 25 июля 2019 года № 1732 «О создании технического комитета по стандартизации "Искусственный интеллект"». Режим доступа: https://docs.cntd.ru/document/560916332. Дата обращения: 11.07.2021.
  32. Технический комитет по стандартизации «Искусственный интеллект» (ТК164). Приказ от 13.01.2020 № 1 «Об определении базовой организации подкомитета "Искусственный интеллект в здравоохранении"». Режим доступа: https://tele-med.ai/media/uploads/2021/03/18/01_-2-2.pdf. Дата обращения: 11.07.2021.
  33. Морозов С.П., Чернина В.Ю., Андрейченко А.Е., и др. Как искусственный интеллект влияет на оценку поражения легких при COVID-19 по данным КТ грудной клетки?//Digital Diagnostics. 2021. Vol. 2, № 1. P. 27–38. doi: 10.17816/DD60040.

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML
Скачать
2. Рис. Временная шкала разработки и утверждения стратегий развития искусственного интеллекта в мире.

Скачать (1MB)
Метаданные

© Шарова Д.Е., Зинченко В.В., Ахмад Е.С., Мокиенко О.А., Владзимирский А.В., Морозов С.П., 2021

Creative Commons License
Эта статья доступна по лицензии Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.

Данный сайт использует cookie-файлы

Продолжая использовать наш сайт, вы даете согласие на обработку файлов cookie, которые обеспечивают правильную работу сайта.

О куки-файлах