К вопросу об этических аспектах внедрения систем искусственного интеллекта в здравоохранении
- Авторы: Шарова Д.Е.1, Зинченко В.В.1, Ахмад Е.С.1, Мокиенко О.А.1, Владзимирский А.В.1, Морозов С.П.1
-
Учреждения:
- Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы
- Выпуск: Том 2, № 3 (2021)
- Страницы: 356-368
- Раздел: Обзоры
- URL: https://journals.rcsi.science/DD/article/view/77446
- DOI: https://doi.org/10.17816/DD77446
- ID: 77446
Цитировать
Аннотация
Рассматриваются этические вопросы применения в ходе жизненного цикла систем искусственного интеллекта; представлена актуальная информация о мировых и отечественных тенденциях в этой сфере. Описан международный и национальный опыт в области этических вопросов применения систем искусственного интеллекта в здравоохранении; разобраны международные и национальные стратегии развития искусственного интеллекта в здравоохранении, где особое внимание уделяется национальному развитию, и выявлены основные тенденции, сходства и различия между стратегиями. Описаны также этические составляющие процесса клинических испытаний систем искусственного интеллекта в России, в рамках которых оцениваются их безопасность и эффективность. В рамках передового отечественного опыта по техническому регулированию систем искусственного интеллекта, аналогов которому нет в мире, представлены работы по унификации и стандартизации требований, используемые при разработке, тестировании и эксплуатации систем искусственного интеллекта в здравоохранении и уникальный опыт России в части сертификационных требований к медицинским изделиям, использующим технологии искусственного интеллекта.
Особо подчёркнута важность построения успешной системы здравоохранения в области технологий искусственного интеллекта, которая способствует укреплению доверия и соблюдению этических норм.
Ключевые слова
Полный текст
Открыть статью на сайте журналаОб авторах
Дарья Евгеньевна Шарова
Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы
Email: d.sharova@npcmr.ru
ORCID iD: 0000-0001-5792-3912
SPIN-код: 1811-7595
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1
Виктория Валерьевна Зинченко
Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы
Email: v.Zinchenko@npcmr.ru
ORCID iD: 0000-0002-2307-725X
SPIN-код: 4188-0635
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1
Екатерина Сергеевна Ахмад
Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы
Email: e.Akhmad@npcmr.ru
ORCID iD: 0000-0002-8235-9361
SPIN-код: 5891-4384
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1
Олеся Александровна Мокиенко
Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы
Email: o.Mokienko@npcmr.ru
ORCID iD: 0000-0002-7826-5135
SPIN-код: 8088-9921
доктор медицинских наук
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1Антон Вячеславович Владзимирский
Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы
Email: a.Vladzymyrskyy@npcmr.ru
ORCID iD: 0000-0002-2990-7736
SPIN-код: 3602-7120
доктор медицинских наук
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1Сергей Павлович Морозов
Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы
Автор, ответственный за переписку.
Email: Morozov@npcmr.ru
ORCID iD: 0000-0001-6545-6170
SPIN-код: 8542-1720
доктор медицинских наук, профессор
Россия, 109029, Москва, Средняя Калитниковская ул., д. 28, стр. 1Список литературы
- Тop 10 principles for ethical artificial intelligence [электронный ресурс]. UNI Global Union; 2017. Режим доступа: http://www.thefutureworldofwork.org/media/35420/uni_ethical_ai.pdf. Дата обращения: 11.07.2021.
- World Medical Association, Inc. WMA Declaration of Helsinki — Ethical Principles for Medical Research Involving Human Subjects [электронный ресурс]. Режим доступа: https://web.archive.org/web/20140101202246/http://www.wma.net/en/30publications/10policies/b3/. Дата обращения: 11.07.2021.
- Gerke S, Minssen T, Cohen G. Ethical and legal challenges of artificial intelligence-driven healthcare//Artificial Intelligence in Healthcare. 2020. P. 295–336. doi: 10.1016/B978-0-12-818438-7.00012-5
- Состояние отрасли в России и мире. Стратегия России//Альманах «Искусственный интеллект»: сборник аналитических материалов по отрасли искусственного интеллекта в России и мире. Центр компетенций НТИ по направлению «Искусственный интеллект» на базе МФТИ. 2019. № 1. C. 7–136.
- Павлов Н.А., Андрейченко А.Е., Владзимирский А.В., и др. Эталонные медицинские датасеты (MosMedData) для независимой внешней оценки алгоритмов на основе искусственного интеллекта в диагностике//Digital Diagnostics. 2021. Т. 2, № 1. C. 49–66.
- Jaremko J.L., Azar M., Bromwich R., et al. Canadian association of radiologists white paper on ethical and legal issues related to artificial intelligence in radiology//Can Assoc Radiol J. 2019. Vol. 70, N 2. P. 107–118. doi: 10.1016/j.carj.2019.03.001
- Морозов С.П., Владзимирский А.В., Кляшторный В.Г., и др. Клинические испытания программного обеспечения на основе интеллектуальных технологий (лучевая диагностика). Серия «Лучшие практики лучевой и инструментальной диагностики». Вып. 57. Москва, 2019. 51 с.
- FDA. Factors to consider regarding benefit-risk in medical device product availability, compliance, and enforcement decisions [электронный ресурс]. Режим доступа: https://www.fda.gov/ regulatory-information/search-fda-guidance-documents/factors-consider-regarding-benefit-risk-medical-device-product-availability-compliance-and. Дата обращения: 11.07.2021.
- WHO guidance. Ethics and governance of artificial intelligence for health [электронный ресурс]. 2020. Режим доступа: https://www.who.int/publications/i/item/9789240029200. Дата обращения: 11.07.2021.
- Морозов С.П., Зинченко В.В., Хоружая А.Н., и др. Стандартизация искусственного интеллекта в здравоохранении: Россия выходит в лидеры//Врач и информационные технологии. 2021. № 2. C. 12–19. doi: 1025881/18110193_2021_2_12
- Liu X., Cruz Rivera S., Moher D., et al.; SPIRIT-AI and CONSORT-AI Working Group. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: the CONSORT-AI extension//Nat Med. 2020. Vol. 26, N 9. P. 1364–1374. doi: 10.1038/s41591-020-1034-x
- Select Committee on artificial intelligence: a report//The national artificial intelligence research and development strategic plan: 2019 update [электронный ресурс]. 2019. Режим доступа: https://www.nitrd.gov/pubs/National-AI-RD-Strategy-2019.pdf. Дата обращения: 11.07.2021.
- Konrad Adenauer Stiftung. Comparison of national strategies to promote artificial intelligence [электронный ресурс]. Режим доступа: https://www.kas.de/en/single-title/-/content/vergleich-nationaler-strategien-zur-forderung-von-kunstlicher-intellige-1. Дата обращения: 11.07.2021.
- Artificial Intelligence Technology Strategy (Reportof Strategic Council for AI Technology) [электронный ресурс]. Strategic Council for AI Technology; 2017. Режим доступа: https://pdf4pro.com/view/artificial-intelligence-technology-strategy-nedo-6dc4e.html. Дата обращения: 11.07.2021.
- National Research Foundation. AI Singapore [электронный ресурс]. Режим доступа: https://www.nrf.gov.sg/programmes/artificial-intelligence-r-d-programme. Дата обращения: 11.07.2021.
- The International Trade Administration (ITA). Korea ― Artificial Intelligence [электронный ресурс]. Режим доступа: https://www.privacyshield.gov/article?id=Korea-Artificial-Intelligence. Дата обращения: 11.07.2021.
- European Commission website. Shaping Europe’s digital future. Communication artificial intelligence for Europe [электронный ресурс]. Режим доступа: https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe. Дата обращения: 11.07.2021.
- Current state and near-term priorities for ai-enabled diagnostic support software in health care [электронный ресурс]. Duke-Margolis Center for Health Policy; 2019. Режим доступа: https://healthpolicy.duke.edu/sites/default/files/2019-11/dukemargolisaienableddxss.pdf. Дата обращения: 11.07.2021.
- European Commission website. Shaping Europe’s digital future. Ethics guidelines for trustworthy AI [электронный ресурс]. Режим доступа: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai. Дата обращения: 11.07.2021.
- Council of Europe and Artificial Intelligence [электронный ресурс]. Режим доступа: https://www.coe.int/en/web/ artificial-intelligence. Дата обращения: 11.07.2021.
- ООН по вопросам образования, культуры и науки. SHS/BIO/AHEG-AI/2020/4 REV.2. Первый проект рекомендации об этических аспектах искусственного интеллекта [электронный ресурс]. 2020. Режим доступа: https://ifap.ru/pr/2020/n201116a.pdf. Дата обращения: 11.07.2021.
- European Commission website. USA-China-EU plans for AI: where do we stand? [электронный ресурс]. 2018. Режим доступа: https://ati.ec.europa.eu/sites/default/files/2020-07/USA-China-EU%20plans%20for%20AI%20-%20where%20do%20we%20stand%20%28v5%29.pdf. Дата обращения: 11.07.2021.
- Указ Президента Российской Федерации от 01.12.2016 № 642 «О стратегии научно-технологического развития Российской Федерации». Режим доступа: http://www.kremlin.ru/acts/bank/41449. Дата обращения: 11.07.2021.
- Global Artificial Intelligence Industry Whitepaper [электронный ресурс]. Deloitte Technology, Media and Telecommunications Industry; 2019. Режим доступа: https://www2.deloitte.com/cn/en/pages/technology-media-and-telecommunications/articles/global-ai-development-white-paper.html. Дата обращения: 11.07.2021.
- Geis J.R., Brady A.P., Wu C.C., et al. Ethics of artificial intelligence in radiology: summary of the Joint European and North American Multisociety Statement//Radiology. 2019. Vol. 293, N 2. P. 436–440. doi: 10.1148/radiol.2019191586
- Safdar N.M., Banja J.D., Meltzer C.C. Ethical considerations in artificial intelligence//Eur J Radiol. 2020. Vol. 122. Р. 108768. doi: 10.1016/j.ejrad.2019.108768
- Сайт Президента России. Перечень поручений по итогам конференции по искусственному интеллекту [электронный ресурс]. Режим доступа: http://www.kremlin.ru/acts/assignments/orders/64859. Дата обращения: 11.07.2021.
- Экспертный центр электронного государства. Актуальные задачи международного взаимодействия по развитию и регулированию искусственного интеллекта [электронный ресурс]. Режим доступа: http://d-russia.ru/aktualnye-zadachi-mezhdunarodnogo-vzaimodejstviya-po-razvitiyu-i-regulirovaniyu-iskusstvennogo-intellekta.html. Дата обращения: 11.07.2021.
- Распоряжение Правительства Российской Федерации от 19.08.2020 № 2129-р. Режим доступа: http://publication.pravo.gov.ru/Document/View/0001202008260005?index=0&rangeSize=1. Дата обращения: 11.07.2021.
- Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Режим доступа: http://www.kremlin.ru/acts/bank/44731. Дата обращения: 11.07.2021.
- Министерство промышленности и торговли Российской Федерации. Федеральное агентство по техническому регулированию и метрологии. Приказ от 25 июля 2019 года № 1732 «О создании технического комитета по стандартизации "Искусственный интеллект"». Режим доступа: https://docs.cntd.ru/document/560916332. Дата обращения: 11.07.2021.
- Технический комитет по стандартизации «Искусственный интеллект» (ТК164). Приказ от 13.01.2020 № 1 «Об определении базовой организации подкомитета "Искусственный интеллект в здравоохранении"». Режим доступа: https://tele-med.ai/media/uploads/2021/03/18/01_-2-2.pdf. Дата обращения: 11.07.2021.
- Морозов С.П., Чернина В.Ю., Андрейченко А.Е., и др. Как искусственный интеллект влияет на оценку поражения легких при COVID-19 по данным КТ грудной клетки?//Digital Diagnostics. 2021. Vol. 2, № 1. P. 27–38. doi: 10.17816/DD60040.