Этические риски искусственного интеллекта и перспективы совместного принятия решений в медицине

Обложка

Полный текст

Открытый доступ Открытый доступ
Доступ закрыт Доступ предоставлен
Доступ закрыт Только для подписчиков

Аннотация

В статье рассматриваются этические проблемы в процессе совместного принятия решений, возникающие в связи с активным привлечением систем искусственного интеллекта в медицинскую практику. Особое внимание уделено влиянию систем искусственного интеллекта на принцип уважения автономии пациента, дана этическая оценка основных критериев автономного действия пациента — добровольности, информированности и компетентности. Отмечено, что декларируемые этические ценности при внедрении искусственного интеллекта в сферу медицины на данном этапе его развития не в полной мере могут обеспечить стандарт совместного принятия решения. Наряду с широкими возможностями систем искусственного интеллекта для повышения компетентности пациента и ответственности за свое здоровье этически неоднозначными остаются вопросы, связанные с информированностью и добровольностью пациента. Технологические особенности искусственного интеллекта могут быть препятствием для формирования доверия между врачом и пациентом, затруднять процесс информирования пациента и добровольного выбора пациентом предпочтительного алгоритма лечения. Исследование триггерных точек в механизме этического управления искусственным интеллектом в системе здравоохранения является перспективной задачей для создания надежного медицинского искусственного интеллекта.

Полный текст

Доступ закрыт

Об авторах

Юлия Юрьевна Кочетова

Алтайский государственный медицинский университет

Автор, ответственный за переписку.
Email: kochetova20@mail.ru
ORCID iD: 0000-0002-8116-7966

кандидат философских наук, доцент кафедры философии

Россия, 656038 Барнаул, проспект Ленина, д. 40

Список литературы

  1. Гребенщикова Е.Г., Чучалин А.Г. Уважая автономию пациента: добровольное информированное согласие в современной медицине // Медицинская этика. 2021. № 1. С. 12–16.
  2. Grebenshchikova E.G., Chuchalin A.G. Uvazhaya avtonomiyu pacienta: dobrovol’noe informirovannoe soglasie v sovremennoj medicine [Respecting Patient Autonomy: Voluntary informed Consent in Modern Medicine]. Medicinskaya etika. 2021. N 1. P. 12–16.
  3. Касьянов Е.Д., Ковалева Я.В., Мазо Г.Э. Цифровое фенотипирование как новый метод скрининга психических расстройств // Обозрение психиатрии и медицинской психологии имени В.М. Бехтерева. 2022. № 4. С. 96–100.
  4. Kasyanov E.D., Kovaleva Ya.V., Mazo G.E. Cifrovoe fenotipirovanie kak novyj metod skrininga psihicheskih rasstrojstv [Digital Phenotyping as a New Method of Screening for Mental Disorders]. Obozrenie psihiatrii i medicinskoj psihologii imeni V.M. Bekhtereva [V.M. Bekhterev Review of Psychiatry and Medical Psychology]. 2022. N 4. P. 96–100.
  5. Тополь Э. Искусственный интеллект в медицине: Как умные технологии меняют подход к лечению: пер. с анг. М.: Альпина Паблишер, 2022.
  6. Topol E. Iskusstvennyj intellekt v medicine: Kak umnye tekhnologii menyayut podhod k lecheniyu [Artificial Intelligence in Medicine: How Smart Technologies are Changing the Approach to Treatment], transl. from English. Moscow: Alpina Publisher, 2022.
  7. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // Официальный интернет-портал правовой информации. 11.10.2019 [Электронный ресурс]. URL: http://publication.pravo.gov.ru/Document/View/0001201910110003 (дата обращения:17.05.2023).
  8. Ukaz Prezidenta RF ot 10.10.2019 N 490 «O razvitii iskusstvennogo intellekta v Rossijskoj Federacii» (vmeste s «Nacional’noj strategiej razvitiya iskusstvennogo intellekta na period do 2030 goda») [Decree of the President of the Russian Federation No. 490 dated 10.10.2019 “On the Development of Artificial Intelligence in the Russian Federation” (together with the “National Strategy for the Development of Artificial Intelligence for the period up to 2030”)]. Ofitsial’nyi internet-portal pravovoi informatsii [Official Internet Portal of Legal Information]. 11.10.2019 [Electronic resource]. URL: http://publication.pravo.gov.ru/Document/View/0001201910110003 (date of access: 17.05.2023).
  9. Arnold M.H. Teasing out Artificial Intelligence in Medicine: An Ethical Critique of Artificial Intelligence and Machine Learning in Medicine. Bioethical Inquiry. 2021. Vol. 18. P. 121–139.
  10. Beam A.L., Drazen J.M., Kohane I.S., Leong T.Y., Manrai A.K., Rubin J. Artificial Intelligence in Medicine. New England Journal of Medicine. 2023. Vol. 388, N 13. P. 1220–1221.
  11. Bærøe K., Miyata-Sturm A., Henden E. How to achieve trustworthy artificial intelligence for health. World Health Organization Bulletin of the World Health Organization. 2020. Vol. 98, N 4. Р. 257–262.
  12. Beauchamp T.L., Childress J.F. Principles of biomedical ethics. Med Clin North Amer. 1994. Vol. 80. P. 225–243.
  13. Burrell J. How the machine “thinks”: Understanding opacity in machine learning algorithms. Big Data Society. 2016. Vol. 3, N 1. doi: 10.1177/2053951715622512
  14. Cohen I. Informed Consent and Medical Artificial Intelligence: What to Tell the Patient? The georgetown law journal. 2020. Vol. 108, N 1425. P. 1426–1462.
  15. Cohen I. What Should ChatGPT Mean for Bioethics? SSRN. 17.04.2023 [Electronic resource]. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id= 4430100 (date of access: 29.08.2023).
  16. Hall D.E., Prochazka A.V., Fink A.S. Informed consent for clinical treatment. CMAJ. 2012. Vol. 184, N 5. P. 533–540.
  17. McDougall R.J. Computer knows best? The need for value-flexibility in medical AI. J. Med. Eth. 2019. Vol. 45, N 3. P. 156–160.
  18. Meier L.J., Hein A., Diepold K., Buyx A. Algorithms for Ethical Decision-Making in the Clinic: A Proof of Concept. The American Journal of Bioethics. 2022. Vol. 22, N 7. P. 4–20.
  19. Pickering B. Trust, but Verify: Informed Consent, AI Technologies, and Public Health Emergencies. Future Internet. 2021. Vol. 13, N 5. P. 132.
  20. Sauerbrei A., Kerasidou A., Lucivero F., Hallowell N. The impact of artificial intelligence on the person-centred, doctor-patient relationship: some problems and solutions. BMC Med Inform Decis Mak. 2023. Vol. 23, N 73. doi: 10.1186/s12911-023-02162-y
  21. Wangmo T., Lipps M., Kressig R.W., Lenca M. Ethical concerns with the use of intelligent assistive technology: findings from a qualitative study with professional stakeholders. BMC Med Ethics. 2019. Vol. 20, N 9. doi: 10.1186/s12910-019-0437-z

© Российская академия наук, 2024

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».