Ethical and legal aspects of using generative artificial intelligence technologies in preparing qualification and scientific papers

Full Text

Введение

Научно-технический прогресс не стоит на месте, и развитие новых технологий во многом упрощает жизнь человечества в различных сферах. Тем не менее стремительный рост возможностей моделирования и имитации функций человеческого рассудка за последние пять лет, скачок в информационно-технологической оснащенности человечества несут в себе не только экономическую пользу, но и очевидные фундаментальные угрозы. Распространение технологий «искусственного интеллекта» стало началом неконтролируемого нарушения авторских прав во многих областях, начиная от художественных и музыкальных произведений и заканчивая научными работами (ИИ 2024; Музыкальная индустрия 2024). Особую социальную значимость данная проблема приобретает в сфере образовательных отношений, когда студенты (аспиранты) используют достижения науки и техники с целью ухода от самостоятельного написания работ [Ивахненко, Никольский 2023; Шольтц 2024; Резаев, Трегубова 2023].

Необходимо определить, что представляют собой те системы, которые используются в настоящее время. Толковый словарь по искусственному интеллекту дает несколько определений термина «искусственный интеллект» (англ. artificial intelligence, AI; далее – ИИ):

1) Научное направление, в рамках которого ставятся и решаются задачи аппаратного или программного моделирования тех видов человеческой деятельности, которые традиционно считаются интеллектуальными;

2) Свойство интеллектуальных систем выполнять функции (творческие), которые традиционно считаются прерогативой человека (Аверкин, Гаазе-Рапопорт, Поспелов 1992, с. 38).

Все существующие формы ИИ часто относят к слабому интеллекту. Под сильным же интеллектом понимают человеческий интеллект, наделенный сознанием, т. е. естественный интеллект [Дубровский 2021, с. 20].

В последнее время сложились три основные концепции этического регулирования ИИ:

1) подход, основанный на принципах (где набор принципов определяется конкретной компанией, государством или любой заинтересованной стороной на основе ее собственных представлений и предпочтений);

2) личностно ориентированный подход (где определяется персональная моральная ответственность конкретных субъектов за последствия действий искусственного интеллекта, в том числе непредсказуемые);

3) критический подход (где основным является субъект, т. е. человек, который может ставить под сомнение результат работы ИИ) [Ястреб 2024].

Искусственный интеллект имеет два направления: программно-прагматическое, которое исследует возможность создания программ-аналогов человеческой деятельности, и бионическое, которое посвящено воспроизведению живого организма (Аверкин, Гаазе-Рапопорт, Поспелов 1992, с. 6). В нашем случае целесообразно рассматривать только первый вариант, поскольку процесс образования свойственен только человеку и его воспроизведение и (или) замена являются исключительной деятельностью живого существа, обладающего разумом.

В рамках программно-прагматического направления с учетом специфики проводимого исследования наибольший интерес для нас представляют интеллектуальные программы, а именно естественно-языковые программы генерации (синтеза) текста. Под генерацией текста понимается «процесс порождения текста…; формирование схемы дискурса, т. е. последовательности, в которой должна быть изложена информация; заполнение схемы дискурса языковыми выражениями» (Аверкин, Гаазе-Рапопорт, Поспелов 1992, с. 30).

Исторически отдельные модели ИИ, получившие широкое распространение в 2010-х годах, могли генерировать только текст, но позднее появились и другие генеративные системы. Основным отличием генеративного искусственного интеллекта от обычного является создание самой программой условно нового «продукта» на основе доступных ему баз данных и (или) свободных источников в сети Интернет.

Наиболее распространенными видами генеративного искусственного интеллекта (далее – ГИИ) являются художественные и текстовые системы, которые не требуют обладания специальными знаниями для работы с ними, хотя существуют ГИИ языков программирования, молекулярно-биологический ГИИ и некоторые другие. Самые известные ГИИ обладают мультисистемностью и объединяют в себе сразу несколько видов.

Наиболее известными текстовыми ГИИ в России на сегодняшний день являются YandexGPT, GigaChat и ChatGPT. Генеративные предобученные трансформеры (от англ. generative pre-trained transformer, GPT) впервые появились в 2018 году и представляют собой языковые модели, которые способны генерировать текст и самостоятельно обучаться на определенном массиве данных [Radford, Narasimhan, Salimans, Sutskever 2024]. Однако эти модели способны не только генерировать условно новый текст, но и перефразировать уже имеющийся, предложенный пользователем текст или его фрагменты, чем в последнее время стали все чаще злоупотреблять.

Поводом для написания данной статьи послужила череда публикаций в средствах массовой информации об использовании ГИИ студентами, что вызвало неоднозначную реакцию научного и педагогического сообщества, а также общественности – нашлись как сторонники, так и противники использования ГИИ при подготовке ВКР и научных работ (В российских вузах 2024; Глава ВАК 2024; Существует опасность 2024). Позиция авторского коллектива формулируется в свете целей и задач классического гуманитарного образования, ориентированного на формирование развитой личности, субъекта, в своей профессиональной деятельности защищающего и осознанно осуществляющего систему ценностей Российской Федерации (Указ Президента РФ 2022).

Нормативные аспекты применения ГИИ

Возникшие ситуации требуют своего тщательного анализа и выработки позиции академического сообщества по данному вопросу. При первичном рассмотрении проблемы в ней можно выделить этический и нормативный аспекты, которые и попробуем проанализировать в настоящей статье.

Конституция Российской Федерации гарантирует право на образование (ст. 43), а также охрану интеллектуальной собственности (ч. 1 ст. 44) (Конституция 1993). Федеральный закон «Об образовании в Российской Федерации» (далее – «Закон об образовании») среди обязанностей педагогических работников отдельно выделяет развитие самостоятельности у обучающихся (п. 4 ч. 1 ст. 48, п. 2 ч. 3 ст. 50), а среди обязанностей самих обучающихся – самостоятельную подготовку к занятиям (п. 1 ч. 1 ст. 43) (Федеральный закон 2012). Также требования о самостоятельности как обязательной составляющей научной работы предъявляются к диссертациям на соискание ученой степени кандидата и доктора наук (Положение 2013). При этом подразумевается не только самостоятельность при подготовке к аудиторным занятиям в образовательной организации, но и при подготовке письменных работ – рефератов, курсовых работ, выпускных квалификационных работ, диссертаций и других текстов рукописей. Ведомственное регулирование на уровне подзаконных актов Министерства просвещения и Министерства науки и высшего образования РФ также исходит из самостоятельности обучения и самостоятельного выполнения учебных заданий обучающимся.

Созданные в процессе обучения продукты интеллектуальной деятельности подлежат правовой защите. На их страже стоит Гражданский кодекс Российской Федерации (далее – ГК РФ), который закрепляет охрану авторства бессрочно (п. 1 ст. 1267) (Гражданский кодекс 2006). Присвоение авторства (плагиат) влечет за собой уголовную ответственность (ст. 146 УК РФ) (Уголовный кодекс 1996). Высший судебный орган страны разъясняет, что плагиат может состоять, в частности, в объявлении себя автором чужого произведения, выпуске чужого произведения (в полном объеме или частично) под своим именем, издании под своим именем произведения, созданного в соавторстве с другими лицами, без указания их имени (Постановление 2007).

Проблема авторства студенческих и аспирантских работ не нова. Умение списывать всегда ценилось в студенческой среде. Но списывание чужих научных работ несет в себе не только негативную окраску с точки зрения этики. Это еще и может рассматриваться как противоправное поведение. Масштаб данной проблемы существенно увеличился на рубеже XX–XXI веков, когда высшее образование стало общедоступным, во многом благодаря большому количеству частных вузов. Это повлекло повышенный спрос со стороны студентов на различные письменные работы (рефераты, курсовые, дипломы). Появился целый рынок, на котором предлагались как готовые работы по тем или иным темам, так и возможность заказать соответствующую работу, которую исполнители обещали написать именно для заказчика.

В личной практике одного из авторов настоящей статьи был случай, когда студент в качестве своей работы показывал текст ВКР, который ранее был размещен в сети Интернет и доступен по одному из первых поисковых запросов по теме работы. При этом в ходе беседы со студентом удалось выяснить, что этот текст был не скачан им из сети Интернет, а куплен в какой-то организации, специализирующейся на написании подобного рода работ.

Еще одной иллюстрацией, подтверждающей непреходящую актуальность рассматриваемой проблемы, может являться гражданское дело, рассмотренное судом 15 лет назад, в далеком 2009 году. Истица обратилась в суд с требованием взыскать с ответчика денежные средства, уплаченные ею в качестве аванса за написание текста кандидатской диссертации. В обоснование своих требований истица указала, что после поступления в аспирантуру родила ребенка, в связи с чем не имела возможности писать диссертацию. Поэтому она обратилась в организацию, занимающуюся подготовкой и написанием курсовых, дипломных и диссертационных работ. Аванс ею был уплачен, но качество текста было низким, вследствие чего она просила переработать его, но успеха это не имело.

Рассмотрев заявленные исковые требования, на основе анализа материалов дела и нормативной базы суд пришел к единственно возможному выводу, из которого следует, что законодательство о порядке присуждения ученых степеней предусматривает, что «диссертация должна быть написана единолично, содержать совокупность новых научных результатов и положений, выдвигаемых автором для публичной защиты, иметь внутреннее единство и свидетельствовать о личном вкладе автора в науку». При таких обстоятельствах сделка была признана ничтожной по причине совершения с целью, заведомо противной основам правопорядка или нравственности (Архив 2009). Этот пример наглядно иллюстрирует неэтичность и противоправность использования внешних «помощников», к услугам которых нередко прибегают как студенты, так и аспиранты. В связи с этим вызывает удивление спор между двумя женщинами, рассмотренный в одном из московских районных судов (Информация по делу 2023). Между заказчиком и исполнителем был заключен договор возмездного оказания услуг на предоставление информации в разработке макета (образца) письменной работы, в качестве которой выступала докторская диссертационная работа по медицине. Однако предоставленный материал, по мнению заказчика, не соответствовал техническому заданию. Савеловский районный суд удовлетворил требования заказчика о взыскании оплаты, неустойки, денежной компенсации морального вреда, штрафа и судебных расходов, на момент написания настоящей статьи суд апелляционной инстанции не вынес решения по жалобам сторон.

Для того чтобы противостоять волне рерайта (от англ. rewriting – «переписывание»), были разработаны программы, направленные на выявление заимствованных текстов, например «Антиплагиат», TEXT.RU, «Анти antiplagiat» и другие. Данные программы далеки от совершенства, например, очень часто цитаты из нормативных актов ими распознаются как некорректные заимствования с сайтов студенческих работ. Авторы провели проверку цитат нескольких правовых норм через вышеназванные программы, и результаты показали, что при дословном цитировании ч. 3 ст. 43 Конституции РФ «Каждый вправе на конкурсной основе бесплатно получить высшее образование в государственном или муниципальном образовательном учреждении и на предприятии» система проверки показывает наличие некорректного заимствования из Устава Оренбургской области от 20 ноября 2000 г. № 724/213-ОЗ и информационного ресурса «Инфопедия», а п. 1 ст. 2 Закона об образовании, закрепляющий понятие образования – из курсовых и научно-исследовательских работ студентов по «кольцу вузов». Проведенные опыты и опыт работы авторов настоящей статьи в высшем учебном заведении свидетельствуют о том, что эта система, с долей оговорок, все же научилась распознавать некорректные заимствования, однако, несомненно, еще нуждается в доработке.

Тем не менее жизнь не стоит на месте, и со временем появился ГИИ, который внес свою лепту в образовательный процесс. Не так давно большой ажиотаж вызвало заявление Александра Жадана, выпускника РГГУ, который сообщил, что написал ВКР с помощью ChatGPT. При этом студент в интервью изданию «Коммерсантъ» высказался, что у него не было времени на написание выпускной работы самостоятельно, но и «заказывать» рукопись он не хотел, поэтому решил обратиться к ГИИ и создать необходимый алгоритм. Александр Жадан отметил, что «искусственный интеллект не заменит работу человека. … Важно не столько получить ответ и сразу его использовать, сколько осмыслить его и также переработать его самому» (Искусственный интеллект 2024). Администрация университета начала проверку, однако министр науки и высшего образования Российской Федерации высказал мнение, что к студенту нет необходимости применять какие-либо санкции, потому что «он проверил систему на прочность» (Фальков 2024). Несмотря на широкое обсуждение данной ситуации и разные оценки произошедшего, диплом о высшем образовании молодой человек все же получил.

Примерно в тот же период в зарубежном научном сообществе тревогу вызвала новость о том, что статья про использование GPT была написана с помощью программы ChatGPT, о чем рецензенты узнали уже после публикации и при прочтении не заметили, что текст написан с применением искусственного интеллекта (Статья 2024).

ГИИ в учебном процессе

Одна из задач настоящей статьи – понять, как работают различные модели ГИИ в учебном процессе, для чего была проведена серия опытов с использованием как отечественных, так и зарубежных систем. Были получены следующие результаты.

Опыт первый. Переписывание оригинального текста с помощью ГИИ. При использовании трех моделей ГИИ (YandexGPT, GigaChat, ChatGPT) необходимо определить, какие из них способны видоизменить предложенный фрагмент статьи, написанной одним из авторов настоящей работы и ранее уже опубликованной в научных изданиях и размещенной в системе РИНЦ (юридической направленности, объемом около 500 знаков), а при успешном выполнении первой задачи осуществить проверку сгенерированного текста в системе «Антиплагиат». Проверка фрагмента оригинального текста с использованием системы «Антиплагиат» показала, что процент оригинальности составляет 86,83 %, цитирования – 0 %, совпадения – 13,17 %.

1. YandexGPT. Не смог переписать предложенный фрагмент текста и повысить его оригинальность.
2. GigaChat. Переписал предложенный фрагмент текста и повысил его оригинальность. Проверка переработанного текста с использованием системы «Антиплагиат» показала, что процент оригинальности составляет 91,36 %, цитирования – 6,65 %, совпадения – 1,99 %. Однако появилось предупреждение о том, что «есть подозрения на следующие группы маскировки заимствований: сгенерированный текст».
3. ChatGPT. Переписал предложенный фрагмент текста и повысил его оригинальность. Проверка переработанного текста с использованием системы «Антиплагиат» показала, что процент оригинальности составляет 92,32 %, цитирования – 0 %, совпадения – 7,68 %. Предупреждение о том, что «есть подозрения на следующие группы маскировки заимствований: сгенерированный текст», не появлялось.

Вывод: только две из трех моделей ГИИ, а именно GigaChat и ChatGPT, справились с первой задачей и смогли переписать предложенный фрагмент оригинального текста. При проверке сгенерированного текста система «Антиплагиат» показала высокий процент оригинальности и невысокий уровень заимствования. Однако в одном случае текст получил отметку о возможном наличии сгенерированного текста.

Опыт второй. Попытка определения наличия ГИИ во фрагменте переписанного текста с помощью системы GigaCheck, разработанной для выявления текстов, созданных с применением ГИИ. При использовании двух моделей ГИИ (GigaChat, ChatGPT) необходимо проверить, возможно ли точно определить, какие переписанные с помощью них фрагменты текста будут определены как тексты, выполненные ИИ. При проверке будет выполнена проверка тех же фрагментов, что в первом опыте, и использована система GigaCheck, которая ориентирована именно на определение автора текста – модели ГИИ или человека.

1. GigaChat. Система определила переписанный данной моделью ГИИ фрагмент оригинального текста как текст, выполненный ГИИ.
2. ChatGPT. Система определила переписанный данной моделью ГИИ фрагмент оригинального текста как текст, выполненный человеком.

Вывод. Система GigaCheck определила наличие сгенерированного текста только в одном из двух случаев, что сопоставимо с результатами первого опыта.

Опыт третий. Попытка определения наличия ГИИ во фрагменте полностью сгенерированного текста. В предыдущих опытах были использованы переписанные фрагменты оригинального текста, которые при проверке не всегда определялись как тексты с использованием ГИИ. Необходимо проверить, возможно ли определить, какие из полностью сгенерированных фрагментов текста будут определены как тексты, выполненные ИИ. Система «Антиплагиат» в первую очередь направлена на выявление некорректных заимствований, поэтому в дальнейших опытах будет использована система GigaCheck.

1. GigaChat. Система определила переписанный данной моделью ГИИ фрагмент оригинального текста как текст, выполненный ГИИ.
2. ChatGPT. Система определила переписанный данной моделью ГИИ фрагмент оригинального текста как текст, выполненный ГИИ.

Вывод. Система GigaCheck определила наличие сгенерированного текста в обоих случаях. Таким образом, с наибольшей долей вероятности возможно определить полностью сгенерированный текст, выявление переписанного оригинального текста вызывает затруднение.

Опыт четвертый. Проверка только оригинального текста. Необходимо проверить работоспособность системы GigaCheck, для чего будет использовано несколько фрагментов оригинального текста, написанного человеком без использования ГИИ. В качестве образцов будут выступать части статьи одного из авторов настоящей работы, которая ранее уже была опубликована в научных изданиях и размещена в системе РИНЦ.

1. Фрагмент № 1. Система не определила наличие текста, выполненного ГИИ.
2. Фрагмент № 2. Система не определила наличие текста, выполненного ГИИ.
3. Фрагмент № 3. Система определила наличие текста, выполненного ГИИ.

Вывод. В большинстве случаев возможно определить, кем был написан небольшой фрагмент текста, однако иногда текст, переписанный моделью ГИИ, система GigaCheck считает написанным человеком, а оригинальный текст – написанным моделью ГИИ.

Опыт пятый. Попытка выдать фрагмент оригинального текста за текст, написанный моделью ГИИ. Система GigaCheck посчитала один из фрагментов оригинального текста как текст, написанный моделью ГИИ. Необходимо определить, насколько следует изменить фрагмент, чтобы выдать его за текст, написанный человеком или моделью ГИИ. В данном опыте будут взяты и отредактированы авторами фрагменты текста, которые использовались в четвертом опыте.

1. Фрагмент № 1 (результат первой проверки: текст выполнен человеком). При повторной проверке система показала, что текст выполнен моделью ИИ. Попыток редактирования: 3.
2. Фрагмент № 2 (результат первой проверки: текст выполнен человеком). При повторной проверке система показала, что текст выполнен моделью ИИ. Попыток редактирования: 1.
3. Фрагмент № 3 (результат первой проверки: текст выполнен моделью ГИИ). При повторной проверке система показала, что текст выполнен человеком. Попыток редактирования: 3.

Вывод. Систему проверки GigaCheck можно обойти и выдать текст, написанный человеком, за текст, написанный моделью ГИИ, и наоборот. При этом фрагменты текста претерпевают минимальные изменения. Вероятно, определение автора текста происходит по использованию обобщений, длине предложения, наличию сложноподчиненных элементов предложения, а также другим признакам.

Для наглядности приведем фрагменты оригинального текста, которые использовались в четвертом и пятом опытах (см. таблицу).

С учетом всех вышеприведенных кейсов, имевших место в отечественных вузах и вызвавших яркую реакцию в СМИ, можно сделать вывод, что большое количество студентов начали использовать ГИИ, во-первых, для повышения оригинальности текста ВКР, рефератов и иных студенческих работ, во-вторых, для избавления себя от необходимости самостоятельного написания указанных работ.

Понимая угрожающий характер рассматриваемой ситуации, некоторые вузы стали реагировать на это созданием локальных актов. Основными моделями реагирования со стороны администрации образовательных организаций стали следующие:

1. Запрет использования ГИИ в научных работах и наказание виновных за нарушение. Как правило, подавляющее большинство высших учебных заведений отказались от использования ГИИ в выпускных работах студентов, за исключением тех случаев, когда тема работы посвящена вопросам ИИ или затрагивает их. В большинстве вузов на настоящее время локальных актов, регулирующих рассматриваемую проблему, не принято, и они руководствуются уже существующими правилами подготовки ВКР, а использование ГИИ в рукописях приравнивается к некорректному заимствованию.
2. Допущение использования ГИИ в научных работах с обязательным указанием в работе того, что текст создан с применением генеративных технологий. МГПУ одним из первых разрешил использовать ГИИ «в качестве инструмента для анализа контекста, подбора идей и материала для выполнения ВКР и других учебных заданий» (Приказ ГАОУ ВО МГПУ 2023). ВШЭ допускает применение «алгоритмов автоматической генерации контента» только при условии обязательного указания целей и способов использования, а также степени влияния на оригинальность работы (Приказ НИУ ВШЭ 2024). ТюмГУ требует указания цели использования ГИИ, а также обязательного подтверждения полученной таким образом информации «ссылками на надежные источники» и соблюдения этических норм и законодательства об авторском праве (Приказ 2024).

Полагаем, что в условиях отсутствия должного регулирования такой очень значимой сферы существует несколько вариантов выхода из сложной ситуации и придания фактически существующим отношениям легального характера. Во-первых, возможно применение закона или права по аналогии: в ГК РФ уже есть общие правила охраны авторских прав и меры ответственности за их нарушение. Во-вторых, сегодня в некоторых сферах имеет место использование технологий мягкого права, которое на примере компьютерных игр содержит в себе правила, созданные игровой площадкой [Ivanov, Trubnikova, Churilov 2023]. В сфере высшего образования таковым может быть принятие локальных актов самими образовательными организациями или их подразделениями. В-третьих, разработка нормативного механизма, регламентирующего основания, условия, порядок использования ГИИ при подготовке научных и учебных работ. Нелишним при этом было бы использование имеющихся технических возможностей по выявлению сгенерированного текста. Однако в настоящее время разработчики ГИИ не раскрывают алгоритмов генерации и в ответ на прямые запросы об их раскрытии пока отвечают отказом (OpenAI 2024). Не отрицая необходимости сохранения коммерческой тайны, авторы настоящей статьи исходят из того, что в рамках определения разумного баланса публичных и частных интересов в данном вопросе алгоритмы генерации должны быть известны и позволять распознавать тексты, сгенерированные с помощью ИИ. Альтернативным вариантом видится возложение на разработчиков ГИИ обязанности создать самим аналог системы «Антиплагиат» и обеспечить к нему доступ пользователей на бесплатной или коммерческой основе.

Проблема субъектности в свете ГИИ. Выводы

Несамостоятельный текст квалификационной работы – проблема, подрывающая фундамент института образования. Функция образования – трансформирование человека таким образом, чтобы он был в состоянии познавать и действовать на новом, недоступном без образования уровне сложности, соответствующем актуальному техническому, научному и культурному уровню нашего общества [Нестеров 2021]. Имитация образовательных процессов – исполнение образовательных функций без фактической трансформации субъекта – влечет кризис субъектности, угрожающий безопасности и национальным интересам РФ.

Система образования выработала вполне успешные механизмы снятия рисков для традиционных приемов имитации, таких как списывание или заказные работы. ГИИ же создает принципиально новый, фундаментальный вызов субъектности, замещая сугубо человеческую способность к творчеству статистической перекомбинацией ничего не значащих символов. Субъектность на уровне индивида подразумевает сформировавшийся в последние две с половиной тысячи лет аппарат навыков выражения и понимания, способность учитывать положения дел в объективной и субъективной реальности, формулировать цели, принимать решения и осуществлять их в акте деятельности [Нестеров 2023]. Субъектность на уровне коллектива характеризуется свойствами целеустремленности, рефлексивности, коммуникативности, социальности, способности к развитию [Лепский 2023]. Формирование этих свойств – задача системы образования, решаемая путем управления коммуникативной, рецептивной и проективной деятельностью обучающихся. Конвейерное машинное имитирование субъектности и ее свойств ведет к потере личностного начала в человеке, к отчуждению от истории и культуры как систем небиологического наследования информации, к безвозвратному нарушению технико-гуманитарного баланса и тем самым – к недостижимости целей метакосмического развития человека, заданных научно-техническим прогрессом.

Мы считаем, что сферы и способы применения ГИИ в образовательных и научных процессах должны быть четко регламентированы как с правовой, так и с этической точки зрения. Система оценивания квалификационной работы может быть применена только в отношении ее автора в силу того, что выпускная квалификационная работа свидетельствует об уровне знаний и соответствующих компетенций у студента-выпускника и аспиранта. Обучающийся, студент или аспирант, обязан демонстрировать самостоятельное обладание знаниями и самостоятельную способность их применять.

About the authors

V. V. Ivanov

Samara National Research University

Author for correspondence.
Email: ivanov_sl@rambler.ru
ORCID iD: 0000-0002-9915-0521

Candidate of Legal Sciences, associate professor, director of the Legal Clinic, associate professor of the De-partment of Criminal Procedure and Forensic Science

Russian Federation, 34, Moskovskoye shosse, Samara, 443086, Russian Federation

A. Yu. Nesterov

Samara National Research University

Email: phil@ssau.ru
ORCID iD: 0000-0002-0670-9315

Doctor of Philosophy, associate professor, director of the Institute of Social Sciences and Humanities, head of the Department of Philosophy

Russian Federation, 34, Moskovskoye shosse, Samara, 443086, Russian Federation

I. P. Yanchenko

Samara National Research University

Email: irlio.yan@gmail.com
ORCID iD: 0009-0002-2687-6505

specialist in educational and methodological work of the Legal Clinic

Russian Federation, 34, Moskovskoye shosse, Samara, 443086, Russian Federation

References

Supplementary files