Право. Журнал Высшей школы экономики

В эпоху активного освоения искусственного интеллекта (ИИ) перед юристами встает вопрос, как решить проблему «черного ящика», непонятности и непредсказуемости решений, принимаемых искусственным интеллектом. Разработка правил, обеспечивающих прозрачность и понятность алгоритмов ИИ, позволяет вписать его в классические правоотношения, устраняя угрозу институту юридической ответственности. В частном праве защита потребителей перед лицом крупных онлайн-платформ выдвигает прозрачность алгоритмов на первый план, меняя само обязательство по предоставлению информации потребителю, которое теперь описывается формулой «знать + понимать». Аналогично и в праве публичном — государства не в состоянии должным образом защитить граждан от вреда, причиняемого зависимостью от алгоритмов при оказании государственных услуг. Противопоставить этому можно только знание и понимание функционирования алгоритмов. Требуется принципиально новое регулирование, позволяющее ввести использование искусственного интеллекта в легальные рамки, в которых следует формулировать требования к прозрачности алгоритмов. Эксперты активно обсуждают создание нормативной базы для формирования системы наблюдения за внедрением и использованием технологий ИИ. Разрабатываются меры «политики алгоритмической подотчетности», фреймворк «Прозрачность через проектирование» с акцентом на постоянном взаимодействии с заинтересованными сторонами и организационной открытости, обосновывается внедрение объяснимых систем ИИ. В целом предлагаемые подходы к регулированию ИИ и обеспечению прозрачности схожи, равно как и прогнозы о смягчающей роли прозрачности алгоритмов ИИ в вопросах доверия к ИИ. Интересна концепция «алгоритмического суверенитета», относящаяся к способности государства управлять разработкой, развертыванием и воздействием систем ИИ в соответствии с собственными правовыми, культурными и этическими нормами. Обеспечение прозрачности алгоритмов ИИ — направление общей политики управления в области ИИ, важнейшей частью которой является этика ИИ. Несмотря на кажущуюся универсальность, этика ИИ не всегда учитывает все разнообразие этических конструкций в разных уголках мира, что демонстрирует африканский пример и опасения алгоритмической колонизации.

В условиях активного внедрения автоматизированных систем принятия решений и систем искусственного интеллекта в деятельность органов публичной власти актуализируется проблема поддержания надлежащего уровня прозрачности государственного управления, имеющая критическое значение для соблюдения принципов верховенства права и защиты фундаментальных прав граждан. Настоящая работа ставит целью провести комплексную систематизацию и критический анализ сложившихся в российском и зарубежном праве, а также в правовой теории подходов к решению указанной проблемы. Методологическую основу исследования составили общенаучные (анализ, синтез, системный подход) и частные (сравнительно-правовой, формально-юридический) методы изучения. В статье рассматриваются концептуальные основания и практические вызовы реализации требований прозрачности и объяснимости автоматизированного принятия решений и систем искусственного интеллекта, включая их роль в повышении доверия, обеспечении подотчетности, предотвращении дискриминации и укреплении легитимности публичного управления. Основное внимание уделено критическому анализу широкого спектра механизмов прозрачности (классифицируемых, в частности, по направленности на систему в целом или на отдельное решение, а также по моменту сообщения информации — ex ante или ex post): раскрытие порядка или логики принятия решений, «право на объяснение», контрфактологические объяснения, раскрытие данных и программного кода/модели, аудит и общественный контроль, информирование о применении, а также использование объяснимых/интерпретируемых моделей и иных технических решений. По каждому механизму выявлены преимущества, недостатки и трудности реализации — конфликт с защитой интеллектуальной собственности, техническая затрудненность имплементации и интерпретации, «эффект Расёмона» и фундаментальная проблема «черного ящика» систем искусственного интеллекта. Обосновывается вывод о недостаточности применения отдельных инструментов и необходимости разработки гибкого, риск-ориентированного и контекстуально-зависимого комплексного подхода. Подчеркивается актуальность имплементации адаптированных и системно увязанных механизмов в российское законодательство для поддержания надлежащего уровня прозрачности в условиях автоматизации государственного управления в России.

В юридической литературе значительное внимание традиционно уделяется правовой природе договора о технологическом присоединении в электроэнергетике. Однако практически отсутствуют работы, в которых проводится правовой анализ характера заявки на технологическое присоединение. В дополнение к этому недостаточно исследованным является вопрос правового значения технических условий, выдаваемых сетевой организацией, по общему правилу, до заключения договора. Вместе с тем правила, порядок и условия направления заявки и выдачи технических условий влияют на правовую природу, так как определяют и ее, и порядок признания договора о технологическом присоединении заключенным. Последнему вопросу в научных и практических публикациях также уделяется незначительное внимание в части возможности признания договора заключенным в связи с подготовкой сетевой организацией технических условий на основании заявки. В настоящей работе показано несовершенство правовой трансплантологии и применения в законодательстве об электроэнергетике ряда правовых инструментов, предусмотренных гражданским законодательством. С одной стороны, в законодательстве декларируется распространение на договор о технологическом присоединении специального правового режима публичного и обязательного договора. С другой — установленный подзаконными актами порядок его заключения не соответствует правовым моделям таких договоров, поскольку игнорирует содержание этих правовых инструментов и искажает его. Так, непризнание заявки о технологическом присоединении офертой о заключении этого договора исключает не только возможность ее акцепта сетевой организацией посредством конклюдентных действий путем направления заявителю технических условий, но также нарушает непосредственно публичный характер договора. Указанное, в свою очередь, исключает возможность заявителя требовать у сетевой организации исполнения технических условий. Заявитель лишь имеет право требовать у сетевой организации заключения договора. Таким образом, при его заключении предложено использовать правовую модель договора о присоединении. В таком случае допускается полноценное применение к отношениям по технологическому присоединению правил о публичных и обязательных для заключения договорах.

В современных политико-правовых и социально-экономических условиях суд действует в целях охраны неотчуждаемых прав личности (на безопасность, личную неприкосновенность, уважение чести и достоинства и др.), гарантированных Конституцией, и контроля законности, обоснованности процессуальных действий (бездействия)/решений властных субъектов досудебного производства. Действие института обжалования в досудебном производстве способствует устранению допущенных властными субъектами процессуальных ошибок и нарушений закона. Одновременно осуществление судебного контроля по жалобам подозреваемого, обвиняемого, защитника, потерпевшего указывает на комплекс правовых и правоприменительных проблем, требующих обсуждения юридическим сообществом, а также изменения уголовно-процессуального законодательства и оптимизации уголовно-процессуальной практики. Автором на основе методологии научного познания проведено теоретико-прикладное исследование указанной проблематики и обоснованы пути решения проблем, выявленных в ходе его осуществления. Формулируется вывод о необходимости совершенствования института судебного обжалования действий (бездействия) и решений властных субъектов досудебного производства, для чего существуют условия правового, организационно-правового, технологического характера. Это аргументируется как доводами автора, так и научными позициями других ученых. Цель исследования заключается в теоретико-правовом и научно-практическом обосновании необходимости изменения уголовно-процессуального законодательства, включая выработку предложений, подлежащих внесению в него, и оптимизации уголовно-процессуальной практики, направленных на повышение результативности применения мер уголовно-процессуального характера, действенную защиту прав и законных интересов участников досудебного уголовного производства. Методы исследования: диалектический, формально-логический, конкретно-социологический, статистический, контент-анализ, юридико-технический анализ, историко-правовой. Сделан вывод, что востребованное в настоящий период российской государственности развитие уголовно-процессуальной политики предопределяет необходимость правильного понимания назначения института судебного обжалования в досудебном производстве, потребность в оптимальном порядке рассмотрения судом жалоб на действия (бездействие)/решения следователя, дознавателя, их процессуальных руководителей, прокурора, целесообразность установления процессуальных гарантий прав лиц, участвующих в судебном обжаловании на стадиях возбуждения уголовного дела и предварительного расследования.

Расширение спектра и изменение характера односторонних санкций отдельных государств привело к появлению нового термина — «вторичных» санкций (в противовес более традиционным «первичным» санкциям). В ответ отдельные государства и их союзы стали принимать законы, направленные на достижение в первую очередь политических целей с помощью контрсанкций. Практически большинство действующих в различных странах законов о блокировке содержат положение о несоблюдении, запрещающее частным лицам и организациям соблюдать, например, законы США о санкциях, которые применяются за пределами этой страны и имеют экстерриториальный характер. Блокирующие законы являются важными вехами в продолжающихся дебатах о нелегитимности вторичных санкций. Реализация положения о несоблюдении подверглась резкой критике за создание ситуации, при которой частные операторы сталкиваются с дилеммой: в каком случае соблюдение закона о блокировке приведет к нарушению тех же правил о санкциях США, а в каком — vice versa. Санкционное давление связано зачастую с необходимостью субъектов одного государства приспосабливаться к применимости более чем одной правовой системы с противоположными векторами законодательной политики. Таковы правовая действительность и естественное следствие современного многополярного мира. Используя блокирующие законы в качестве внутренних правовых механизмов, государства не только способствуют соблюдению международных стандартов экстерриториального правотворчества, сокращая ссылки на заблокированные иностранные нормы, но и защищают собственные суверенные интересы, регулируя степень применимости иностранного права и уменьшая количество нормативных обязательств, которые субъекты данного государства вынуждены порой выполнять vis-à-vis к множеству других правопорядков. Тем временем геополитическая конкуренция в этом контексте породила интенсивное, острое юридическое соперничество и коллизии при правовой регламентации экономических отношений в глобальном трансграничном пространстве, которые еще предстоит преодолеть современной цивилизации.

Конвенцию ООН по морскому праву 1982 года нередко называют «Конституцией океанов»: она регулирует все виды использования Мирового океана и признана практически всеми государствами. Прошедшие полвека были временем интенсивного развития технологий и появления новых видов морской деятельности; потепление климата привело к подъему уровня моря и изменению делимитации во многих местах. Необходимо внесение поправок. Самым действенным средством являются ежегодные совещания государств-участников Конвенции, в которых принимают участие и государства, не участвующие в Конвенции, и международные организации. Совещание обсуждает отчеты органов, созданных Конвенцией, и это способствует выработке общего мнения. Принимаются также имплементационные соглашения. В ходе последнего по времени Совещания было отмечено, что растущее количество дел на рассмотрении Международного трибунала по морскому праву свидетельствует о доверии, которое ему оказывают государства. Отмечена также важность работы Органа по морскому дну, в мандат которого входит осуществление концепции общего наследия человечества, по разработке нормативной базы добычи минеральных ресурсов в Районе. Обсуждению подвергся также новый, не урегулированный Конвенцией вопрос, — о сохранении придонной среды в процессе разработок морского дна. Объектом обсуждения стали проблемы правопорядка в Северном Ледовитом океане, который в ходе Третьей конференции ООН по морскому праву был оставлен без внимания, поскольку тогдашняя ледовая обстановка не привлекала внимания к Арктике. Теперь, вследствие таяния полярных льдов, популярной стала идея распространения на Арктику общего морского правопорядка. По мнению автора статьи, это не соответствует международному праву: Конвенцию ООН по морскому праву следует квалифицировать как замкнутый договорный режим. Это обособленная часть международного права, и содержащиеся в ней нормы в принципе не распространяются на Северный Ледовитый океан. В целом же процесс внесения изменений в правопорядок, установленный Конвенцией — это обычно-правовое развитие договорных положений.

Текущее регулирование отношений, возникающих в связи с осуществлением основным обществом корпоративного контроля над дочерним (отношения подконтрольности), в российском праве является недостаточно ясным и последовательным. В законе, доктрине и судебной практике России не определены границы применения правил п. 2 и п. 3 ст. 67.3 Гражданского кодекса, поэтому они в равной мере применяются к отношениям подконтрольности, возникающим как на основании преобладающего участия в уставном капитале общества, так и на основании договора или из иных оснований. Подобная неопределенность правового регулирования вызывает серьезные трудности в догматической проработке и объяснении таких базовых конструкций, как право основного общества давать указания дочернему, солидарная ответственность основного общества по сделкам дочернего, заключенным во исполнение указания, ответственность основного общества перед дочерним за дачу ему невыгодных указаний. В связи с этим важной задачей является четкое определение правовой природы и особенностей таких категорий, а также встраивание их в имеющуюся систематику российского корпоративного права. Для достижения указанных целей в статье проводится анализ немецкой судебной практики и доктрины, где исследуются отношения подконтрольности на основании договора между зависимыми обществами, известные как институт «договорного концерна». Автор приходит к выводу, что солидарная ответственность основного общества по обязательствам дочернего основывается на доктрине «проникающей ответственности» и концепции «ответственности концерна за нарушение доверия», а право давать указания необходимо понимать как юридические действия основного общества по управлению исполнительным органом дочернего, объем которых определяется договором, но не может затрагивать компетенцию иных органов управления. Сделан вывод, что исполнительные органы должны соблюдать обязанность заботливости при даче указаний обществу, а в ряде случаев к ответственности помимо основного общества в целом могут быть привлечены члены его исполнительных органов.