Пределы использования искусственного интеллекта в правоприменительной деятельности органов власти

Введение. Постепенное внедрение цифровых технологий в сферу публичного управления привело к качественному изменению способов осуществления правоприменительной деятельности. Указанный процесс сопряжен с изменением природы публичной власти. В рамках концепции алгоритмического общества, разработанной, в частности, Д. Сартором и Х-В. Миклитцем, акцентируется внимание на том, что решения, ранее принимаемые должностными лицами, все чаще формируются на основе автоматизированной обработки массивов данных [16]. Тем самым происходит смещение центра принятия решений от субъекта, обладающего юридической ответственностью и дискрецией, к системе, функционирующей на основе заданных алгоритмов.

Взаимодействие между государством и гражданином все в большей степени осуществляется посредством цифровых платформ, что усиливает зависимость реализации прав от алгоритмических решений. В этих условиях ключевым становится вопрос о пределах использования искусственного интеллекта (ИИ) в правоприменении и допустимости передачи ему функций, связанных с принятием властных решений.

Таким образом, использование ИИ в правоприменении следует рассматривать как неизбежный этап цифровизации государственного управления, который, однако, требует установления четких правовых пределов. Эти пределы обусловлены необходимостью соблюдения принципов конституционализма, включая верховенство права, защиту прав и свобод человека, а также обеспечение подотчетности публичной власти. 1. Трансформация правоприменения в условиях алгоритмического общества.

Цифровизация государственного управления сопровождается постепенным переходом от модели, основанной на индивидуальном усмотрении должностного лица, к модели, в которой ключевую роль играет обработка и анализ данных. В данном контексте правоприменение начинает опираться не столько на интерпретацию норм, сколько на алгоритмические процедуры, формирующие решения на основе заранее заданных параметров.

Указанная тенденция находит теоретическое выражение в концепции алгократии (algocracy), разработанной, в частности, Дж. Данахером [12]. В рамках данного подхода подчеркивается, что власть приобретает алгоритмическое измерение, при котором значительная часть управленческих решений формируется автоматизированными системами. Похожую позицию занимает Д. Сартор, который считает, что ряд задач, выполнимых представителями власти, сейчас постепенно переходят на алгоритмы [16]. К таким задачам можно отнести анализ правовой ситуации, изучение больших объемов документов и пр. Однако такая тенденция провоцирует появление рисков, связанных с эффективностью работы алгоритмов и увеличения вероятности того, что система не заметит тот или иной юридический нюанс. Кроме того, невозможно в полной степени проконтролировать, как именно алгоритм пришел к выводу. Такую проблему выделяет Ф. Паскуале: логика машины, если речь идет об ИИ, не всегда улавливается оператором этой машины. Из-за этого под угрозу ставится принцип обоснованности решения.

Изменения законодательной базы связаны с трансформацией административных процедур. Так, М. Бовенс и С. Зуридис показывают, что бюрократия претерпевает изменения от «уличного» уровня к «системному» [10]. Под этим подразумевается то, что ранее решения принимались конкретными государственными служащими, а сейчас их заменили информационные системы. Такую тенденцию можно проследить при анализе автоматизации законодательного процесса. Как правило, работа алгоритма состоит из трех этапов:

1. Сбор информации.

2. Анализ данных.

3. Предварительные выводы.

Риски увеличиваются в том случае, если алгоритму предписывается сформулировать не только предварительный вывод, но и окончательное решение. И.Л. Бачило также обращает внимание на всеобъемлющий характер автоматизации [1]. Причем, по мнению автора, речь идет не просто об обновлении технического обеспечения, а о принципиальных изменениях механизмов реализации публичной власти. Е.В. Талапина в этой связи считает, что сложные юридические конструкции меняются на четкие алгоритмические правила [7].

Таким образом, снижение роли человеческого фактора в процессе принятия решений имеет двойственный характер. С одной стороны, алгоритмы могут способствовать исключению возможности принятия произвольных решений. С другой, ИИ не способен отдельно рассматривать обстоятельства дела. В вопросах, связанных с соблюдением прав человека, это может иметь решающее значение, когда речь идет о принципах соразмерности, справедливости и индивидуализации наказания.

2. Ограничения использования ИИ в законодательной деятельности.

Обратной стороной риска, связанного с отсутствием индивидуализации решения ИИ является недостаточный нейтралитет системы. Д. Коэн [1] и Е.В. Бродовская [2] указывают на угрозу закрепления алгоритмами ИИ существующего неравенства, поскольку вводные данные будут отражать действующие социальные и экономические структуры. Например, это может выражаться в дифференциации доступа к публичным благам в процессе правоприменения.

Кроме того, при использовании ИИ происходит масштабный сбор и анализ данных, что создает угрозу для защиты персональных данных и право на приватность. В этой связи М. Хильдебрандт [14] и М.А. Федотов [8] выделяют сразу несколько рисков:

–упрощение отслеживания поведения людей; –нарушение презумпции невиновности; –нарушение свободы выражения.

Дополнительно возникает проблема ограничения свободы выражения, связанная с автоматизированной модерацией и фильтрацией информации. В данном случае алгоритм принимает решения, влияющие на доступ к публичной коммуникации, что требует правовой оценки с точки зрения допустимости такого вмешательства.

Одним из наиболее сложных вопросов является определение субъекта ответственности за решения, принятые с использованием алгоритмических систем. В традиционной модели правоприменения ответственность несет конкретное должностное лицо или орган, принявший решение. В условиях автоматизации данная связь размывается. Как отмечает А. Симоничини, алгоритмическое управление приводит к фрагментации ответственности, поскольку в процессе принятия решения участвуют разработчики, операторы и государственные органы [20]. Это создает ситуацию, при которой ни один из участников не обладает полной ответственностью за результат.

А.В. Минбалеев указывает на необходимость разработки специальных механизмов правового регулирования, направленных на распределение ответственности в цифровой среде [6]. В отсутствие таких механизмов возникает правовая неопределенность, препятствующая эффективной защите прав и интересов граждан.

Алгоритмизация правоприменения сопровождается изменением структуры публичной власти, в рамках которой значительная часть управленческих функций реализуется с участием частных технологических субъектов. Это приводит к смещению центра принятия решений за пределы традиционной системы государственных органов. О. Полличино указывает на трансформацию конституционного пространства, в котором частные цифровые платформы начинают выполнять функции, сопоставимые с государственными [18]. В результате классические механизмы контроля, ориентированные на публичную власть, оказываются неэффективными. Сходную позицию занимает А.Н. Медушевский, отмечающий, что развитие цифровых технологий требует пересмотра традиционных подходов к конституционализму [5]. Возникает необходимость адаптации институтов контроля к новым формам власти, в том числе алгоритмической.

Ослабление конституционного контроля проявляется в невозможности эффективного надзора за алгоритмическими системами, используемыми в правоприменении. Это создает риск формирования автономных механизмов принятия решений, функционирующих вне рамок установленных правовых процедур.

3. Пределы использования ИИ в правоприменении: «красные линии».

Как отмечают Г. Сартор [19] и В.А. Кряжков [4], алгоритмические системы могут только воспроизводить правовые рассуждения человека, следовать схемам, которые заложены в код. То есть, ИИ лишен правосознания, у него нет воли, а значит, алгоритм не способен нести юридическую ответственность и быть носителем публичной власти.

Ф. Паскуале предостерегает от модели «автоматического правосудия», в которой решения принимаются без участия человека [17]. И.А. Кравец указывает на необходимость процедурных гарантий, которые бы служили предохранителем против полной автоматизации правоприменения [3].

Кроме того, алгоритмизация ограничивает пространство дискреции правоприменителя. Это может иметь положительное влияние,однако полное ограничение противоречит самой природе правоприменения.

Исходя из всего сказанного выше, можно выделить основные критерии для оценки допустимости использования алгоритмов:

1. Соответствие конституционным принципам. 2. Баланс между правами личности и публичными интересами.

3. Отсутствие неопределенности в правовом положении субъекта.

4. Обеспечение механизмов контроля и обжалования решений ИИ.

Конкретизация пределов использования ИИ требует определения областей, в которых его применение должно быть ограничено или исключено. Недопустимыми являются:

–полностью автоматическое принятие судебных решений; –применение санкций на основе предиктивных моделей без установления факта правонарушения; –вынесение решений без обеспечения возможности их обжалования.

В то же время допустимым представляется использование алгоритмических систем в качестве вспомогательного инструмента, обеспечивающего обработку информации, выявление закономерностей и подготовку аналитических материалов. В данном случае алгоритм не подменяет правоприменение, а лишь содействует его осуществлению.

Пределы использования искусственного интеллекта в правоприменительной деятельности определяются невозможностью делегирования алгоритму властной дискреции и юридической ответственности. Алгоритм может участвовать в подготовке решения, но не способен заменить субъект публичной власти, обладающий необходимыми правовыми характеристиками.

Заключение. Проведенный анализ позволяет рассматривать алгоритмизацию правоприменительной деятельности как закономерный этап развития государственного управления. Использование ИИ способствует изменению процедур принятия решений и расширяет возможности обработки информации, однако не изменяет базовых требований, предъявляемых к публичной власти.

Использование ИИ ограничено принципами конституционализма, включая верховенство права, защиту прав и свобод человека, а также требованиями прозрачности и подотчетности. Нарушение указанных принципов приводит к утрате правовой природы принимаемых решений.

Таким образом, «красная линия» в использовании ИИ проходит там, где алгоритм начинает подменять человеческое усмотрение в решениях, затрагивающих права и свободы человека. За пределами этой границы алгоритмизация утрачивает вспомогательный характер и вступает в противоречие с основами правового государства.