Искусственный интеллект и презумпция добросовестности: правовые границы предиктивной аналитики в государственном аудите

Введение

Цифровая трансформация государственного управления неизбежно затрагивает и сферу государственного аудита [2]. Одним из наиболее перспективных, но одновременно и наиболее дискуссионных направлений внедрения технологий искусственного интеллекта в деятельность контрольных органов становится предиктивная аналитика – прогнозирование вероятности нарушений на основе обработки больших массивов данных. В частности, Счетная палата РФ в рамках риск-ориентированного подхода к планированию проверочных мероприятий все чаще использует алгоритмические модели для выявления зон риска среди подконтрольных субъектов.

Кроме того, использование искусственного интеллекта открывает очевидные возможности: повышение эффективности аудита, концентрация ограниченных контрольных ресурсов на наиболее проблемных направлениях, переход от реактивного (по факту нарушения) к превентивному контролю [4]. Однако одновременно оно порождает глубокий правовой конфликт, который в настоящее время не имеет четкого законодательного регулирования.

Речь идет о столкновении двух начал. С одной стороны – презумпция добросовестности, закрепленная в статье 10 Гражданского кодекса РФ и развитая в правовой позиции Конституционного Суда [8]. Согласно этому принципу, пока не доказано иное, участник правоотношений предполагается действующим разумно и добросовестно. Контролирующий орган не может относиться к подконтрольному субъекту как к потенциальному нарушителю без достаточных к тому оснований.

С другой стороны – логика самой предиктивной аналитики, которая всегда оперирует вероятностями и корреляциями. Алгоритм, обученный на прошлых нарушениях, присваивает организации высокий уровень риска не потому, что она уже нарушила закон, а потому, что ее устройство и сфера деятельности статистически схожи с паттернами тех, которые нарушали ранее. Иными словами, искусственный интеллект подозревает, но не доказывает нарушения.

Ключевая правовая проблема заключается в том, что если такая алгоритмическая «метка риска» становится основанием для проведения внеплановой проверки в отношении государственного органа или юридического лица, то фактически презумпция добросовестности уступает место негласной презумпции виновности, выведенной из статистических моделей. Добросовестный объект вынужден оправдываться и доказывать свою чистоту, хотя юридически бремя доказывания лежит на контрольном органе. При этом само решение алгоритма может оставаться «черным ящиком» – непрозрачным и необъяснимым и, следовательно, его сложно обжаловать [6].

Поэтому необходимо определить правовые границы применения предиктивной аналитики в государственном аудите. Для этого необходимо решить следующие задачи: определить юридическую природу алгоритмического риск-профилирования, проанализировать практику его применения, выявить конфликт между презумпцией добросовестности и логикой прогнозных моделей, проанализировать риски дискриминации добросовестных объектов контроля и предложить правовые механизмы, позволяющие сохранить фундаментальные гарантии при внедрении искусственного интеллекта в контрольную деятельность, с учетом опыта Счетной палаты РФ и других контрольных органов.

Определение алгоритмического риск-профилирования законодательно не закреплено, но на основе анализа нормативных актов Счетной палаты можно сделать вывод, что оно представляет собой процесс выявления, оценки и ранжирования рисков нарушений бюджетного законодательства, неэффективного использования средств или недостижения запланированных результатов, осуществляемый с использованием математических моделей и методов машинного обучения на основе анализа больших массивов данных.

Нормативной основой внедрения данного инструментария является Концепция риск-ориентированного подхода в Счетной палате РФ [1].

В соответствии с этим документом, под риск-ори- ентированным подходом понимается комплекс взаимосвязанных принципов, методов и инструментов осуществления деятельности Счетной палаты, предусматривающий планирование и проведение контрольных и экспертно-аналитических мероприятий с использованием результатов оценки рисков.

Алгоритмическое риск-профилирование обладает сложной, двойственной юридической природой, сочетая в себе черты организационно-распорядительного (внутреннего) акта и фактического (технического) действия, порождающего юридические последствия [3].

При этом результаты алгоритмического профилирования (присвоение объекту проверки определенного уровня риска) служат основанием для принятия юридически значимых решений о включении объекта в план контрольных мероприятий, проведении внепланового мероприятия и выборе конкретных методов контроля.

Таким образом, хотя сам процесс профилирования не является юридическим актом в формальном смысле, его результаты опосредованно влияют на правовое положение объектов контроля, создавая для них определенные правовые последствия (повышенное внимание со стороны Счетной палаты, внеплановые проверки).

Это порождает фундаментальную проблему: объект, попавший в зону риска, сталкивается с необходимостью опровергать не юридически значимый факт (например, конкретное нарушение), а статистическую гипотезу, сформированную алгоритмом. При этом сама эта гипотеза может оставаться непрозрачной для проверяемого лица. Одним из фундаментальных принципов правового государства является формальная определенность – требование, чтобы правовые нормы и основанные на них решения были ясными, предсказуемыми и допускали судебный контроль. Алгоритмическое риск-профилирование вступает в определенное противоречие с этим принципом по двум причинам. Во-первых, ИИ часто не позволяет дать простое и понятное объяснение тому, почему конкретному объекту присвоен тот или иной риск-профиль. Это затрудняет проверку обоснованности решения и его судебное обжалование. Во-вторых, алгоритм может переобучаться или менять свои параметры по мере поступления новых данных. Это создает ситуацию, когда правила игры (критерии) меняются без формального уведомления и без возможности для объекта контроля адаптировать свою деятельность.

Таким образом, алгоритмическое риск-профилирование – это технико-аналитическая процедура, осуществляемая в рамках контрольной деятельности Счетной палаты со значимыми правовыми последствиями, которая должна подлежать контролю как со стороны должностных лиц Счетной палаты, так и со стороны суда в части проверки обоснованности его применения и отсутствия дискриминационного эффекта.

Рассмотрим практику применения алгоритмического риск-профилирования на примере индикаторов рисков национальных проектов [7]. Один из важнейших этапов анализа реализации национальных проектов – это оценка того, насколько вероятно, что входящие в них мероприятия будут завершены в установленные сроки.

Именно от этого во многом зависит успех всего проекта в целом.

Для решения этой задачи Счетной палатой был разработан набор индикаторов (показателей), которые рассчитываются на основе достоверных данных из регулярных отчётов о ходе реализации проектов [5]. Примерами таких показателей могут служить доля достигнутых на федеральном и региональном уровне контрольных точек, тенденции их выполнения, наличие проблем при осуществлении мероприятий в предшествующие годы и т.д.

В связи с этим возникает две ключевых задачи. Во-первых, необходимо определить значимость (вес) каждого из таких показателей.

Во-вторых, нужно спрогнозировать вероятность своевременного выполнения мероприятия (или, иными словами, риск его срыва).

Для решения первой задачи можно проанализировать данные о том, насколько успешно мероприятия реализовывались в прошлом, и сопоставить их с соответствующими показателями. Для этого применяются различные методы, например, регрессионный анализ.

Для решения второй задачи используется один из методов машинного обучения – так называемый «случайный лес». Суть этого подхода заключается в построении множества решающих правил (деревьев), на основе которых вычисляются различные метрики. Одна из них позволяет оценить, насколько добавление того или иного фактора улучшает качество прогноза.

После того как перечень индикаторов риска определён и по ним получены актуальные данные в рамках регулярного мониторинга, возникает необходимость спрогнозировать риск невыполнения мероприятий. Для примерной, качественной оценки можно использовать балльный метод:

чем больше индикаторов «сработало» (указывает на риск), тем выше опасения. Однако для точного, количественного прогноза требуются более сложные алгоритмы. Один из них – метод «ближайших соседей». Его идея проста: если среди схожих объектов большинство оказалось проблемными, то и новый объект, скорее всего, также будет проблемным.

На основе описанных подходов и в рамках риск-ориентированной модели, принятой Счётной палатой, была создана система ключевых индикаторов рисков. Она позволяет заблаговременно выявлять проблемные мероприятия национальных проектов и определять, какие меры реагирования необходимо принять. Для наглядности вся информация о таких индикаторах представлена на дашборде. Это специальная панель управления, на которой с помощью графиков, диаграмм, шкал и цветовых индикаторов отображаются «сработавшие» индикаторы риска, вероятность невыполнения в срок каждого из проектов и список проектов, где требуется проведение внеплановых проверок.

Дашборд помогает сотрудникам Счётной палаты оперативно, без изучения больших таблиц и отчётов, увидеть проблемные зоны и принять решение о проведении контрольного мероприятия.

Первые результаты работы этой системы, полученные по итогам 2024 года с применением методов статистического анализа, показывают, что модель обладает хорошей предсказательной способностью. Вместе с тем по ряду параметров она нуждается в улучшении – прежде всего, в повышении точности отбора проблемных мероприятий. Это может быть достигнуто за счёт уточнения самого перечня используемых индикаторов риска.

Дальнейшее развитие системы направлено на расширение сферы её применения – например, использование в качестве одного из критериев существенности при аудите. Основные задачи на этом этапе: повышение точности и оперативности выявления мероприятий, находящихся под риском неисполнения, разработка новых, научно обоснованных индикаторов (в том числе учитывающих особенности отдельных типов мероприятий – строительства, закупок и т.д.), увеличение частоты оценок и создание механизмов последующего контроля за сделанными прогнозами.

На данный момент отсутствует судебная практика по оспариванию решений, принятых на основе алгоритмического риск-профилирования. Это объясняется несколькими причинами, так как внедрение системы ключевых индикаторов рисков Счётной палаты РФ пока что находится на ранней стадии. Вместе с тем, существующая судебная практика обжалования актов контрольно-счётных органов содержит важные правовые позиции, которые могут быть экстраполированы на случаи использования алгоритмического риск-профилирования. Анализ дел позволяет выделить несколько обязательных требований, предъявляемых судами к актам контрольно-счётных органов.

Например, в одном из дел [9] Верховный Суд РФ поддержал позицию нижестоящей инстанции, признавшей недействительным предписание контрольно-счётной палаты. Основанием послужило то, что «предписание содержит ссылку на отчёт о результатах контрольного мероприятия, в котором подтверждение выводов о наличии конкретных сумм ссылками на конкретные фактические данные, материалы и документы проверки не содержится». Суд указал, что отчёт не соответствует акту проверки, а выводы предписания не подкреплены надлежащими доказательствами.

Это требование напрямую связано с проблемой непрозрачности алгоритма. Если решение основано на выводе прогнозной модели, но объект не может получить объяснение того, какие именно факторы и почему привели к отнесению его к группе риска, такое решение может быть признано необоснованным по аналогии с данным делом.

В другом деле [10] по иску государственного предприятия суд, хотя и не удовлетворил требования заявителя, рассмотрел доводы о неисполнимости предписания с учётом финансового положения организации. Это показывает, что суды готовы оценивать не только законность, но и практическую реализуемость требований контрольных органов.

Применительно к риск-профилированию это означает, что даже при наличии «красной метки» от алгоритма, решение о проведении проверки и вынесении предписания должно учитывать индивидуальные обстоятельства объекта контроля. Следовательно, недопустимо автоматическое принятие решений ИИ-системой. Оптимальной представляется ситуация, когда программа анализирует все материалы по объекту и составляет итоговую рекомендацию о принятии определенного решения, а должностное лицо Счетной палаты на основе этого с учетом всех обстоятельств принимает акт с реальными правовыми последствиями.

Заключение

На основе анализа правового конфликта между презумпцией добросовестности и логикой прогнозных моделей, можно предложить следующие правовые механизмы разрешения конфликта.

1) Алгоритмический риск-профиль не должен быть единственным основанием для назначения проверки. Необходима верификация человеком – аудитор должен самостоятельно оценить обоснованность отнесения учреждения к группе риска и принять мотивированное решение.

2) Объект, отнесённый к группе риска на основании работы прогнозной модели, должен иметь право на получение информации о том, какие именно индикаторы сработали и почему это повлекло определённые правовые последствия. Без такого объяснения судебное обжалование невозможно.

3) Необходимо законодательно определить, что является результатом предиктивной аналитики с точки зрения права – служебная информация, основание для оперативного реагирования или юридически значимый факт. 4) Прогнозные модели, используемые для риск-профилирования, должны проходить регулярную проверку на предмет систематических ошибок, которые могут приводить к дискриминации добросовестных объектов по признакам, не имеющим отношения к реальным рискам нарушений.

5) Необходимо предусмотреть возможность судебного обжалования самого факта включения в зону риска, если это повлекло неблагоприятные правовые последствия. В настоящее время такая возможность отсутствует, поскольку риск-профиль не признаётся правовым актом, подлежащим самостоятельному обжалованию.

Проведенный анализ позволяет сделать вывод, что конфликт между презумпцией добросовестности и предикативной аналитикой с использованием ИИ имеет объективный характер. Презумпция добросовестности требует индивидуального доказывания вины, тогда как прогнозные модели предлагают лишь вероятностную оценку, основанную на групповых статистических закономерностях.

Правовая граница использования предиктивной аналитики в государственном аудите проходит там, где статистическая аномалия начинает подменять собой установленный законом порядок доказывания, а вероятностный прогноз – презумпцию добросовестности. Для сохранения баланса необходимо законодательное закрепление статуса результатов алгоритмического профилирования и внедрение механизмов, обеспечивающих прозрачность и возможность судебного обжалования решений, принимаемых на их основе.