Преимущества и риски внедрения технологий искусственного интеллекта в уголовное судопроизводство (международный опыт)

Введение.

Широкое внедрение технологий ИИ в сферу уголовного правосудия порождает неоднозначные оценки со стороны мирового сообщества.

Его использование дает определенные надежды на возможность эффективно противостоять растущему уровню киберпреступлений, которые ранее не наблюдались. Интеграция технологий ИИ в систему уголовного правосудия имеет свои преимущества, но сопряжена с опасениями по поводу открытости, справедливости и прав человека. Многие алгоритмические системы непрозрачны в плане их соответствия гарантиям права на справедливое судебное разбирательство и обеспечению прав и свобод человека, что поднимает вопросы о том, как принимаются такие решения и кто несет ответственность при использовании искусственного интеллекта, когда это приводит к неправомерным арестам или ошибочным приговорам. Проводимые исследования неоднократно демонстрировали, что те же системы распознавания лиц имеют более высокие показатели ошибок при идентификации людей с темным цветом кожи, особенно чернокожих, и женщин, что приводило к ошибочной идентификации.

Общую обеспокоенность вызывает цифровое неравенство населения в странах и потенциальная дегуманизация уголовного правосудия.

Автоматизированные информационные системы в первую очередь полезны тем лицам, которые имеют определенные навыки в работе с информационно-телекоммуникационными средствами, что потенциально может привести к техническим трудностям в доступе к правосудию для отдельных групп населения. ИИ не должен становится заменой человеку, а быть инструментом, способным забирать «рутинную работу», после чего возвращать человеку контроль над разрешением дел. На практике многие государства уже внедряют ИИ со строгими рамками контроля по его использованию.

Применение технологий ИИ в уголовном судопроизводстве не является исключением в плане противоречий между этическими стандартами, управлением и регулированием. Возникают проблемы, с которыми некоторые страны столкнулись уже сейчас, а другие могут обрести их через некоторое время. Государства пытаются найти баланс между инновациями в области ИИ и соответствующими мерами защиты. В конечном итоге, внедрение этики и управления в системы ИИ - это не просто формальность. Необходимы шаги по формализации этического надзора за ИИ, который будет способствовать прозрачности, объяснимости, подотчетности и доверию со стороны населения.

Зарубежный и российский опыт использования технологий ИИ в уголовном судопроизводстве.

Великобритания. Инициативы по преобразованию судов Великобритании включают в себя создание Академии искусственного интеллекта в сфере правосудия, системы автоматизированного составления списков дел с использованием ИИ и новой цифровой платформы Высокого суда. В планы входит расширение использования ИИ в судах, например, увеличение количества транскрипций судебных заседаний с помощью ИИ и пилотное внедрение ИИ для юрисконсультов и судей в мировых судах.

Служба судов и трибуналов Ее Величества в Англии и Уэльсе (HM Courts & Tribunals Service (HMCTS) проводит тестирование системы J-AI (Justice AI), использующей искусственный интеллект для составления расписаний, которая будет обрабатывать информацию и данные, позволяя судьям отмечать дела, требующие дальнейшего рассмотрения в суде, а также помогать с планированием заседаний.

Правительство Великобритании инвестирует более 50 миллионов фунтов стерлингов в продолжение программы цифровизации окружных судов, а еще 20 миллионов фунтов стерлингов будут использованы для внедрения цифровой системы в Высоком суде. В июле 2025 года в Великобритании запущен план действий в области ИИ для системы правосудия, который включает создание специального подразделения по ИИ в сфере правосудия. Министерство юстиции также создало руководящую группу по ИИ, которая объединяет руководителей отделов, включая отделы политики, больших данных, цифровых технологий, безопасности, кадров, права, Тюремной и пробационной службы Ее Величества, Судебной и трибунальной службы Ее Величества, Управления рисками и коммуникациями, для контроля за инициативами в области ИИ и управления рисками [1].

Ключевые принципы внедрения систем ИИ включают в себя:

–контроль, который во всех случаях остается за человеком: ИИ не используется для принятия решений по делам (например, «робот-судья» исключен); –обеспечение безопасности данных: используются закрытые, изолированные версии инструментов, а не публичные чат-боты (внедрение защищенных корпоративных чат-ботов на базе технологий Microsoft Copilot/ChatGPT для административного персонала: составление черновиков писем, отчетов и обработка рутинных запросов); –регулярное обучение: разработаны руководства для судей (Judicial AI Guidance) по использованию ИИ, включающие потенциальные риски.

Китай. В КНР при участии Верховного суда Шанхая и технологического гиганта iFlytek разработана Интеллектуальная информационная система «Система 206», которая оказывает помощь при анализе огромных массивов данных - документов, показаний, материалов следствия т.п., выявляя противоречия. В нее включена функция «умного допроса», которая структурирует стратегию обвинения и помогает сотрудникам правоохранительных органов не упустить ключевые детали показаний, автоматически сопоставляя показания допрашиваемого лица с иными процессуальными документами. В 2019 году «Система 206» использовалась при рассмотрении уголовного дела в промежуточном народном суде № 2 Шанхая. Перед участниками процесса, присутствующими на судебном заседании, были установлены специальные экраны. В то время, когда судья, государственный обвинитель или сторона защиты обращались к информационной системе, она выводила на экран нужные доказательства. Например, система продемонстрировала психиатрическое заключение и воспроизвела запись с камер видеонаблюдения [2].

На сегодняшний день в Китае создан крупнейший в мире онлайн-портал судебных решений (China Judgments Online), содержащий более 81,5 миллиона документов. Это не просто архив, а основа для обучения ИИ и обеспечения единообразия судебной практики. В 2021 году в КНР внедрена система «Умный прокурор», которая на основе приставленных доказательств выносит обвинительное заключение. Нейросеть обучали на массиве 17 тысяч уголовных дел, показатель ее эффективности составил 97% [3].

Сингапур. В судах Сингапура активно идет работа по тестированию генеративного искусственного интеллекта в целях оказания помощи заявителям. Созданы экспериментальные сайты, где люди могут задавать чат-ботам различные вопросы по урегулированию споров [4]. Подача и обслуживание документов в электронном виде по уголовным делам осуществляется через сеть Интернет с помощью цифровой платформы – интеграционная система электронных судебных разбирательств.

Азербайджан. В УПК Республики Азербайджан содержатся нормы, регулирующие ведение дела в электронном виде, а также утверждена Инструкция по осуществлению уголовного судопроизводства в электронном виде [5].

Российская Федерация. В соответствии с Указом Президента РФ от 07.05.2024 N 309 «О национальных целях развития Российской Федерации на период до 2030 года и на перспективу до 2036 года» [23] цифровая трансформация государственного и муниципального управления, экономики и социальной сферы является национальной целью развития нашей страны [1].

Планомерно под современные реалии жизни общества на основе системного подхода и с учетом международного опыта адаптируется уголовное и уголовно-процессуальное законодательство [6]. Основу для комплексной автоматизации уголовного судопроизводства могут соста- вить ГАС «Правосудие» и ФГИС «Досудебное производство» [7]. Процесс цифровизации российского уголовного законодательства также осуществляется по таким направлениям, как документооборот и делопроизводство, развитие института электронного уголовного дела и цифровых доказательств, систем видеоконференцсвязи [8].

В соответствии с федеральным законом от 29 декабря 2022 г. № 572-ФЗ «Об осуществлении идентификации и (или) аутентификации физических лиц с использованием биометрических персональных данных, о внесении изменений в отдельные законодательные акты Российской Федерации и признании утратившими силу отдельных положений законодательных актов Российской Федерации» [24] совершенствуется единая биометрическая система - государственная информационная система «Единая система идентификации и аутентификации физических лиц с использованием биометрических персональных данных», в которой содержаться биометрические персональные данные физических лиц, векторы единой биометрической системы и иная информация, использующаяся я в целях осуществления идентификации, аутентификации с использованием биометрических персональных данных физических лиц, а также в иных правоотношениях в случаях, установленных законодательством Российской Федерации, и оператором которой является определенная Правительством Российской Федерации организация[4].

Применение ИИ и нейросетей в уголовном судопроизводстве имеют несомненное преимущество, как блокчейн технологии для обеспечения неизменности доказательств [15, с. 143], внедрение биометрической идентификации участников уголовного судопроизводства [16], создание интеллектуальных систем [17].

Агентный и физический ИИ: перспективы и вызовы.

В динамично развивающейся области искусственного интеллекта конец 2025 года представляет собой значительный шаг вперед, использующий базовые модели, такие как большие языковые модели, для разработки автономных систем, способных воспринимать окружающую среду, планировать действия, использовать внешние инструменты и выполнять многоэтапные задачи. Эти системы, основанные на моделях из таких серий, как GPT или мультимодальные аналоги, демонстрируют впечатляющие возможности в областях от научных исследований до рутинной автоматизации.

В настоящее время в центре внимания оказывается физический ИИ (Физический ИИ: технологии, лежащие в основе человекоподобной робототехники, автономных транспортных средств, дронов-доставщиков и тому подобного, стремительно развиваются) [9], в то время как агентный ИИ (Агентный искусственный интеллект (AI) – это система, которая действует как самостоятельный агент, принимая решения и выполняя задачи в окружающей среде для достижения определенных целей (например, AutoGPT, BabyAGI) достигает зрелости. Если 2025 год был годом изучения агентного ИИ, то 2026 год станет годом, когда компании углубятся в нюансы внедрения агентов ИИ, такие как оптимизация затрат и управление.

В отчете McKinsey & Company «Состояние ИИ в 2025 году: агенты, инновации и трансформация» отмечается, что 39% организаций начали экспериментировать с агентами ИИ, а 23% заявили о масштабировании систем агентного ИИ в своих компаниях [10].

Что касается применения агентного ИИ в уголовном судопроизводстве, то нельзя исключить предвзятость, которая влияет на точность его прогнозов; кроме того, это порождает опасения несправедливости правосудия, поскольку человек может пострадать от неверных данных, полученных от алгоритмов. Еще один важный риск заключается в том, что системы ИИ, в том числе агентный ИИ, часто представляют собой «черные ящики» без четкого понимания на сегодня того, как они принимают решения.

Многие исследователи считают, что «искусственный интеллект, в отличие от человеческого мышления, не склонен пропускать или искажать фактические обстоятельства, которые были предоставлены ему» [19].

Тем не менее в данный момент невозможно полностью исключить предвзятость ИИ. «Направление работы ИИ» зачастую трудно понять самим разработчикам. В тех случаях, когда принимаются решения о свободе человека, залоге или осуждении на основе результатов алгоритмов, которые можно назвать «черными ящиками», это становится большой проблемой и вызовом для правосудия. В обоснования данной позиции следует привести программу Compas, применяемую в американской судебной системе для оценки рисков совершения преступлений. ИИ оказался так же подвержен предрассудкам, как и представители человеческой расы. Единственное отличие состоит в том, что ИИ никогда не поставит под сомнение свои выводы.

Быстрая эволюция агентного ИИ меняет управление данными и результаты работы ИИ напрямую зависят от качества исходных данных, в связи с чем важно стремиться к созданию хорошо управляемых, контекстно-ориентированных и высококачественных данных.

Агентный ИИ эффективнее применять в тех областях, где можно чётко посчитать результат его работы: сэкономленные человеко-часы, снижение ошибок, рост конверсии, ускорение процесса и т. п. Когда первый агент приносит заметный эффект (например, время тестирования сократилось на 30% или доля решенных с первого обращения задач выросла с 60% до 85%), это мотивирует развивать направление дальше [11].

Так, в США и Великобритании объявили о развертывании агентного ИИ на местном и национальном уровнях. В городе Кайл (штат Техас, США) в марте 2025 г. внедрили ИИ-агента из Salesforce для обслуживания клиентов номера телефона для неэкстренных случаев в полицию в большинстве городов США 311 [12]. В ноябре 2025 года Налоговая служба США заявила, что будет использовать Agentforce (ИИ-агентов из Salesforce) для Офиса главного юрисконсульта, Службы защиты интересов налогоплательщиков и Апелляционного офиса [13]. В том же месяце полиция Стаффордшира объявила, что начнет тестирование агентов Agentforce для обработки звонков 101, не связанных с чрезвычайными ситуациями, в Соединенном Королевстве, начиная с 2026 г. [14].

Применение агентного ИИ критикуют за высокую стоимость и негативное влияние на интернет-трафики, возможно, на окружающую среду из-за высокого энергопотребления. Агентам ИИ требуется в разы больше вычислительной мощности. Существует также риск злоупотребления полномочиями со стороны политических лидеров, поскольку агенты ИИ не ставят под сомнение инструкции так, как это свойственно людям.

Варианты использования физического ИИ будут продолжать развиваться, поскольку технологии, лежащие в основе человекоподобной робототехники, автономных транспортных средств, дронов-доставщиков и тому подобного, совершенствуются. Широко обсуждается степень контроля за их действиями как со стороны пользователя, так и со стороны производителя. В случае причинения вреда человеку или окружающей среде со стороны физического ИИ должна выстраиваться правдоподобная модель атрибуции ответственности, учитывающая такие факторы как присутствие или отсутствие преступного умысла со стороны человека, небрежность использования, влияние контроля и его степень, предсказуемые риски, связь действия и причиненного ущерба и иные значимые факты.

Некоторые исследователи уже сегодня предлагают задуматься об установлении уголовной ответственности за создание и нарушение эксплуатации программ, использующих технологии искусственного интеллекта, которые причинили тяжкие последствия. Ответственность должна быть возложена на разработчиков или лиц, нарушивших правила их эксплуатации [21]. Еще одним фактором, следующим из доклада Главы сингапурского агентства безопасности CEBER, который следует принять во внимание, являются угрозы кибербезопасности критической инфраструктуре стран, в том числе и сфере уголовного правосудия. Так, в Сингапуре атаки на цифровые сервисы в первом квартале 2026 года возросли на 47% по сравнению с аналогичным периодом 2025 года. Экономический ущерб также колоссален: ожидается, что программы-вымогатели (вирус-шифровальшик, которые требуют оплату за ключ дешифрования) нанесут ущерб в размере 74 миллиардов долларов в этом году, а к 2031 - до 276. В 4 раза возросло количество угроз повышенной сложности за период 2021-2024 [22].

Привлечение частных компаний к созданию и внедрению информационных систем на базе искусственного интеллекта открывает широкие возможности для возникновения конфликта интересов, а также возможного ослабления человеческого контроля и сохранности конфиденциальных данных, отсутствия гарантированной объяснимости решений агентов, уязвимости программного обеспечения, повышения конкуренции, проблемы с неполной занятостью (вытеснение рабочих мест), когнитивная перегрузка и потенциалом манипуляций пользователями дезинформацией [18].

Выводы. Обоснованные сомнения вызывают вопросы ответственности за принимаемые ИИ решения, повышенный риск киберпреступлений, дегуманизации уголовного судопроизводства, попрание этических норм, неизбежно встающих в случае, если ИИ начнет использоваться для «самостоятельного» принятия решений по делам.

Когда в ИИ возникает предвзятость, это влияет на точность его прогнозов; кроме того, это порождает опасения несправедливости правосудия, поскольку человек может пострадать от неверных данных, полученных от алгоритмов. Еще один важный риск заключается в том, что многие системы ИИ часто представляют собой «черные ящики» без четкого понимания на сегодня того, как они принимают решения.

В связи с чем требуется дополнение уголовных законов стран СНГ по вопросам уголовной ответственности за использование технологий искусственного интеллекта при совершении преступлений [21].

Технологии искусственного интеллекта потенциально могут нарушить правовые гарантии против пыток и других видов бесчеловечного обращения. Например, если человекоподобная робототехника в будущем будет использоваться в целях эффективности допроса и максимизации скорости получения признаний, существует определенная вероятность применения негуманных методов для получения признательных показаний.