Применение диалоговых систем искусственного интеллекта в деятельности уголовно-исполнительных инспекций как инструмент повышения эффективности службы пробации

• ЦАРЬКОВА Евгения Геннадьевнакандидат физико‑математических наук, ведущий научный сотрудник ФКУ НИИ ФСИН России, e‑m

В статье рассматриваются потенциал и риски использования диалоговых систем с искусственным интеллектом (ИИ) в работе службы пробации. Чат‑боты на базе ИИ способны помочь компенсировать нехватку личного состава уголовноrисполнительных инспекций за счет автоматизации уведомлений, напоминаний о посещаемости и сбора первоначальных данных. В то же время, при отсутствии специализированного юридического регулирования такие ассистенты потенциально могут заменять человеческое суждение алгоритмическим результатом. Автором предложены критерии отделения автономных от неавтономных функций на основе юридических последствий для контролируемого лица, а также система правовых принципов для дальнейшего регулирования цифровой трансформации службы пробации в деятельности ФСИН России.

Ключевые слова: искусственный интеллект, диалоговая интеллектуальная система, пробация, уголовноrисполнительная инспекция, ресоциализация, алгоритмическая прозрачность, персональные данные, автоматизированное решение, правовые пределы, человеческий контроль, уголовноrисполнительное право, цифровая трансформация УИС, индивидуальная программа ресоциализации

Согласно Федеральному закону от 06.02.2023 № 10-ФЗ «О пробации в Российской Федерации» (далее ¬– Закон о пробации), целями пробации выступают коррекция социального поведения, ресоциализация, социальная адаптация и социальная реабилитация лиц, попадающих под ее действие. К субъектам пробации закон относит учреждения уголовно-исполнительной системы Российской Федерации (УИС), следственные изоляторы органов ФСБ, органы службы занятости и организации социального обслуживания [1, C.63]. Хотя формально служба пробации выступает отдельным институтом со своим предметом регулирования, на практике основной объем ее функций возлагается на уже действующие уголовно-исполнительные инспекции. Недостаток кадров вынуждает искать способы разгрузки инспекторов, в частности путем внедрения систем искусственного интеллекта, диалоговых интеллектуальных систем и специализированных чат‑ботов [2, С.242]. Диалоговая интеллектуальная система представляет собой программный продукт, использующий технологии обработки естественного языка и машинного обучения для ведения диалога с пользователем, информирования, сбора данных и первичной классификации обращений. Предполагается, что при использовании чат‑бота подучетное лицо взаимодействует с системой не эпизодически, а на протяжении всего срока исполнения индивидуальной программы, и каждый цикл взаимодействия потенциально формирует данные, влияющие на итоговую оценку его поведения. Такое взаимодействие становится не системой разовых ответов на вопросы, а длящимся правоотношением, где диалоговый ИИ выступает не столько источником справки, сколько узлом сбора наблюдений о конкретном человеке [3, С.330].

Перспективные направления применения диалоговых систем в деятельности службы пробации связаны с решением типичных рутинных задач: информирование подучетных лиц об их правах и обязанностях, содержании индивидуальной программы ресоциализации, социальной адаптации и социальной реабилитации; напоминание о сроках явок в инспекцию и предоставления отчетности и др. Подобная автоматизация снижает нагрузку на инспектора, вынужденного при текущей загрузке заниматься механическим контролем графика вместо содержательной работы. К таким задачам можно отнести также и маршрутизацию обращений к профильным специалистам (психологу, специалисту по социальной работе, органу службы занятости), методическую поддержку и обучение сотрудников инспекций, для которых типовые вопросы правоприменения могут закрываться единым диалоговым модулем, синхронизированным с актуальной нормативной базой, а также агрегацию и анализ обращений для выявления повторяющихся проблемных зон конкретных территориальных органов.

При этом возникает правовая неопределенность, вытекающая не из особенностей технологий, а из отсутствия отраслевого режима, соответствующего именно службе пробации. Закон о пробации регулирует межведомственное электронное взаимодействие, ведение единого реестра лиц, в отношении которых применяется пробация, как государственной информационной системы, и порядок подписания документов простой либо усиленной электронной подписью через единый портал государственных и муниципальных услуг [4, С.182]. Но он не содержит положений об алгоритмических системах, формирующих текст обращения к подучетному лицу или классифицирующих его поведение. Смежная область, затрагивающая обработку обращений граждан в ФСИН России, уже получила уточнения в аспекте действия Федерального закона от 02.05.2006 № 59-ФЗ, закрепляющего обязательный тридцатидневный срок ответа без исключений для автоматизированных процедур, а также недопущение автоматизированной фильтрации обращений без последующей проверки сотрудником [5, C.377]. В случае службы пробации получатель обращения по закону № 59-ФЗ может быть осужденным, содержащимся в учреждении, тогда как подучетное лицо в постпенитенциарной или исполнительной пробации формально не изолировано от общества и обладает полным объемом гражданских прав, а значит ошибочная алгоритмическая классификация его поведения способна повлечь не формальную задержку ответа, а инициирование представления в суд об отмене условно-досрочного освобождения или о замене неотбытой части наказания более строгим видом. Следующим источником правовой неопределенности служит функциональная неразличимость задач диалоговой системы. Напоминание о явке и первичная фиксация факта неявки имеют разную правовую природу: первое не создает юридических последствий, второе же может стать основанием для вывода о систематическом неисполнении обязанностей. Действующее законодательство не разграничивает эти функции ни в законе о пробации, ни в Уголовно-исполнительном кодексе. Персональные данные, обрабатываемые в ходе диалога, включают сведения о судимости. При этом Федеральным законом от 27.07.2006 № 152- ФЗ «О персональных данных» (далее, 152-ФЗ) запрещается принятие решений, порождающих юридические последствия для субъекта данных, исключительно на основании автоматизированной обработки, если иное прямо не предусмотрено законом или письменным согласием субъекта [6]. Закон о пробации такого прямого указания не содержит, следовательно, любое решение, затрагивающее статус подучетного лица и принятое без человеческого участия, находится в зоне запрета ст. 16 152-ФЗ, даже если формально оформлено как «рекомендация» диалоговой системы.

Вопрос ответственности за ошибку алгоритма в деятельности службы пробации стоит острее, чем в большинстве иных сфер государственного управления, поскольку последствием ошибки может быть не отказ в услуге, а инициирование процедуры, способной привести к лишению свободы [7]. Могут быть выделены три возможные модели распределения ответственности:

ответственность разработчика при дефекте программного обеспечения, ответственность оператора при некорректном использовании системы и ответственность руководителя учреждения, подписавшего итоговый документ. Вместе с тем действующее законодательство специальных норм о распределении такой ответственности не содержит [8, С.52]. В пробации к этим трем моделям добавляется четвертая фигура – сам сотрудник инспекции, для которого верификация вывода ИИ формально возможна, но при высокой нагрузке реально осуществима лишь в редких случаях [9, С.110]. Риск подмены человеческого решения алгоритмическим в этих условиях вполне реален.

Сегодня диалоговые системы в смежных сегментах государственного и ведомственного юридического сопровождения внедряются разрозненно: разные операторы выбирают разные модели хранения диалогов, разный объем раскрытия факта использования ИИ пользователю и разные процедуры передачи вопроса человеку. Общей чертой остается отсутствие публично доступных требований к алгоритмической прозрачности как таковой. Зарубежный опыт демонстрирует более систематизированный подход.

Регламент Европейского союза об искусственном интеллекте относит системы, влияющие на доступ к государственным услугам и на оценку риска в правоохранительной сфере, к категории высокого риска и требует обязательного человеческого контроля и предварительной оценки воздействия на права человека, а рекомендации Министерства юстиции США по использованию алгоритмических инструментов в государственном управлении устанавливают требования прозрачности, аудита и запрет полностью автоматизированных решений, затрагивающих права граждан [4, C.183]. Перенос коммерческой модели диалогового ИИ‑ассистента в государственную службу пробации без самостоятельной регуляторной конструкции повторил бы ошибку, связанную с попыткой решить вопрос доверия к алгоритму оговоркой о «справочном характере информации», которая не работает там, где ошибка влечет процессуальный ущерб. Поэтому целесообразно построение системы правовых принципов, определяющих пределы допустимого применения диалоговых интеллектуальных систем в пробации.

Отправной точкой здесь служит рассмотрение четырех функциональных контуров, различающихся по степени юридической значимости результата и, соответственно, по допустимой степени автономности алгоритма.

Первый контур – информационно-справочный, включающий предоставление типовых сведений о правах, обязанностях, порядке обжалования решений, перечне документов, сроках. Результат такого взаимодействия не зависит от индивидуальных характеристик лица и не создает правовых последствий сам по себе. Для этого контура допустима полная автономность алгоритма при условии фиксации содержания диалога и права подучетного лица в любой момент запросить контакт с сотрудником инспекции.

Второй контур – навигационно-организационный, включающий напоминания о явках, направление к профильному специалисту, запись на прием, уведомление о смене статуса реестровой записи. Юридического значения такие действия не имеют, но влияют на организацию взаимодействия, поэтому допустима высокая автономность с выборочным контролем: логированием и периодическим аудитом маршрутов, без обязательной проверки каждого случая.

Третий контур (аналитико-мониторинговый) включает сбор первичных данных для составления или корректировки индивидуальной программы, предварительную классификацию проблемы (жилищная, трудовая, психологическая), агрегацию обращений для выявления системных проблем территориального органа. Результат такого контура влияет на содержание документа, определяющего меры государственной помощи, но не является итоговым решением. Здесь автономность должна быть ограничена, когда вывод алгоритма представляется только проектом, подлежащим обязательной проверке специалистом до включения в индивидуальную программу.

Четвертый контур – контрольно-верификационный, включающий фиксацию фактов неявки, оценку систематичности неисполнения обязанностей, формирование материалов для направления представления в суд об изменении условий отбывания наказания. Эти действия напрямую затрагивают право на свободу и должны оставаться исключительно человеческими решениями; роль диалоговой системы здесь ограничивается сбором фактов и технической подготовкой материалов, но не их правовой оценкой.

Из предложенной модели вытекает ряд критериев отнесения конкретной функции к автономной или неавтономной категории (наличие юридических последствий, своевременная верификация, обратимость последствий). Наличие юридических последствий для подучетного лица служит здесь ключевым признаком. Если результат работы алгоритма способен инициировать процедуру, изменяющую его правовой статус, автономность недопустима. Возможность своевременной верификации становится критерием, увязывающим допустимость автономии с реальной, а не декларативной способностью сотрудника инспекции проверить вывод до наступления последствий [6]. Вышеизложенное позволяет сформулировать систему принципов, на которых должно строиться допустимое применение диалоговых интеллектуальных систем в пробации. Принцип сохранения человеческого контроля над итоговым решением означает запрет автоматизированного формирования вывода, порождающего юридические последствия, без верификации сотрудником инспекции.

Принцип функциональной ограниченности требует нормативного закрепления четырех контуров и запрета автономного функционирования системы в контрольно-верификационном контуре в отсутствие специального регулирования.

Принцип алгоритмической прозрачности как нормативное требование обязывает раскрывать подучетному лицу факт взаимодействия с ИИ, логику классификации его обращения и предоставлять безусловное право эскалации к человеку.

Принцип процессуальной безопасности связывает автономность алгоритма с реальной, а не формальной возможностью проверки его вывода в установленный срок, что при текущей нагрузке инспекций требует снижения объема автономных функций, либо параллельного увеличения штата инспекторов.

Принцип минимизации рисков для прав подучетных лиц требует, чтобы любое расширение функционала диалоговой системы сопровождалось оценкой воздействия на права лица до внедрения, а не после выявления инцидента.

Автором предлагаются дополнения, развивающие данную систему. Во‑первых, применение упомянутой четырехуровневой модели функциональных контуров с различной автономностью, которая переносит акцент с вопроса «разрешено ли применение ИИ в пробации» на вопрос «в каком контуре и с каким объемом контроля», снимая ложную альтернативу между полным запретом и бесконтрольным внедрением. Второе дополнение предлагает введение в рассмотрение критерия отнесения функций к автономным и неавтономным по выделенным выше признакам (юридические последствия, степень дискреции, своевременность верификации, обратимость), что позволяет классифицировать любую новую функцию диалоговой системы. Кроме того, целесообразно внесение в закон № 10-ФЗ или в подзаконный акт ФСИН России нормы, прямо устанавливающей, что вывод диалоговой интеллектуальной системы, влияющий на содержание индивидуальной программы ресоциализации, социальной адаптации и социальной реабилитации, либо служащий основанием для постановки вопроса о применении мер ответственности к лицу, в отношении которого применяется пробация, подлежит обязательной верификации сотрудником уголовно-исполнительной инспекции с фиксацией факта и результата такой верификации в едином реестре лиц, в отношении которых применяется пробация, предусмотренном законом о пробации.

На сегодняшний день служба пробации складывается как институт, сочетающий контрольные и социально-реабилитационные функции, зачастую в условиях нехватки кадров уголовно-исполнительных инспекций. При этом любая автоматизация функций, способных повлиять на судьбу конкретного человека, нуждается в закрепленных нормативных ограничениях. Отсутствие подобных ограничений не препятствует распространению технологий, а лишь переводит его в теневой режим, при котором формальную ответственность несет инспектор, а фактическое содержание итогового вывода формирует алгоритм, не проходящий реальной проверки из ‑за объективной перегрузки сотрудника. Предложенная система принципов призвана не допустить закрепления такого режима как повседневной практики до того, как соответствующие вопросы будут урегулированы законодателем.

Список литературы

1. Шиняев К.А., Морозов А.С. Современные цифровые технологии в системе надзора следственных изоляторов уголовно-исполнительной системы Российской Федерации // Вестник Самарского юридического института. 2025, № 4 (65). С. 62-66.
2. Ковалев С.Д. Перспективы использования искусственного интеллекта в исправительных учреждениях ФСИН России // Аграрное и земельное право. 2025, № 1. С. 241-243.
3. Пекарева В.В., Фроловская Ю.И. Искусственный интеллект в уголовно-исполнительной системе // Право и государство: теория и практика. 2024, № 10. С. 329-331.
4. Забайкалов А.П. О регламенте Европейского Союза об искусственном интеллекте // Духовно-нравственные ценности как основа технологического суверенитета России: Материалы XVIII Всероссийской научно-практической конференции, Липецк, 24 апреля 2024 г. – Воронеж: Наука-Юнипресс, 2024. С. 181-185.
5. Царькова Е.Г., Бодров Е.Н. К вопросу формирования цифровой культуры в процессе профессиональной подготовки сотрудников уголовно-исполнительной системы Российской Федерации // Евразийский юридический журнал. 2023. № 3(178). С. 377-379.
6. Магдилова Л.В. Проблемы и перспективы правового регулирования искусственного интеллекта и робототехники // Юридический вестник Дагестанского государственного университета. 2024. № 4.
7. Абрамова А.И. Современные тенденции интеграции и дифференциации правового регулирования // Журнал российского права. 2018. № 9 (261).
8. Царькова Е.Г., Кочкина О.В. Применение искусственного интеллекта при обработке данных в научной и образовательной деятельности Федеральной службы исполнения наказаний // Ведомости уголовно-исполнительной системы. 2022, № 9(244). С. 51-59.
9. Понкин И.В. Государственное управление и регуляторное пространство в сфере искусственного интеллекта // Вестник Университета имени О.Е. Кутафина (МГЮА). 2022, № 11 (99). С. 108-116.

Скачать