Искусственный интеллект в содействии правосудию: перспективы и риски

Современный этап технологического развития характеризуется цифровой трансформацией всех отраслей жизнедеятельности человека, включая сферу правоприменения и судопроизводства. Интеграция систем искусственного интеллекта в юридическую практику перестает быть предметом футурологических прогнозов, становясь объективной реальностью, требующей научного осмысления. Наибольшую значимость исследование данного феномена приобретает в контексте уголовного судопроизводства – области, непосредственно затрагивающей права и законные интересы человека.

Внедрение технологий искусственного интеллекта способно существенно оптимизировать реализацию функции содействия правосудию [1, с. 233]. Способность к обработке неограниченного объема информации, выявлению скрытых взаимосвязей, прогнозированию развития процессуальных ситуаций и другие возможности искусственного интеллекта способны повысить эффективность деятельности субъектов, оказывающих содействие правосудию, и обеспечить объективность принимаемых решений.

Однако наряду с преимуществами, имплементация систем искусственного интеллекта в сферу уголовного процесса сопряжена с комплексом этико-правовых рисков, игнорирование которых способно повлечь причинение вреда правам участников уголовного процесса.

При исследовании возможностей и перспектив имплементации технологий искусственного интеллекта в механизм реализации функции содействия правосудию следует учитывать, что на территории Российской Федерации, равно как и в большинстве других стран, функционируют исключительно системы, относящиеся к категории слабого искусственного интеллекта. Учитывая данное обстоятельство, считаем обоснованной точку зрения О.В. Химичевой, которая подчеркивает исключительно вспомогательный характер использования искусственного интеллекта в уголовном судопроизводстве [2, с. 208].

Искусственный интеллект, обладает рядом преимуществ, обуславливающих его эффективность в уголовно-процессуальной деятельности:

способность к обработке неограниченных объемов информации; высокая скорость обработки данных и оперативность; беспристрастность интеллектуальных систем; способность к выявлению скрытых корреляций и неочевидных связей; автоматизация рутинных операций и высвобождение человеческого ресурса.

Функциональные возможности технологий искусственного интеллекта обуславливают его значительный прикладной потенциал применительно к различным категориям субъектов содействия правосудию. Так, технологии искусственного интеллекта способны существенно оптимизировать деятельность:

1. Представителей стороны обвинения (дознавателя, следователя, прокурора).

Как справедливо отмечается в современной доктрине, в большинстве случаев результат вмешательства искусственного интеллекта в процессуальную деятельность стороны обвинения будет обеспечивать формальную помощь, которая не повлечет за собой юридически значимых последствий, однако существенно снизит процессуальную нагрузку на должностных лиц стороны обвинения – следователя, дознавателя, прокурора [3, с. 117]. Приоритетными направлениями внедрения искусственного интеллекта выступают внедрение новых инструментов раскрытия и расследования преступлений (анализ больших данных, предварительная квалификация преступлений); составление проектов процессуальных документов на основе структурированной информации; автоматизированный анализ материалов уголовного дела с выявлением логических противоречий и пробелов в доказательственной базе; повышение качества проведения следственных действий.

Особого внимания заслуживает потенциал искусственного интеллекта в области поддержки принятия решений, где на основе обученных моделей судебной практики и ведомственных разъяснений должностному лицу предлагается вероятностный сценарий развития уголовного дела, включая прогноз судебной перспективы обвинения. Дополнительным оптимизационным ресурсом выступает транскрибирование допросов: технологии автоматического распознавания речи позволяют составлять проект протокола допроса по его аудиозаписи, освобождая следователя от рукописной и машинописной фиксации и позволяя сосредоточиться на тактической стороне следственного действия. При этом, как отмечает М.Р. Глушков, на этапе «обучения» программы важно ввести в компьютер составленные ею пока несовершенные протоколы, исправленные следователем, с тем чтобы она «понимала», как правильно [4, с. 44].

Заслуживает внимания положение, высказанное А.А. Емелиной, согласно которому одним из перспективных направлений внедрения искусственного интеллекта в уголовный процесс выступает развитие электронного документооборота [5, С. 224]. По мнению автора, на текущем уровне развития компьютерных технологий имеется объективная возможность перехода на электронный документооборот. В качестве показательного примера выступает опыт Китайской Народной Республики, где в ряде регионов функционирует «Система 206» – интеллектуальная система обработки дел, которая способна собирать все документы, касающиеся конкретного дела, анализировать и предлагать конкретную квалификацию совершенного деяния, а также вид и размер наказания [6].

Значимым направлением является оптимизация деятельности прокурора посредством автоматизированной проверки материалов уголовного дела. Как показывает опыт внедрения ИИ-ассистента в прокуратуре Саратовской области, система способна за часы провести семантический анализ тысячи страниц протоколов допросов, заключений экспертов и иных документов, выявить скрытые противоречия в показаниях различных лиц, идентифицировать участников преступных схем, построить хронологию событий и установить корреляции, неочевидные для человека. Кроме того, система искусственного интеллекта выступает как система контроля, проверяя процессуальные документы на соответствие требованиям Уголовно-процессуального кодекса Российской Федерации (далее – УПК РФ) [7, с. 61].

2. Представителей стороны защиты (защитника).

В доктрине уголовно-процессуального права традиционно подчеркивается, что сторона защиты находится в менее обеспеченном положении по сравнению с органами предварительного расследования и прокуратурой, располагающими административными, кадровыми и финансовыми ресурсами. Внедрение искусственного интеллекта в деятельность защитника способна не только частично нивелировать указанный дисбаланс, но и придать качественно новый уровень реализации права на защиту.

Одним из наиболее востребованных направлений применения искусственного интеллекта в деятельности стороны защиты, по нашему мнению, выступает поиск и анализ судебной практики [8, с. 54]. Традиционный поиск в банках судебных решений с использованием ключевых слов или реквизитов дела, ограничен субъективностью выбора критериев поиска, неполнотой выборки и невозможностью охватить значительные массивы данных. Использование искусственного интеллекта позволит адвокату не только находить релевантные судебные акты, но и осуществлять их автоматизированную группировку по множеству признаков, выявляя статистически значимые зависимости.

Использование искусственного интеллекта в деятельности защитника обосновано при анализе материалов уголовного дела и выявлении доказательственных дефектов. Традиционный анализ томов уголовного дела защитником сопряжен со значительными временными затратами и риском «человеческого фактора», обусловленного усталостью и избирательностью внимания человека. Системы искусственного интеллекта, использующие технологию прогностического кодирования, позволяют адвокату оперативно обрабатывать массивы документов, выделяя релевантные фрагменты, содержащие юридически значимые противоречия, нарушения процессуальных прав подзащитного или доказательств, полученных с нарушением закона. Прецедентом данного направления использования искусственного интеллекта выступает судебное дело 2012 года Da Silva Moore vs. Publicus Groupe, где суд признал допустимым использование нейросетевого анализа документов в силу его субъективности и беспристрастности [9].

Использование искусственного интеллекта позволяет автоматизировать составление проектов ходатайств, жалоб, заявлений и иных процессуальных документов. При этом система способна учитывать актуальную правовую позицию вышестоящих судов, что повышает юридическую обоснованность подготовленных защитником документов.

Одним из перспективных, но одновременно дискуссионных направлений выступает прогнозирование исхода уголовного дела с использованием алгоритмов машинного обучения [10, с. 34]. Адвокат, используя такой инструмент, может получить объективные данные о вероятности обвинительного или оправдательного приговора, о возможных сроках судебного разбирательства, а также о перспективах досудебного соглашения или признания вины. Применение прогнозной аналитики стороной защиты позволяет обоснованно выбирать между различными процессуальными стратегиями, а также более эффективно управлять ожиданиями подзащитного.

3. Иных участников уголовного судопроизводства (эксперта, специалиста, переводчика).

В структуре деятельности иных участников наиболее актуальной и востребованной выступает оптимизация деятельности эксперта по проведению судебных экспертиз. Приоритетным направлением выступает внедрение технологий искусственного интеллекта, позволяющих автоматизировать анализ сложных данных, минимизировать влияние субъективных факторов, а также повысить качество и достоверность экспертных выводов. В юридической литературе обоснованно отмечается, что искусственный интеллект уже применяется для решения широкого круга экспертных задач: обработка больших объемов текстовых данных (сообщения в социальных сетях, электронные письма), расшиф - ровка чатов, распознавание лиц, ускоренный анализ больших массивов данных (образцы ДНК, отпечатки пальцев рук) и др. [11, с. 63].

Особого внимания заслуживает возможность выдачи искусственным интеллектом оперативных экспертных оценок в рамках судебной экспертизы или мнения специалиста. Так, в российской практике по делам о нарушении авторских прав, в частности, о публичном воспроизведении музыки без лицензии в торговых центрах, кафе и ресторанах, наряду с заключением музыковеда стали приниматься данные из приложения «Shazam», экспертиза с помощью которой осуществляется быстрее традиционной музыковедческой [12, с. 60].

Кроме того, в число задач, разрешаемых с использованием современных технических средств, отдельные ученые включают идентификацию человека по его биометрическим персональным данным, голосу, сформировавшимся навыкам (например, движениям письма) [13, с. 331].

Одним из перспективных, но дискуссионных направлений внедрения искусственного интеллекта является осуществление синхронного профессионального юридического перевода, целью которого выступает обеспечение конституционных прав сторон (ч. 2 ст. 18, ст. 59 УПК РФ) и основных принципов правосудия [14]. Следственная и судебная практика испытывает хронический дефицит переводчиков, особенно редких языков. Ожидание специалиста может составлять несколько дней даже для производства одного следственного действия, а привлечение его из другого региона влечет задержки расследования, противоречащие принципу разумного срока (ст. 6.1 УПК РФ). Искусственный интеллект, обладающий базой данных по большинству языков мира, способен обеспечить перевод в режиме реального времени, что критически важно на первоначальном этапе, когда лицо, не владеющее русским языком, доставлено в отдел полиции и не понимает оснований применяемых мер процессуального принуждения.

Вместе с тем, как обоснованно отмечает Н.А. Баканов, полная замена профессионального переводчика в уголовном процессе невозможна в силу действующего правового регулирования и технологического несовершенства интеллектуальных систем в сфере юридического перевода [15, с. 208]. На современном этапе допустимо лишь использование искусственного интеллекта для выполнения функции оперативного чернового перевода либо вспомогательного инструмента в руках профессионального переводчика.

Помимо оптимизации деятельности указанных субъектов, внедрение искусственного интеллекта приносит пользу уголовному правосудию в целом, поскольку способствует повышению эффективности процессуальной деятельности, сокращению временных и организационных затрат на производство процессуальных действий, снижению вероятности ошибок, связанных с человеческим фактором и созданию условий для более полного и всестороннего исследования доказательств.

Однако, несмотря на очевидный прагматический потенциал систем искусственного интеллекта, их имплементация в механизм реализации функции содействия правосудию сопровождается рядом существенных этико-правовых рисков. Игнорирование последних способно не только нивелировать потенциальные преимущества от внедрения рассматриваемых технологий, но и детерминировать причинение вреда правам и законным интересам участников уголовного судопроизводства.

В рамках настоящей статьи представляется целесообразным фокусирование на этико-правовых рисках использования искусственного интеллекта, поскольку именно они непосредственно затрагивают фундаментальные принципы уголовного судопроизводства, а следовательно, требуют доктринального осмысления и адекватного нормативного реагирования. Среди наиболее значимых с точки зрения реализации функции содействия правосудию можно выделить:

риск подмены профессионального правового суждения результатами алгоритмической обработки и риск размывания персональной ответственности.

1. Риск подмены профессионального правового суждения результатами машинной алгоритмической обработки. Сущность данного риска заключается в формировании у субъектов, реализующих функцию содействия правосудию, предрасположенности к некритическому восприятию выводов искусственного интеллекта как заведомо объективных и безошибочных. В результате генерируемые алгоритмом выводы воспринимаются не в качестве инструмента для анализа, а как готовое, не подлежащее сомнению процессуальное решение.

Формирование такого абсолютного доверия к технологиям искусственного интеллекта недопустимо, а в отдельных случаях даже опасно, в силу некоторых особенностей слабого искусственного интеллекта:

–восприятие ошибок и предвзятостей в обучающих материалах в качестве закономерностей. Алгоритмы искусственного интеллекта, обрабатывая представленные для обучения материалы (архивные материалы уголовных дел, статистические выборки, материалы опубликованной судебной практики) не способны к разграничению объективно верных правовых подходов от ошибочных и предвзятых. Если исходные данные обучающих материалов, содержат ошибки и предубеждения, алгоритм неизбежно унаследует данные закономерности и начнет воспроизводить их в своих выводах [16, с. 235]; –механизм принятия решений по принципу «черного ящика». Современные нейросетевые модели характеризуются отсутствием прозрачности и подотчетности логики принимаемого решения (конечного вывода), в связи с чем участники уголовного процесса не имеют возможности проверить, на основании каких именно признаков система сформировала тот или иной вывод [17, с. 50]. Необъяснимость принятых решений противоречит ч. 4 ст. 7 УПК РФ, которая предписывает, что любое процессуальное решение в уголовном судопроизводстве должно быть законным, обоснованным и мотивированным; –отсутствие способности к правовой герменевтике. Искусственный интеллект не способен к творческому осмыслению исключительных обстоятельств, применению принципов справедливости и целесообразности в ситуациях, выходящих за пределы формальных критериев. В силу своей алгоритмической природы искусственный интеллект лишен возможности отступать от заложенных предписаний, что делает его беспомощным при разрешении нетипичных, казуистичных дел, требующих человеческого правового суждения; –подверженность технологическим сбоям, программным ошибкам и нестабильности работы алгоритмов. Как и любая техническая система, искусственный интеллект подвержен рискам сбоев, ошибок и преднамеренного вмешательства в работу алгоритмов (кибератаки, подмена данных), что может приводить к утрате, искажению или уничтожению процессуально значимой информации.

2. Риск размывания персональной ответственности. Содержание данного риска составляет возникновение нормативной и фактической неопределенности относительно субъекта, который должен нести ответственность за противоправные и вредоносные последствия, порожденные функционированием автоматизированных и интеллектуальных систем.

Невозможность привлечения к ответственности за ошибки искусственного интеллекта может формировать у субъектов содействия правосудию, особенно у властных субъектов, установку на безответственное использование данной технологии. Недобросовестные должностные лица способны злоупотреблять этим, прикрываясь «объективностью машинного решения» для оправдания заведомо незаконных действий и перекладывая вину на алгоритм. Подобный подход нивелирует содействие правосудию со стороны органов предварительного расследования.

В результате проведенного исследования установлено, что искусственный интеллект благодаря своим функциональным возможностям обладает значительным прагматическим потенциалом для оптимизации деятельности субъектов, реализующих функцию содействия правосудию. Однако отдельные особенности функционирования интеллектуальных систем формируют совокупность рисков этико-правового характера. Для минимизации выявленных рисков и обеспечения эффективной реализации содействия правосудию с использованием искусственного интеллекта требуется разработка отечественных интеллектуальных систем с подотчетным механизмом принятия решений и устойчивостью к технологическим сбоям, а также внешнему вмешательству.

Кроме того, считаем необходимым внедрение в уголовно-процессуальный закон принципа «инструментальной субординации и персональной ответственности»:

Использование систем искусственного интеллекта, в уголовном судопроизводстве допустимо исключительно в качестве вспомогательного инструмента, усиливающего аналитические, поисковые и организационные возможности участников уголовного процесса. Любое процессуальное решение, затрагивающее права и свободы личности, окончательно формируется, принимается человеком и сопровождается персональной ответственностью уполномоченного должностного лица (следователя, дознавателя, прокурора) на основе его внутреннего убеждения, сформулированного в результате критической оценки как совокупности доказательств, так и результатов, полученных с применением информационных технологий.