Гражданско-правовая ответственность за вред, причиненный искусственным интеллектом: поиск субъекта ответственности

Развитие технологий искусственного интеллекта как нового этапа научно-технического прогресса затрагивает все сферы жизни современного общества: экономику, медицину, образование, государственное управление, сферу безопасности, военное дело. Однако широкомасштабное и стремительное внедрение ИИ в гражданский оборот порождает принципиально новые юридические проблемы, в том числе в вопросах гражданско-правовой ответственности за вред, причинённый такими системами.

Серьезность данной проблематики обусловлена тем, что интеллектуальные системы способны действовать автономно, порой непредсказуемо, вне непосредственного контроля со стороны человека, что ставит под вопрос реализацию принципа неотвратимости ответственности за причиненный вред и поиска надлежащего субъекта такого обязательства.

Вопросы ответственности приобретает особую актуальность на фоне цифровизации базовых отраслей экономики, появления в праве новых объектных и субъектных конструкций, а также появления новых вызовов и угроз, затрагивающих частные и публичные интересы. Истоки исследуемой тематики в отечественной науке восходят к фундаментальным работам В.Н. Пушкина, Д.А. Поспелова, А.Н. Колмогорова — ученых, которые в середине XX века заложили основы советской кибернетики и теории искусственного интеллекта, понимая сложность взаимодействия человека и интеллектуализированных машин. Сегодня эти научные изыскания прочно интегрируются в междисциплинарную повестку правовой науки, где вопросы реального внедрения ИИ требуют не только накопления эмпирического материала, но и поиска новых теоретических и прикладных решений [1].

Еще несколько десятилетий назад искусственный интеллект находился на границе научного прогноза и фантастики. В начале XXI века ситуация изменилась: ИИ вошёл в повседневную жизнь, стал заменять или дополнять принятие решений человеком, выполнять сложные когнитивные операции и действовать без постоянного контроля со стороны пользователей, собственников, администраторов или государства. Переход от обычного программного обеспечения к самообучающимся и автономным системам привёл к тому, что сегодня речь идёт уже не только о косвенной роли ИИ в причинении вреда, но и о его самостоятельных решениях, непредсказуемых последствиях и необходимости выработки механизмов возмещения ущерба.

В научных и нормативных документах, включая Национальную стратегию развития искусственного интеллекта в РФ на период до 2030 года, ИИ определяется как комплекс технологических решений, имитирующих когнитивные функции человека, включая способность к обучению и принятию решений без заранее заданного алгоритма. Следовательно, влияние на окружающий мир становится результатом не только заложенных человеком инструкций, но и автономных вычислительных процессов, причинно-следственная связь которых с наступившим вредом часто оказывается неочевидной.

Изменился и спектр рисков гражданского оборота. Если раньше ответственность в сфере информационных технологий в основном связывалась с некачественным программным обеспечением или нарушением пользовательских соглашений, то теперь автономность алгоритмов требует новых подходов к определению причинителя вреда и механизма компенсации [2].

В отечественной науке истоки обсуждения этих проблем относятся к 1960–80-м гг. Советские учёные, в том числе В.Н. Пушкин, Д.А.

Поспелов и А.Н. Колмогоров, исследовали взаимодействие человеческой когниции и машинных алгоритмов. Уже тогда отмечалось, что самостоятельность машинных решений требует особых юридических мер. С позиций гражданского права ключевой вопрос формулировался так: если вред причинён не человеком, на кого возлагать обязанность по его возмещению? По мере развития технологий — от автоматизированной обработки информации до самообучающихся нейросетей — эта проблема лишь усложнялась.

Современные исследователи признают, что традиционные категории субъектности и ответственности уже не вполне соответствуют вызовам эпохи ИИ. Современный ИИ представляет собой сложную инфраструктурную систему, включающую аппаратные и программные компоненты, базы данных и механизмы удалённого управления. Когда такая система причиняет имущественный, личный или иной вред, классические подходы деликтного права начинают давать сбои. ИИ, действующий на основе вероятностной логики, способен приводить к последствиям, которые непредсказуемы ни для разработчика, ни для пользователя, ни для регулятора [3]. Дополнительную сложность создаёт проблема «чёрного ящика» — алгоритмической непрозрачности современных систем ИИ. Это затрудняет расследование причин ущерба и ставит под сомнение возможность доказать вину конкретного лица или организации.

В российском праве вопрос ответственности в основном регулируется институтом деликтной ответственности (ст. 1064 ГК РФ и др.). По общему правилу вред возмещает либо непосредственный причинитель, либо лицо, управляющее источником повышенной опасности; в некоторых случаях ответственность возможна и без вины. Однако ИИ не является субъектом права и не обладает дееспособностью, а его автономность усложняет связь между действиями человека и причинённым вредом. Поэтому на практике ответственность может возлагаться на разработчика, если вред вызван дефектом системы, на собственника или пользователя устройства, на оператора, обслуживающего систему, а в отдельных случаях — на лицо, использовавшее её с нарушением установленных правил [4].

Эти подходы, однако, сталкиваются с рядом объективных трудностей. Во первых, сложность экспертизы причинно-следственной связи, во вторых — сложности разграничения степени вины и доли ответственности участников процесса создания и эксплуатации искусственного интеллекта. Более того, существует вероятность наступления ситуации, в которой ни одно из указанных лиц не проявило реальной вины. Следовательно, возникает вопрос об объективной (абсолютной) ответственности или же о необходимости формирования специального компенсационного фонда/страхования подобных рисков.

В последние годы в правовой доктрине появляется идея «субъектности» искусственного интеллекта. Согласно данной позиции, системы ИИ могут рассматриваться в качестве особых квази субъектов права с ограниченной или функциональной правоспособностью (в частности, в части возникновения спец¬обязательств по возмещению вреда). Этот подход видится весьма перспективным для ряда правовых систем в долгосрочной перспективе, однако сегодня он встречает объективные возражения, связанные с осмыслением юридических оснований субъектности (воля, сознание, способность к ответственности, правовая интеграция в общественный договор и др.).

На данном этапе (и по российскому, и по доминирующему зарубежному праву) ИИ не признаётся субъектом гражданского права, не может выступать стороной сделки, ответчиком в суде или самостоятельно возмещать ущерб. Однако постановка данной правовой проблемы открывает путь к постепенному формированию гибридных моделей ответственности [5].

В мировой практике регулирование ответственности за вред, причинённый искусственным интеллектом, носит фрагментарный и несистемный характер, что отражает отсутствие единого подхода к этой сложной правовой проблеме. В странах Европейского Союза действует резолюция Европарламента 2020/20112(INL), в которой впервые была выдвинута идея присвоения определённым автономным и высокотехнологичным системам статуса «электронной личности». Это позволило бы рассматривать такие системы как самостоятельных субъектов, обладающих определёнными обязанностями и частично — правами, однако на практике данная концепция пока не получила окончательного правового закрепления и остаётся на уровне теоретических предложений. Вместо революционных шагов по признанию электронных лиц, в качестве основного инструмента регулирования сейчас предлагается внедрение обязательного страхования гражданской ответственности, аналогичного действующей системе автогражданского страхования (ОСАГО), чтобы компенсировать вред, который может быть причинён автономными системами.

В США вопросы ответственности за вред от ИИ регулируются преимущественно судебными прецедентами и обычным правом. Разработаны презумпции, которые упрощают установление виновника: если беспилотный автомобиль сбивает пешехода, чаще всего ответственность ложится на владельца или производителя (особенно при наличии конструктивного дефекта или недостатков эксплуатации). Однако решения принимаются индивидуально по каждому делу, что подчеркивает отсутствие четкой законодательной базы. В Китае в условиях высокой цифровизации государство контролирует цифровую среду, требует обязательной идентификации участников и жёстко регулирует ответственность конечного пользователя за взаимодействие с ИИ [6]. Такой подход позволяет эффективно отслеживать технологии и управлять рисками, но может снижать мотивацию к инновациям из-за строгих требований.

Опыт разных стран показывает, что не существует единого подхода к определению ответственного за риски ИИ. Ведутся споры, кто должен выступать «глубоким карманом», способным компенсировать ущерб при массовом внедрении умных систем. Формирование комплексных правил — задача для государств и правового сообщества.

По Указу Президента РФ № 490 от 10.10.2019, ИИ — это самообучающаяся система, что расширяет источники возможного вреда. Концепция регулирования ИИ и робототехники (Распоряжение Правительства РФ № 2129-р от 19.08.2020) выделяет важные проблемы: баланс между защитой данных и их использованием, идентификация, страхование рисков, новые формы контроля.

Пока судебная и законодательная практика не выработала единообразной процедуры по определению ответственного лица за вред ИИ; рекомендуется дифференцированный подход с учетом конкретных обстоятельств [7]. Поскольку системы ИИ работают на принципах машинного обучения и могут вести себя непредсказуемо, возникает дискуссия о справедливости ответственности разработчика.

Российские исследователи предлагают рассматривать ИИ как источник повышенной опасности (ст. 1079 ГК РФ), но в отличие от обычных механизмов, риск исходит не только от техники, но и от автономного кода. Ответственность по аналогии применяется временно, до принятия специального регулирования.

Исследователи согласны, что гражданско-правовая ответственность может быть возложена на разных субъектов в зависимости от характера и причин вреда. Если вред вызван дефектом программы либо недобросовестностью при разработке, ответственность несёт разработчик [8], по аналогии с производителями товаров. Компания-владелец или интегратор ИИ отвечает в случае нарушений стандартов или инструкций, а также за нарушение процедур по обращению с технологиями [9].

Отдельно выделяются случаи, когда вина лежит на пользователе — при нарушении инструкций или передаче управления лицам, неспособным обеспечить безопасность. Также к ответственности могут быть привлечены третьи лица за незаконное вмешательство (например, при киберпреступлениях) [10].

В ряде случаев ответственность несёт государство, если ущерб возник из-за недостатков законодательства или ошибок в сертификации и лицензировании. Наиболее разумен дифференцированный подход с возможным привлечением страхования или компенсационных фондов, если виновника установить невозможно.

Для совершенствования российского законодательства предлагается:

1. Ввести уникальные идентификаторы для ИИ.

2. Обязательное уведомление пользователя о взаимодействии с ИИ.

3. Создание реестра систем ИИ с данными о разработчиках и владельцах.

4. Введение обязательного страхования гражданской ответственности.

5. Формирование компенсационного фонда.

6. Запрет самостоятельного изменения базовых настроек ИИ и обеспечение механизмов экстренного отключения.

7. Ответственность за эксплуатацию незарегистрированных систем ИИ.

8. Контроль и аудит операций ИИ (с применением блокчейна и др.).

9. Презумпция ответственности владельца или введение абсолютной ответственности для особо опасных ИИ.

Гражданско-правовая ответственность в условиях цифровизации получает новое звучание, выступая не только гарантом удовлетворения имущественных притязаний потерпевших, но и инструментом формирования доверия к новым технологиям. Избыточное регулирование способно замедлить инновации, но недостаточное — привести к кризису социальной стабильности и потере инвестиционной привлекательности сектора [11].

Юридическое регулирование должно не только наделять субъектов ответственности правами и обязанностями, но и формировать прозрачные правила игры, повышающие превентивную защищённость граждан и организаций.

Необходимость постоянного диалога между законодателем, бизнесом и экспертным сообществом представляется краеугольным камнем устойчивых деликтных механизмов в цифровую эпоху.

Вопрос гражданско-правовой ответственности за вред, причинённый искусственным интеллектом, выходит за пределы технической или инженерной проблематики, становясь принципиальным вызовом всей системе частного права. Прогресс требует не только новой рефлексии, но и пересмотра некоторых базовых понятий: субъектности, вины, риска, социальной защиты. В сегодняшних условиях классические конструкции деликтного права и система специального регулирования источников повышенной опасности лишь частично компенсируют пробелы, оставляя множество вопросов для дальнейших исследований и законотворчества.

Концепция дифференцированной ответственности с одновременным внедрением иден- тификационных и страховых механизмов, а также новаций в процессе регистрации, аудита и правового контроля операций ИИ, позволит обществу с наименьшими потерями адаптироваться к цифровой трансформации.

Формирование сбалансированного регулирования возможно лишь при условии глубокого междисциплинарного диалога: юристы, разработчики, бизнес, государственные институты и граждане должны совместно определять рамки дозволенного, защищая интересы личности в цифровой среде. Российская и мировая научная школа обладают для этого необходимым фундаментом и потенциалом для адаптации старых и выработки новых норм гражданского оборота в эпоху искусственного интеллекта.