Особенности возложения гражданско-правовой ответственности за действия искусственного интеллекта

Введение

Развитие технологий искусственного интеллекта (далее – ИИ) ставит перед наукой гражданского права новые вопросы, связанные с определением круга лиц, являющихся субъектами гражданских правонарушений, которые возникают в связи с использованием технологий ИИ.

Актуальность исследования обусловлена тем, что в настоящее время ИИ не признается субъектом права, поскольку не обладает правоспособностью и дееспособностью. Согласно ст. 2 ГК РФ, субъектами гражданских правоотношений являются физические, юридические лица и публичные образования. Однако в случае с ИИ возникают сложности из-за его способности к самостоятельному принятию решений, что не укладывается в традиционные рамки правосубъектности, поэтому ответственность за его действия может быть возложена на его разработчиков, владельцев или пользователей.

В современных условиях цифровизации и внедрения ИИ в управленческую деятельность возникает необходимость пересмотра традиционных подходов к правосубъектности и ответственности [9, с. 120]. Как справедливо подчеркивает П.П. Сергун, ИИ может рассматриваться как «субъектно-объектное образование», что требует разработки новых правовых механизмов, включая гражданско-правовую ответственность [15, с. 140]. При этом, как верно отмечает С.С. Горохова, правовая ответственность является необходимым элементом всякого правового регулирования [5, с. 23]. Данный тезис приобретает особую значимость в контексте регламентации ИИ, где традиционные механизмы ответственности зачастую оказываются недостаточно эффективными.

Необходимость поиска новых решений подтверждается правоприменительной практикой:

суды уже сталкиваются с ситуациями, когда вред причинен автономными действиями ИИ (ошибки чат-ботов, аварии беспилотных автомобилей), а классические конструкции вины или источника повышенной опасности не позволяют точно определить субъекта ответственности. Это делает тему исследования не только теоретически, но и практически значимой.

Цель исследования заключается в определении круга лиц, выступающих субъектами гражданского правонарушения, являющегося основанием гражданско-правовой ответственности за вред, причиненный в результате функционирования систем ИИ; выявлении пределов гражданско-правовой ответственности, возникающей вследствие действий ИИ; разработке предложений по совершенствованию российского законодательства в данной сфере.

Методы

Методологическую основу исследования составляет комплекс общенаучных и специально-юридических методов познания. В работе использован формально-юридический метод, позволивший проанализировать нормы действующего гражданского законодательства Российской Федерации, регулирующие деликтные отношения, а также выявить правовые пробелы в части установления ответственности за вред, причиненный ИИ-системами.

Применение метода сравнительного правоведения дало возможность сопоставить различные модели ответственности за действия ИИ (виновной, субсидиарной и строгой ответственности), разработанные в научной доктрине, и обосновать выбор наиболее эффективного подхода. Метод системного толкования правовых норм использован для анализа взаимосвязи положений главы 59 ГК РФ с предлагаемыми изменениями законодательства. Посредством метода анализа судебной практики исследованы конкретные случаи причинения вреда с использованием ИИ-систем (дело Air Canada о некорректном совете чат-бота, аварии с участием автомобилей Tesla, ошибки медицинских диагностических систем IBM Watson Health), что позволило выявить типичные правовые проблемы, возникающие при применении существующих оснований деликтной ответственности.

Кроме того, применен метод правового моделирования, в рамках которого разработана авторская конструкция распределения ответственности между разработчиком, оператором и владельцем ИИ-системы, а также предложена классификация ИИ-систем по степени их автономности.

Теоретическую базу исследования составили труды российских правоведов, исследующих проблемы гражданско-правовой ответственности, цифровизации и правосубъектности ИИ:

Л.В. Санниковой и Ю.С. Харитоновой [14], И.М. Конобеевской [7], П.П. Сергуна [15], В.А. Лаптева [8], Л.Ю. Василевской [2], А.А. Антонова [1], С.С. Шевчука [17] и других.

Результаты исследования

В результате проведенного исследования установлено, что в настоящее время ответственность за вред, причиненный в результате использования технологий ИИ, в российской гражданско-правовой системе подлежит установлению по общим основаниям деликтной ответственности, предусмотренным гл. 59 ГК РФ. Конкретные случаи подлежат квалификации по одному из специальных составов, например, по ст. 1064 ГК РФ, устанавливающей общие основания ответ- ственности за причинение вреда, или по ст. 1079 ГК РФ, устанавливающей ответственность за вред, причиненный источником повышенной опасности. Поскольку ИИ не признаётся самостоятельным субъектом права, бремя доказывания отсутствия вины в причинении вреда может быть возложено на владельца или оператора ИИ как на лиц, осуществляющих контроль над этим комплексом инструментов.

Однако анализ правоприменительной практики свидетельствует о недостаточности существующих оснований деликтной ответственности. В частности, в деле Air Canada (2022 г.), где пассажир приобрел билеты, полагаясь на некорректный совет чат-бота о скидке при утрате близкого родственника, суд отклонил доводы авиакомпании о том, что чат-бот не является официальным источником информации, постановив, что ИИ-чат выступает как представитель компании, и взыскал компенсацию [16].

Данный пример демонстрирует наличие проблемы разграничения ответственности за действия автономных ИИ-систем и недопустимость полного отказа компаний от ответственности за ошибки ИИ.

В Российской Федерации также зафиксированы случаи аварий с участием электромобилей, управляемых автопилотом. Например, 10 августа 2019 г. Tesla Model 3 в автономном режиме столкнулась с грузовиком, который система не распознала [12]. При этом, согласно действующему в России гражданскому законодательству, вопрос ответственности в подобных ситуациях решается в рамках классического подхода к источнику повышенной опасности (ст. 1079 ГК РФ). Это означает, что бремя ответственности за вред, причиненный автомобилем с автопилотом, как правило, возлагается на его владельца (эксплуатанта), а не на разработчика или владельца алгоритма ИИ. Однако существующий в гражданском праве институт ответственности за использование источника повышенной опасности не учитывает способность современного ИИ к принятию решений в непредвиденных ситуациях на основе алгоритмов, в разработку и обучение которых владелец автомобиля не вовлечен.

Схожая правовая неопределенность возникает и в сфере здравоохранения. Так, в 2021 г. в США пациент подал иск против компании IBM Watson Health из-за того, что ее система анализа онкологических данных выдала неточные рекомендации, что привело к назначению неэффективного лечения и ухудшению состояния пациента [4]. На сегодняшний день не существует четкого механизма, позволяющего установить, кто должен нести гражданско-правовую ответственность в указанных случаях: разработчик, врач, оператор или сам алгоритм. Данный пример подтверждает необходимость дифференциации ответственности в зависимости от сферы контроля над ИИ-системой.

Для успешного разграничения гражданско-правовой ответственности за деятельность ИИ с учетом современных вызовов сложившейся практики предлагаем законодательно классифицировать ИИ-системы по степени их автономности. Первая категория включает объекты интеллектуальной собственности, не способные к самостоятельному принятию решений: чат-боты, системы распознавания изображений, системы автоматизации бизнес-процессов. Они функционируют как инструменты, выполняющие задачи по заданным алгоритмам и на основе предоставленных данных. Человек контролирует их работу и несёт ответственность за их результаты.

Вторая категория — автономные системы с развитым «разумом», вызывающие повышенные риски: беспилотные автомобили, алгоритмические трейдинги, системы управления энергосетями, автономные дроны. Данные системы обладают способностью к самостоятельному обучению, адаптации, принятию решений, что требует особого подхода к определению субъекта ответственности.

Полагаем необходимым квалифицировать ИИ-системы как сложные цифровые активы, обладающие следующими ключевыми характеристиками: существование в цифровой форме, экономическая ценность, оборотоспособность, индивидуализируемость (обособляемость), экстерриториальность функционального применения [14, с. 29].

ИИ как актив защищен комплексом исключительных прав: патентами (на алгоритмы и архитектуру), авторским правом (на исходный код и обученные модели), а также режимом коммерческой тайны/ноу-хау. Модели ИИ подвержены моральному устареванию (обесцениванию) по мере появления новых данных, алгоритмов и технологий, что позволяет компаниям определять срок их полезного использования и амортизировать стоимость, применяя стандартные бухгалтерские практики учета активов.

Квалификация ИИ в качестве сложного цифрового актива, по мнению автора статьи, позволяет решить ряд ключевых задач, необходимых для выстраивания эффективного механизма ответственности.

1. Обеспечивает идентификацию объекта прав. Она превращает абстрактный алгоритм в конкретный, индивидуализированный объект гражданских прав, позволяя точно установить, какая именно версия или экземпляр ИИ-системы причинила вред. Это становится необходимым первым шагом для определения круга лиц, несущих гражданско-правовую ответственность.

2. Позволяет зафиксировать историю владения и контроля. Статус актива даёт возможность зафиксировать последовательность перехода прав и обязанностей (право собственности, лицензионные права и т.д.)

между субъектами гражданских правоотношений. Это позволяет ретроспективно восстановить жизненный цикл системы — от разработчика до конечного пользователя — и выявить всех лиц, чьи решения могли повлиять на её поведение, что обосновывает распределение бремени доказывания.

3. Определяет экономическую ценность.

Денежная оценка актива служит ключевым экономическим показателем для расчёта масштаба потенциального риска, связанного с его использованием; для установления лимита страхового покрытия на случай причинения вреда; для формирования финансовых гарантий (например, резервных фондов) для компенсации возможного ущерба.

4. Требует документирования жизненного цикла. Обязательное ведение сопроводительной документации (технического паспорта, реестра изменений, логов операций) позволяет впоследствии установить, был ли вред причинён вследствие внутреннего дефекта (что указывает на ответственность разработчика) или в результате некорректной эксплуатации (что свидетельствует об ответственности оператора).

5. Открывает возможность субсидиарного применения законодательства о защите прав потребителей. Если вред причинён из-за скрытого существенного недостатка, существовавшего на момент ввода актива в оборот, к разработчику или продавцу может быть применена ответственность за поставку некачественного товара без необходимости доказывать их вину в причинении конкретного вреда.

На основе проведенного анализа предлагается дифференцированная модель распределения гражданско-правовой ответственности за вред, причиненный ИИ-системами, предусматривающая:

1) ответственность разработчика ИИ за вред, возникший в результате дефектов алгоритма или конструкции ИИ; 2) ответственность оператора ИИ за вред, причиненный его ненадлежащей эксплуатацией; 3) ответственность владельца ИИ за вред, возникший в результате несанкционированного вмешательства в систему.

Для реализации данной модели автор статьи предлагает внести в Гражданский кодекс РФ статью 1064.1, устанавливающую специальные основания ответственности за вред, причиненный ИИ-системами. Кроме того, целесообразно в рамках законопроекта принятие Федерального закона «О цифровых правах», который должен закрепить статус ИИ как сложного цифрового актива, установить единые правила его оборота и предусмотреть случаи обязательного страхования ответственности в критически важных сферах его применения (медицина, транспорт, финансы).

Обсуждение

Результаты проведенного исследования согласуются с выводами, полученными в работах других авторов, исследующих проблематику гражданско-правовой ответственности за действия ИИ. В частности, позиция о необходимости пересмотра традиционных подходов к правосубъектности и ответственности [9, с. 120] находит подтверждение в выявленной в ходе настоящего исследования недостаточности существующих оснований деликтной ответственности для урегулирования отношений, связанных с использованием автономных ИИ-систем.

В научной дискуссии конкурируют три основные модели деликтной ответственности за вред, причиненный ИИ: модель виновной ответственности, модель правосубъектности ИИ (субсидиарная ответственность) и модель строгой (безвиновной) ответственности [3, с. 39].

Результаты настоящего исследования подтверждают вывод о том, что модель виновной ответственности сталкивается с практической невозможностью доказывания вины в условиях «эффекта черного ящика», присущего сложным ИИ-системам, таким как нейросети. Модель правосубъектности ИИ, по обоснованному мнению И.Н. Мосечкина, в настоящее время представляется умозрительной и труднореализуемой на практике [10, с. 468]. В этой связи третья модель, будучи модифицированной с учетом необходимости распределения ответственности между несколькими субъектами (разработчиком, оператором, владельцем), является наиболее перспективной.

Позиция В.А. Лаптева о необходимости установления очередности привлечения к ответственности за вред, причиненный ИИ [8, с. 91–92], нашла отражение в предлагаемой автором статьи конструкции ст. 1064.1 ГК РФ. В отличие от подхода, предполагающего определение очередно- сти на судебном уровне, в настоящем исследовании автором обосновывается необходимость законодательного закрепления такой очередности, основанной на объективных критериях контроля над технологией и функциональной ответственности.

Предложение А.В. Дробышева о включении технологий ИИ в примерный перечень источников повышенной опасности, содержащийся в п. 1 ст. 1079 ГК РФ [6, с. 34], представляется логичным и целесообразным. Данное предложение позволяет распространить на отношения с участием ИИ действие презумпции виновности владельца такого источника, тем самым снимая проблему доказывания вины в ее классическом субъективном понимании.

Вместе с тем, разделяя мнение С.С. Шевчука о том, что отнесение роботов и ИИ к источнику повышенной опасности может сдерживать технический прогресс, особенно в медицине [17, с. 46], в настоящем исследовании предлагается дифференцированный подход, при котором к автономным системам с высокими рисками применяется режим источника повышенной опасности, а к ИИ-системам, не обладающим способностью к самостоятельному принятию решений, — общие основания ответственности.

Логика предлагаемых законодательных решений находит подтверждение в правовой позиции Конституционного Суда Российской Федерации, сформулированной в Постановлении от 10 марта 2017 г. № 6-П [13]. Согласно данной позиции, деятельность, создающая повышенную опасность для окружающих, обязывает осуществляющих ее лиц к особой осторожности и осмотрительности, что обусловливает введение правил, возлагающих на владельцев источников повышенной опасности повышенное бремя ответственности. Распространение данного подхода на отношения, связанные с разработкой и применением систем ИИ, представляется обоснованным.

Научная новизна исследования заключается в разработке комплексного подхода к характеристике ИИ как сложного цифрового актива, объединяющего свойства программы для ЭВМ, базы данных и алгоритма, а также в создании новой конструкции гражданско-правовой ответственности, предполагающей ее распределение между разработчиком, оператором и владельцем. В отличие от работ, рассматривающих ИИ исключительно как программу для ЭВМ [2, с. 9], предложенный подход учитывает специфику автономности и способности ИИ к самообучению, что позволяет более точно определить правовой режим таких систем.

Предложенная модель может быть апробирована в рамках экспериментальных правовых режимов (ЭПР), которые позволяют на ограниченной территории и в контролируемых условиях протестировать различные варианты распределения ответственности. В настоящее время ЭПР уже используются для отработки правовых механизмов в сфере беспилотного транспорта и телемедицины. Использование «регуляторных песочниц» для проверки предлагаемой дифференцированной модели ответственности позволит накопить правоприменительную практику и скорректировать законодательные решения до их повсеместного внедрения.

Заключение

Подводя итог проведенному исследованию, можно констатировать, что на сегодняшний день в России еще не сформировалась единая и непротиворечивая система законодательства, регулирующего технологии ИИ, включая положения, устанавливающие гражданско-правовую ответственность за действия ИИ. На данном этапе действует подход экспериментального регулирования, который не обеспечивает единообразия практики и носит временный характер, что препятствует формированию стабильной и предсказуемой правовой среды для долгосрочных инвестиций в разработку и внедрение ИИ.

Проведенный анализ позволяет сделать вывод о том, что разработка механизма распределения ответственности за действия ИИ представляет собой не узкую технико-юридическую, а насущную социально-этическую задачу, призванную обеспечить правовую гармонию между стремительным технологическим прогрессом и необходимостью защиты фундаментальных ценностей: человеческого достоинства, безопасности и справедливости [11, с. 81]. Данный подход имеет принципиальное значение, поскольку он раскрывает распределение ответственности не только с позиций компенсации вреда, но и как основополагающий инструмент обеспечения доверия, подотчетности и правовой определенности в формирующихся отношениях между человеком и автономными системами.

Ключевым шагом на пути к комплексному регулированию является законодательное закрепление правового статуса ИИ как сложного цифрового актива. Квалификация ИИ в этом качестве, обладающего свойствами виртуальности, оборотоспособности и экстерриториальности, позволит устранить правовую неопределенность в вопросах владения, использования, распоряжения, установления правового титула, оборота, наследования и обращения взыскания. Это, в свою очередь, является необходимой правовой предпосылкой для превращения ИИ из экспериментальной технологии в регулируемую и безо- пасную цифровую среду для взаимодействия человека и результата использования информационных технологий.

Для системного решения указанных задач и закрепления данной правовой модели предлагается принятие Федерального закона «О цифровых правах», призванного интегрировать позитивный опыт экспериментальных правовых режимов, закрепить статус ИИ как сложного цифрового актива, а также ввести обязательное страхование гражданской ответственности операторов ИИ в критически важных сферах (медицина, транспорт, финансы).

Ключевым элементом предлагаемой системы является введение в ГК РФ специальной нормы — статьи 1064.1, устанавливающей дифференцированную ответственность разработчика, оператора и владельца в зависимости от критерия фактического контроля над алгоритмом. Реализация этого подхода, предварительно апробированного в рамках «регуляторных песочниц», в комплексе с обязательным страхованием ответственности для критических сфер применения, позволит гармонизировать интересы технологического развития и надежной защиты прав граждан, заложив правовые основы для развития ИИ в России.

Учитывая трансграничный характер ИИ-технологий, Российской Федерации целесообразно не только совершенствовать национальное законодательство (в частности, принятием Федерального закона «О цифровых правах» и введением ст. 1064.1 ГК РФ), но и активно участвовать в разработке международных стандартов ответственности. Это позволит избежать правовых коллизий при использовании ИИ-систем, созданных в одной юрисдикции и применяемых в другой, а также обеспечит единый уровень защиты прав субъектов гражданских правоотношений в условиях цифровой экономики.