Поделиться 
Чат-боты и ИИ-агенты стали полноценными помощниками, но при создании такого продукта нужно учитывать множество факторов, и не только технических. Например, модель не должна обучаться на персональных данных и охраняемых объектах интеллектуальной собственности без лицензии, а ее разработчики могут установить запрет на использование в России. Кроме этого, нарушить закон могут и пользователи ИИ-продукта. В итоге ошибка на любом этапе будет стоить миллионы, повлечет претензии и репутационный ущерб. Разобрались вместе с юристами, на что обратить внимание, чтобы этого избежать.
Развитие искусственного интеллекта позволило создавать новые продукты на базе этой технологии. Это, например, чат-боты или ИИ-агенты, которые собирают данные и анализируют их, обрабатывают заказы клиентов и общаются с ними, отвечают на письма, прогнозируют спрос и риски. Такого помощника довольно легко и быстро создать, и глубоких навыков программирования для базового продукта не нужно. Но его создание и выпуск может обернуться нарушениями и штрафами, если не учесть юридические тонкости на каждом этапе.
1
Определение сферы работы и роли
Первое, что необходимо сделать при разработке ИИ-продукта, — это определить, в какой сфере он будет работать и какую задачу решать. Это нужно, чтобы проверить, существуют ли в выбранной отрасли дополнительные ограничения и контроль. Например, если ИИ-продукт предназначен для медицины, то нужно понять, есть ли в нем функция автоматической интерпретации данных, полученных от медицинского работника или напрямую от медицинского изделия, уточняет партнер и руководитель практики цифрового права Афонин, Божор и партнеры Михаил Божор. Если такая функция есть, то продукт, согласно письму Росздравнадзора от 13.02.2020 № 02И-297/20, уже считается медицинским изделием и до начала использования на него нужно получить регистрационное удостоверение.
По словам Божора, многие разработчики медицинского ПО стараются уйти от подобных требований, указывая в пользовательском соглашении, что ПО не предназначено для использования медицинскими работниками. Но юрист предупреждает: Росздравнадзор при проверках анализирует функции самой программы, а не формулировки в документах.
Подобные ограничения и дополнительные требования могут быть в банковской сфере, в работе с критической инфраструктурой (например, энергетика), в отраслях, где нужно обеспечить повышенную безопасность пользователей, и при внедрении продукта в госуслуги и социальную сферу.
Для критических инфраструктур и компаний, работающих с чувствительными данными, особым порогом входа будет вопрос безопасности. IT и служба безопасности потребуют гарантии, заинтересуются логами, интеграциями, потенциальными рисками утечки данных. Необходимо глубоко проработать и разобрать детали каждого компонента, чтобы обосновать возможность использования той или иной модели.
Евгений Журба, партнер практики Legal Tech BGP Litigation
Дальше нужно определить вашу роль в создании ИИ-продукта, так как от этого зависит объем ответственности. Это может быть разработчик программного обеспечения, оператор или владелец ИИ-сервиса.
Минимальный объем ответственности будет у разработчика, который формирует основу продукта, датасеты, механизмы безопасности. Он отвечает за нарушение исключительных и авторских прав на этапе создания сервиса, уточняет Божор, например если использовал фрагменты чужого кода. Кроме этого, именно разработчик несет ответственность, если заложит в продукт дискриминационные механизмы или системные ошибки, добавляет старший юрист ККМП | Кучер Кулешов Максименко и партнеры Елена Полева. В итоге разработчик отвечает перед лицом, которому причинен вред, лишь тогда, когда он изначально допустил в системе противоправное поведение и между базовым алгоритмом и причинившим вред результатом есть прямая причинно-следственная связь, рассуждает юрист. Но дальше модель обучается, а в этом участвуют и другие лица, и сами пользователи. Поэтому разработчик, скорее всего, не будет нести ответственности за обучение модели на проприетарных объектах (фотографиях, текстах, базах данных), предполагает Божор.
Основная ответственность лежит на операторе ИИ-сервиса. Именно это лицо предоставляет конечным пользователям доступ к модели, поэтому он должен обеспечивать безопасность при работе с ИИ-продуктом, соблюдать требования к обработке персональных данных и нести ответственность за их утечку, перечисляет Божор. Кроме того, оператора наряду с разработчиком компонентов сервиса, могут привлечь к ответственности за незаконное использование объектов интеллектуальной собственности.
Все риски оператора ИИ-сервиса можно снизить или нейтрализовать за счет переноса ответственности на разработчика в договоре с ним в порядке регресса. Но первым перед пользователями и государством будет все равно отвечать именно оператор платформы.
Михаил Божор, партнер, руководитель практики цифрового права Афонин, Божор и партнеры
