О практике

Юридическая практика для ИИ-проектов

«ИИ Право» это юридическая практика с командой профильных экспертов, которую основал Станислав Трофимов. Мы разбираем, как в ИИ-системах устроены данные, права на разработки, договоры и ответственность, и собираем под задачу проекта нужный состав юридической, технической и отраслевой экспертизы.

О подходе

Сначала факты о системе

«Аудит начинается с одного вопроса. Как система работает на самом деле?»

Команда фиксирует, какая система проверяется, для чего она нужна, какие данные и внешние сервисы используются, кто принимает решения и что уже закреплено в документах. Только после этого можно делать правовые выводы и расставлять риски по приоритету.

Экспертиза

На чём сосредоточена практика

Данные. Источники, правовые основания, лицензии, локализация, обезличивание и автоматизированные решения.
Интеллектуальная собственность. Права на код, датасеты, модели и результаты, открытые лицензии и служебные произведения.
Договоры. Условия внешних ИИ-сервисов, использование данных, уровень сервиса, ответственность и выход из договора.
Ответственность. Роли разработчика, оператора, владельца продукта и пользоватей; инциденты, журналы работы и доказательства.
Отраслевые требования. Финансы, медицина, подбор персонала, госсектор, экспериментальные правовые режимы и применимые ГОСТ.

Процесс аудита

Как проходит аудит

Объём проверки не бывает универсальным. До начала мы фиксируем систему, цель аудита, перечень материалов и формат результата. Ниже приведена обычная последовательность работы, для конкретного проекта она может быть короче.

Шаг 01

Определяем предмет проверки

Фиксируем назначение системы, её границы, основные интеграции и сценарии, которые нужно проверить.

Шаг 02

Фиксируем участников и роли

Определяем, кто владеет продуктом, кто его разрабатывает, кто поставляет модели и данные, кто принимает и исполняет решения.

Шаг 03

Собираем документы и вопросы

Согласуем перечень договоров, политик, регламентов, журналов и технических материалов, а также круг участников интервью.

Шаг 04

Сопоставляем документы с практикой

Проверяем, совпадает ли описанный порядок с тем, как система работает на практике. Если нет, фиксируем разрыв и его последствия.

Шаг 05

Оцениваем риски и приоритеты

Для каждого существенного замечания указываем факты, правовое основание, возможные последствия, приоритет и способ исправления.

Шаг 06

Передаём заключение

Обсуждаем выводы с командой и передаём письменное заключение. По отдельному согласованию можем помочь с внедрением и проверкой изменений.

Команда практики

Экспертиза под задачу проекта

Практику основал Станислав Трофимов, он формирует методологию и участвует в ключевых правовых выводах. Под конкретный проект собирается команда юридических, технических и отраслевых экспертов, её состав и роли заранее согласуются с клиентом.

Трофимов Станислав Сергеевич

Основатель практики · @trofimov_legal Автор книги

Станислав определяет методологию аудита, координирует работу команды и участвует в ключевых правовых выводах. Работает прежде всего с персональными данными и автоматизированными решениями, интеллектуальными правами, договорами с поставщиками ИИ-сервисов и распределением ответственности.

Команда проекта

Профильные эксперты

Юристы по персональным данным, интеллектуальным правам и договорной работе
Специалист по информационной безопасности, если нужна техническая оценка мер защиты
Технический эксперт для тестирования, анализа архитектуры или цифровых следов
Патентный поверенный, если в проект входит регистрация программы, базы данных или иного объекта
Отраслевой специалист, если система используется в медицине, финансах или другой регулируемой сфере

Конкретный состав команды, роли экспертов, задачи и стоимость работы согласуются до начала соответствующего этапа проекта.

Конфиденциальность

Как практика работает с материалами клиента

Материалы ИИ-проекта могут содержать договоры, схемы системы, описания датасетов, результаты тестов и информацию об уязвимостях. До передачи таких файлов мы согласуем канал, круг доступа, срок хранения и при необходимости подписываем соглашение о конфиденциальности.

Использование языковых моделей

Не загружаем материалы клиента в публичные языковые модели без его письменного согласия. Если для работы нужен ИИ-инструмент, его использование обсуждается отдельно.

Изоляция проектных данных

Для каждого проекта используются отдельная рабочая папка и ограниченный круг доступа. Материалы не смешиваются с файлами других клиентов.

Конфликт интересов

До начала работы проверяем, нет ли обстоятельств, которые могут повлиять на независимость оценки. Если есть ограничение, сообщаем о нём до заключения договора.

Соглашение о конфиденциальности

Если для обсуждения нужно раскрыть конфиденциальные сведения, соглашение можно подписать до их передачи. Можем работать по форме клиента.

Срок хранения

Срок хранения файлов после завершения проекта согласуем заранее. По запросу можно также зафиксировать порядок удаления и подтверждения.

Инциденты

Если обнаружим проблему с доступом, хранением или передачей материалов, сообщим о ней клиенту и согласуем следующие действия.

Рабочее взаимодействие

Что фиксируем до начала работы

Со стороны практики

Что будет согласовано

Какая система и какие вопросы входят в предмет аудита
Какие материалы и интервью понадобятся
В каком виде вы получите результат, будь то заключение, реестр рисков или проекты документов
Сроки, этапы, стоимость и порядок согласования дополнительных работ
Каналы связи и порядок работы со срочными вопросами

Со стороны клиента

Что нужно для работы

Краткое описание системы и цели проверки
Один ответственный за проект, который может подключить разработку, безопасность и бизнес-заказчика
Доступ к документам, договорам, схемам и результатам тестов в согласованном объёме
Возможность провести интервью с теми, кто принимает технические и бизнес-решения
Обратная связь по фактам и проекту заключения