Для клиента и регулятора ваш агент — такой же фронт компании, как менеджер на телефоне.
📌 Цепочка ответственности в 2026 складывается так. Вендор отвечает за продукт: соответствие документации, работоспособность базовых функций, соблюдение обещанных ограничений. Если в договоре есть гарантии результата (например, «агент корректно рассчитывает стоимость кредита»), а ошибка связана с багом, — это уже зона вендора. Но крупные игроки в своих политиках прямо пишут: модель работает вероятностно, output должен проверяться пользователем, а ответственность за использование — на заказчике. Интегратор отвечает за архитектуру, промпты, доступы и то, как агент встроен в процессы. Дал LLM‑агенту полный доступ к CRM без ролей и журналирования — отвечает за последствия такой сборки. Заказчик первым встречает удар: именно к нему придёт клиент, суд и регулятор. Ошибки промптов, устаревшие данные, отсутствие проверки ответов — всё это квалифицируется как просчёт организации процесса, а не «каприз нейросети».
📌 Кейсы уже рисуют контуры практики. В деле Mata v. Avianca адвокаты сослались в суде на несуществующие решения, сгенерированные ChatGPT, получили штраф и публичный разгром — суд не принял аргумент «мы доверились ИИ», возложив ответственность на представителей стороны. В кейсе Air Canada суд признал, что компания отвечает за обещания чат‑бота так же, как за действия живого сотрудника, и обязал применить обещанную скидку. Истории с медицинскими ассистентами, которые давали опасные рекомендации, показывают ещё один слой риска — ответственность за вред здоровью при отсутствии human in the loop. Для права принцип простой: ИИ‑агент — не субъект, он часть вашей системы, а значит, отвечаете вы.
📌 Нестандартный угол для бизнеса: ИИ‑агент надо оформлять не как «модную фичу», а как полноценного участника бизнес‑процессов с регламентами и договорами. Минимум до запуска:
- распределить ответственность за данные (кто и как обновляет базы, сценарии, шаблоны ответов);
- ограничить права агента принципом минимально необходимого доступа;
- в критичных зонах (право, финансы, медицина) вшить обязательную проверку человеком до отправки клиенту;
- включить логирование запросов и ответов как стандарт (без логов разбор и защита в споре невозможны);
- прописать в договорах с вендором и интегратором SLA, ограничения ответственности, регрессные механизмы и порядок реагирования на инциденты с участием ИИ.
📌 В сухом остатке:
- 🟦 Вендор — за то, что обещал и как фактически работает продукт.
- 🟨 Интегратор — за безопасную архитектуру, настройки и ограничения.
- 🟥 Заказчик — за сценарии, качество данных, проверку ответов и то, как ИИ встроен в клиентский путь.
📌 Сохраните пост и загляните в свои действующие договоры: где именно у вас сейчас написано, кто отвечает за ошибку ИИ‑агента, а где всё ещё «как‑нибудь разберёмся»?
#искусственныйинтеллект #комплаенс #рискибизнеса #ответственность #digital
