Компании в Канаде уходят от юридической ответственности за ИИ

Канадские компании, использующие искусственный интеллект, пытаются избежать ответственности за его действия.

Житель Торонто Зак Джакомелли утверждает, что дилер BMW Toronto сначала пообещал выкупить его автомобиль за 27 тысяч 162,79 доллара, затем почти сразу отыграл назад, объяснив это «ошибкой» чат-бота на искусственном интеллекте. Вернуться к исходным условиям автосалон согласился только после того, как к истории подключились журналисты.

31-летний Джакомелли работает похоронным директором. В прошлом месяце он решил продать обратно дилеру свой подержанный BMW 2021 года выпуска - эту машину он покупал в BMW Toronto в 2023 году. Позже автомобилю потребовался серьезный ремонт, и в какой-то момент владелец решил, что проще закрыть вопрос с машиной через выкуп.

Как рассказывает Джакомелли, после онлайн-заявки ему пришло СМС от некоего «Куинна». Тот вежливо расспрашивал о проблемах, уточнял детали и держал связь, пока машина находилась в сервисе дилера. В переписке «Куинн» назвал и конкретную сумму выкупа - 27 тысяч 162,79 доллара. Для Джакомелли это выглядело удачным вариантом: сумма почти полностью закрывала остаток долга по кредиту.

Но вскоре, по словам мужчины, ему позвонил консультант по продажам и заявил, что предложение не действует. Причина - «Куинн» оказался не сотрудником, а чат-ботом на базе ИИ, который «сформировал сумму ошибочно». Реальный выкуп, как утверждает Джакомелли, ему оценили максимум в 20 тысяч долларов - то есть более чем на 7 тысяч ниже обещанного.

История сразу упирается в простой вопрос: могут ли ответы ИИ фактически связывать компанию обязательствами. Юрист по судебным спорам из Торонто Таня Уокер напоминает, что в Канаде уже есть решения, где организации отвечали за то, что «наговорил» их чат-бот. В 2024 году Air Canada обязали выполнить обещание о скидке после того, как чат-бот неверно проконсультировал пассажира о тарифах для поездок в связи с утратой близкого человека. Авиакомпания пыталась настаивать, что чат-бот - «отдельная юридическая сущность», но Трибунал по гражданскому урегулированию Британской Колумбии с этим не согласился.

По словам Уокер, чат-бот для бизнеса - по сути тот же «сотрудник»: если он ведет коммуникацию от имени компании, его слова могут иметь последствия вплоть до заключения договоренностей. Поэтому, подчеркивает юрист, если компания не готова отвечать за итог, ей не стоит поручать ИИ переговоры.

Отдельно Джакомелли раздражало, что он вообще не понимал, что разговаривает с ботом: из переписки, которую изучили журналисты, не следовало, что «Куинн» - не человек. После цифры 27 тысяч 162,79 доллара мужчина даже попытался поторговаться и предложил 28,5 тысяч долларов. «Куинн» ответил, что «команда» рассмотрит вариант, и добавил, что «28 тысяч 500 звучит разумно». При этом Джакомелли подчеркивает: он еще не успел формально принять предложение в 27 тысяч 162,79 доллара - ждал ответа на встречную цену.

Тем не менее Уокер считает, что у него могли бы быть аргументы в пользу наличия договоренности: в конце переписки «Куинн» назначил визит в автосалон для оформления сделки - «Давайте закрепим сегодня на 3:30».

Как сообщает CBC News, после обращения журналистов в BMW Toronto дилер восстановил первоначальное предложение в 27 тысяч 162,79 доллара, и Джакомелли согласился на этих условиях.

Менеджер по продажам BMW Toronto Скотт Шэдболт в телефонном интервью сказал, что автосалон решил «поступить правильно» по отношению к клиенту. По его версии, проблема началась с недопонимания: сумма 27 тысяч 162,79 доллара - это то, что Джакомелли еще оставалось выплатить по кредиту, но бот воспринял цифру как цену, которую дилер готов заплатить за выкуп. «ИИ-бот подхватил это и неправильно понял сообщение», - сказал Шэдболт.

Он также подчеркнул, что чат-бот не был настроен на самостоятельные переговоры по контрактам и должен был лишь передавать предложения, сформированные людьми. В дальнейшем, по словам Шэдболта, подобные суммы клиентам будут озвучивать только сотрудники. Кроме того, дилер обещает изменить коммуникацию так, чтобы людям было очевидно, когда они общаются с ИИ.

Эксперты ожидают, что подобных конфликтов станет больше по мере того, как компании массово внедряют ИИ в клиентский сервис. По данным Statistics Canada за второй квартал 2025 года, 12% канадских компаний сообщили, что используют ИИ для производства товаров или оказания услуг (годом ранее - 6%). Среди тех, кто применяет ИИ, четверть используют чат-ботов или виртуальных агентов.

Профессор Университета Гуэлфа Гас Скорборг, соруководитель Центра развития ответственного и этичного искусственного интеллекта, отмечает: помимо юридических тонкостей остается и базовая ответственность перед клиентом. Решение поставить бота принимает человек - часто ради экономии. Если технология ошибается, бизнес, по его словам, должен быть готов признавать проблему и исправлять последствия.