Компанії в Канаді уникають юридичної відповідальності за ШІ

Канадські компанії, які використовують штучний інтелект, намагаються уникнути відповідальності за його дії.

Житель Торонто Зак Джакомеллі стверджує, що дилер BMW Toronto спочатку пообіцяв викупити його автомобіль за 27 тисяч 162,79 долара, потім майже одразу відмовився від цього, пояснивши це «помилкою» чат-бота на штучному інтелекті. Повернутися до початкових умов автосалон погодився лише після того, як до історії долучилися журналісти.

31-річний Джакомеллі працює похоронним директором. Минулого місяця він вирішив продати назад дилеру свій уживаний BMW 2021 року випуску — цю машину він купував у BMW Toronto у 2023 році. Пізніше автомобілю знадобився серйозний ремонт, і в якийсь момент власник вирішив, що простіше закрити питання з машиною через викуп.

Як розповідає Джакомеллі, після онлайн-заявки йому прийшло СМС від якогось «Квінна». Той ввічливо розпитував про проблеми, уточнював деталі й тримав зв’язок, поки машина перебувала в сервісі дилера. У переписці «Квінн» назвав і конкретну суму викупу — 27 тисяч 162,79 долара. Для Джакомеллі це виглядало вдалим варіантом: сума майже повністю закривала залишок боргу за кредитом.

Але невдовзі, за словами чоловіка, йому зателефонував консультант із продажу та заявив, що пропозиція не діє. Причина — «Куінн» виявився не співробітником, а чат-ботом на базі ШІ, який «сформував суму помилково». Реальний викуп, як стверджує Джакомеллі, йому оцінили максимум у 20 тисяч доларів — тобто більш ніж на 7 тисяч нижче обіцяного.

Історія одразу впирається в просте питання: чи можуть відповіді ШІ фактично пов’язувати компанію зобов’язаннями. Юристка з судових спорів із Торонто Таня Уокер нагадує, що в Канаді вже є рішення, де організації відповідали за те, що «наговорив» їхній чат-бот. У 2024 році Air Canada зобов’язали виконати обіцянку про знижку після того, як чат-бот неправильно проконсультував пасажира щодо тарифів для поїздок у зв’язку з втратою близької людини. Авіакомпанія намагалася наполягати, що чат-бот — «окрема юридична сутність», але Трибунал з цивільного врегулювання Британської Колумбії з цим не погодився.

За словами Вокер, чат-бот для бізнесу — по суті той самий «співробітник»: якщо він веде комунікацію від імені компанії, його слова можуть мати наслідки аж до укладення домовленостей. Тому, підкреслює юрист, якщо компанія не готова відповідати за підсумок, їй не варто доручати ШІ переговори.

Окремо Джакомеллі дратувало, що він узагалі не розумів, що розмовляє з ботом: із листування, яке вивчили журналісти, не випливало, що «Куінн» — не людина. Після цифри 27 тисяч 162,79 долара чоловік навіть спробував поторгуватися і запропонував 28,5 тисячі доларів. «Куінн» відповів, що «команда» розгляне варіант, і додав, що «28 тисяч 500 звучить розумно». При цьому Джакомеллі підкреслює: він ще не встиг формально прийняти пропозицію в 27 тисяч 162,79 долара — чекав відповіді на зустрічну ціну.

Проте Уокер вважає, що в нього могли б бути аргументи на користь наявності домовленості: наприкінці листування «Квінн» призначив візит в автосалон для оформлення угоди — «Давайте закріпимо сьогодні на 3:30».

Як повідомляє CBC News, після звернення журналістів до BMW Toronto дилер відновив початкову пропозицію в 27 тисяч 162,79 долара, і Джакомеллі погодився на цих умовах.

Менеджер із продажу BMW Toronto Скотт Шедболт в телефонному інтерв’ю сказав, що автосалон вирішив «вчинити правильно» щодо клієнта. За його версією, проблема почалася з непорозуміння: сума 27 тисяч 162,79 долара — це те, що Джакомеллі ще залишалося виплатити за кредитом, але бот сприйняв цифру як ціну, яку дилер готовий заплатити за викуп. «ШІ-бот підхопив це і неправильно зрозумів повідомлення», — сказав Шедболт.

Він також підкреслив, що чат-бот не був налаштований на самостійні переговори щодо контрактів і мав лише передавати пропозиції, сформовані людьми. Надалі, за словами Шедболта, подібні суми клієнтам озвучуватимуть лише співробітники. Крім того, дилер обіцяє змінити комунікацію так, щоб людям було очевидно, коли вони спілкуються з ШІ.

Експерти очікують, що подібних конфліктів стане більше в міру того, як компанії масово впроваджують ШІ в клієнтський сервіс. За даними Statistics Canada за другий квартал 2025 року, 12% канадських компаній повідомили, що використовують ШІ для виробництва товарів або надання послуг (роком раніше — 6%). Серед тих, хто застосовує ШІ, чверть використовують чат-ботів або віртуальних агентів.

Професор Університету Гвелфа Гас Скорборг, співкерівник Центру розвитку відповідального та етичного штучного інтелекту, зазначає: окрім юридичних тонкощів залишається і базова відповідальність перед клієнтом. Рішення встановити бота ухвалює людина — часто заради економії. Якщо технологія помиляється, бізнес, за його словами, має бути готовий визнавати проблему та виправляти наслідки.