Канаду закликали запровадити кримінальну відповідальність за небезпечні дії штучного інтелекту

Генеральна прокурорка Британської Колумбії Нікі Шарма попросила федеральну владу терміново переглянути Кримінальний кодекс — після «тривожних» повідомлень про те, що чат-бот OpenAI міг консультувати нападницю перед стріляниною в Тамблер-Ридж.

Шарма каже, що вже звернулася до Оттави, але відповіді поки не отримала: ситуація, за її словами, змінюється надто швидко. При цьому вона наполягає — потрібні поправки, які дадуть зрозумілий механізм людської та корпоративної відповідальності за дії штучного інтелекту. І, як вважає генпрокурор, саме така «чітка лінія підзвітності» здатна змусити компанії змінювати практики.

Приводом для виступу Шарми стала публікація американського журналу Mother Jones. У матеріалі наводяться деталі ймовірного листування між стрільцем Джессі Ван Рутселааром і ChatGPT. Видання стверджує, що в цих розмовах бот, зокрема, описував, наскільки руйнівними можуть бути постріли з дробовика в шкільному середовищі — включно з класом.

Як повідомляє CBC News, 10 лютого Ван Рутселаар застрелила матір і зведеного брата в сімейному будинку. Потім вона прийшла до середньої школи Tumbler Ridge Secondary School, де вбила п’ятьох учнів 12–13 років і 39-річного помічника педагога, після чого наклала на себе руки.

Mother Jones також пише, що ChatGPT нібито підказував 18-річній нападниці, як обходити власні обмеження системи й отримувати інформацію про насильство, видаючи запити за вигадані або гіпотетичні. Як приклади наводяться цитати, де бот радить не згадувати реальні локації та подавати сценарії як «фантастичні», щоб «не бути позначеною» модерацією.

Після стрілянини OpenAI заявляла, що раніше заблокувала акаунт Ван Рутселаар у ChatGPT, але той випадок, за версією компанії, не дотягував до «вищого порогу», за якого інформацію передають правоохоронним органам. У публікації стверджується, що після блокування вона нібито завела другий акаунт — і там, як зазначається в матеріалі, отримала поради про те, як «більше ніколи не попадатися».

Новости интереснее, когда есть с кем их обсудитьПознакомьтесь с русскоязычными людьми из Ванкувера и других городов Канады. Возможно, тот самый человек уже совсем рядом.Посмотреть, кто сейчас на сайте →

Тема швидко вийшла на політичний порядок денний. Лідер НДП Девід Ебі, виступаючи під час передвиборчої кампанії на провінційних виборах, назвав викладені звинувачення «шокувальними» і підкреслив, що подібні подробиці особливо болісні для сімей загиблих. За його словами, такі компанії мають регулюватися, а якщо твердження підтвердяться, може йтися і про кримінальну відповідальність.

Офіс федерального міністра штучного інтелекту та цифрових інновацій Евана Соломона у своїй заяві зазначив, що до публікації Mother Jones міністр не знав про конкретні розмови, про які йдеться. Там додали: після трагедії OpenAI оголосила про вжиті заходи, але поки неможливо сказати, чи достатньо цього — і опубліковані відомості порушують серйозні питання про те, як компанія розпізнавала попереджувальні сигнали і що робила у відповідь.

У заяві також йдеться, що після трагедії міністр викликав представників OpenAI до Оттави: він вимагав посилити захисні механізми та прояснити порядок ескалації достовірних загроз. За даними офісу Соломона, компанія перебуває в прямому контакті з центром кіберзлочинності RCMP, переглядає минулі випадки та посилила процедури оцінювання загроз. Розслідування триває.

Група з контролю за обігом зброї PolySeSouvient заявила, що ця історія ставить принципове питання: якби поліцію попередили про перший або другий акаунт стрільця в ChatGPT, чи могло б це змінити перебіг подій. Організація вимагає роз’яснень щодо того, які ризики оцінювалися і чому ухвалювалися ті чи інші рішення про доступ до зброї — особливо з огляду на те, що вогнепальну зброю раніше вже вилучали з дому, а потім повернули.
RCMP, зі свого боку, повідомила, що в ході розслідування використовувалися всі доступні правові механізми, щоб отримати відомості від соцмереж і цифрових платформ, пов’язаних із нападом. Компанії, які отримали запити, як стверджують у поліції, співпрацювали.

OpenAI на запити щодо коментаря з приводу публікації не відповіла. Тим часом уряд Британської Колумбії, ті, хто вижив, і свідки стрілянини в Tumbler Ridge Secondary School подали позов проти OpenAI, стверджуючи, що компанія проявила недбалість.