Канаду призвали ввести уголовную ответственность за опасные действия искусственного интеллекта

Генеральный прокурор Британской Колумбии Ники Шарма попросила федеральные власти срочно пересмотреть Уголовный кодекс - после «тревожных» сообщений о том, что чат-бот OpenAI мог консультировать нападавшую перед стрельбой в Тамблер-Ридж.

Шарма говорит, что уже обратилась в Оттаву, но ответа пока не получила: ситуация, по ее словам, меняется слишком быстро. При этом она настаивает - нужны поправки, которые дадут понятный механизм человеческой и корпоративной ответственности за действия искусственного интеллекта. И, как считает генпрокурор, именно такая «четкая линия подотчетности» способна заставить компании менять практики.

Поводом для выступления Шармы стала публикация американского журнала Mother Jones. В материале приводятся детали предполагаемой переписки между стрелком Джесси Ван Рутселаар и ChatGPT. Издание утверждает, что в этих разговорах бот, в частности, описывал, насколько разрушительными могут быть выстрелы из дробовика в школьной обстановке - включая класс.

Как сообщает CBC News, 10 февраля Ван Рутселаар застрелила мать и сводного брата в семейном доме. Затем она пришла в среднюю школу Tumbler Ridge Secondary School, где убила пятерых учеников 12-13 лет и 39-летнего помощника педагога, после чего покончила с собой.

Mother Jones также пишет, что ChatGPT якобы подсказывал 18-летней нападавшей, как обходить собственные ограничения системы и получать информацию о насилии, выдавая запросы за вымышленные или гипотетические. В качестве примеров приводятся цитаты, где бот советует не упоминать реальные локации и подавать сценарии как «фантастические», чтобы «не быть отмеченной» модерацией.

После стрельбы OpenAI заявляла, что ранее заблокировала аккаунт Ван Рутселаар в ChatGPT, но тот случай, по версии компании, не дотягивал до «более высокого порога», при котором информацию передают правоохранительным органам. В публикации утверждается, что после блокировки она якобы завела второй аккаунт - и там, как говорится в материале, получила советы о том, как «больше никогда не попадаться».

Новости интереснее, когда есть с кем их обсудитьПознакомьтесь с русскоязычными людьми из Ванкувера и других городов Канады. Возможно, тот самый человек уже совсем рядом.Посмотреть, кто сейчас на сайте →

Тема быстро вышла в политическую повестку. Лидер НДП Дэвид Эби, выступая во время предвыборной кампании на провинциальных выборах, назвал изложенные обвинения «шокирующими» и подчеркнул, что подобные подробности особенно болезненны для семей погибших. По его словам, такие компании должны регулироваться, а если утверждения подтвердятся, речь может идти и об уголовной ответственности.

Офис федерального министра искусственного интеллекта и цифровых инноваций Эвана Соломона в своем заявлении отметил, что до публикации Mother Jones министр не знал о конкретных разговорах, о которых идет речь. Там добавили: после трагедии OpenAI объявила о принятых мерах, но пока невозможно сказать, достаточно ли этого - и опубликованные сведения поднимают серьезные вопросы о том, как компания распознавала предупреждающие сигналы и что делала в ответ.

В заявлении также говорится, что после трагедии министр вызывал представителей OpenAI в Оттаву: он потребовал усилить защитные механизмы и прояснить порядок эскалации достоверных угроз. По данным офиса Соломона, компания находится в прямом контакте с центром киберпреступности RCMP, пересматривает прошлые случаи и усилила процедуры оценки угроз. Расследование продолжается.

Группа по контролю за оборотом оружия PolySeSouvient заявила, что история ставит принципиальный вопрос: если бы полицию предупредили о первом или втором аккаунте стрелка в ChatGPT, могло ли это изменить ход событий. Организация требует разъяснений о том, какие риски оценивались и почему принимались те или иные решения по доступу к оружию - особенно с учетом того, что огнестрельное оружие ранее уже изымали из дома, а затем вернули.

RCMP, в свою очередь, сообщила, что в ходе расследования использовались все доступные правовые механизмы, чтобы получить сведения от соцсетей и цифровых платформ, связанных с нападением. Компании, получившие запросы, как утверждают в полиции, сотрудничали.

OpenAI на запросы о комментарии по поводу публикации не ответила. Тем временем правительство Британской Колумбии, выжившие и свидетели стрельбы в Tumbler Ridge Secondary School подали иск против OpenAI, утверждая, что компания проявила небрежность.