Искусственный интеллект создавал дипфейки нарушив закон Канады

Искусственный интеллект использовался для создания дипфейков, что нарушило приватность канадцев.

Сексуализированные дипфейки, которые пользователи создавали с помощью чат-бота Grok Илона Маска и распространяли в X, нарушили канадский закон о защите персональных данных в частном секторе. Об этом в четверг заявил комиссар по вопросам конфиденциальности Канады Филипп Дюфрен.

По его словам, инструмент генерации изображений Grok запустили без достаточных предохранителей и без полноценной оценки рисков для частной жизни. Именно из-за отсутствия таких барьеров, отметил Дюфрен, люди смогли массово делать и публиковать сексуализированные дипфейки - чаще всего с женщинами и детьми. Исследователи оценивали, что в определенный период Grok выдавал заметно больше 6 тысяч подобных изображений в час.

Расследование началось в январе. В фокусе было то, соблюдали ли компании, связанные с продуктом, требования приватности и получали ли «действительное согласие» на сбор, использование и раскрытие персональной информации для создания дипфейков - в том числе откровенного характера.

Проверка пришла к выводу, что и xAI (разработчик Grok), и X Corp. (владелец соцсети X) нарушили федеральный канадский закон о защите персональных данных в частном секторе. Как подчеркнул Дюфрен, обе компании принадлежат SpaceX Илона Маска.

Одна из ключевых рекомендаций офиса комиссара - приостановить работу инструмента до тех пор, пока не будут внедрены все необходимые меры безопасности. Логика, по словам Дюфрена, простая: «нажать на паузу», устранить проблему с учетом причиняемого вреда и тем самым подтолкнуть компании быстрее все исправить. Но, как утверждает комиссар, компании на это не согласились, а у его ведомства нет полномочий заставить их.

Как сообщает CityNews Ottawa, хотя компания сотрудничала с расследованием и предприняла некоторые шаги в ответ на замечания, она по-прежнему остается в состоянии несоответствия требованиям закона.

Дюфрен добавил, что эта история наглядно показывает: канадское законодательство о приватности пора обновлять - так, чтобы его офис мог выписывать штрафы и выдавать обязательные для исполнения предписания.

Министр по вопросам искусственного интеллекта Эван Соломон ранее говорил, что намерен внести обновленный закон о защите персональных данных. Успеют ли это сделать до летних каникул Палаты общин, пока неясно.

Либеральное правительство уже дважды пыталось переписать закон о приватности для частного сектора, но оба законопроекта в итоге так и не стали законом.

Канада, отметил комиссар, вошла в число юрисдикций, которые параллельно занялись проверками по теме сексуализированных дипфейков - вместе с Великобританией, Евросоюзом и штатом Калифорния. Дюфрен подчеркнул: искусственный интеллект и другие новые технологии «питаются» массовым сбором и использованием данных, включая персональную информацию.