Штучний інтелект створював дипфейки, порушивши закон Канади

Штучний інтелект використовувався для створення дипфейків, що порушило приватність канадців.

Сексуалізовані дипфейки, які користувачі створювали за допомогою чат-бота Grok Ілона Маска і поширювали в X, порушили канадський закон про захист персональних даних у приватному секторі. Про це в четвер заявив комісар з питань конфіденційності Канади Філіпп Дюфрен.

За його словами, інструмент генерації зображень Grok запустили без достатніх запобіжників і без повноцінної оцінки ризиків для приватного життя. Саме через відсутність таких бар’єрів, зазначив Дюфрен, люди змогли масово робити й публікувати сексуалізовані дипфейки — найчастіше із жінками та дітьми. Дослідники оцінювали, що в певний період Grok видавав помітно більше ніж 6 тисяч таких зображень на годину.

Розслідування розпочалося в січні. У фокусі було те, чи дотримувалися компанії, пов’язані з продуктом, вимог приватності та чи отримували «дійсну згоду» на збір, використання та розкриття персональної інформації для створення дипфейків — зокрема відвертого характеру.
Перевірка дійшла висновку, що і xAI (розробник Grok), і X Corp. (власник соцмережі X) порушили федеральний канадський закон про захист персональних даних у приватному секторі. Як підкреслив Дюфрен, обидві компанії належать SpaceX Ілона Маска.

Одна з ключових рекомендацій офісу комісара — призупинити роботу інструмента доти, доки не будуть впроваджені всі необхідні заходи безпеки. Логіка, за словами Дюфрена, проста: «натиснути на паузу», усунути проблему з урахуванням завданої шкоди і тим самим підштовхнути компанії швидше все виправити. Але, як стверджує комісар, компанії на це не погодилися, а у його відомства немає повноважень змусити їх.

Як повідомляє CityNews Ottawa, хоча компанія співпрацювала з розслідуванням і вжила певних заходів у відповідь на зауваження, вона, як і раніше, залишається в стані невідповідності вимогам закону.

Дюфрен додав, що ця історія наочно показує: канадське законодавство про приватність час оновлювати - так, щоб його офіс міг виписувати штрафи і видавати обов’язкові до виконання приписи.

Міністр з питань штучного інтелекту Еван Соломон раніше говорив, що має намір внести оновлений закон про захист персональних даних. Чи встигнуть це зробити до літніх канікул Палати громад, поки що незрозуміло.

Ліберальний уряд уже двічі намагався переписати закон про приватність для приватного сектору, але обидва законопроєкти зрештою так і не стали законом.

Канада, зазначив комісар, увійшла до числа юрисдикцій, які паралельно зайнялися перевірками щодо теми сексуалізованих діпфейків — разом із Великою Британією, Євросоюзом і штатом Каліфорнія. Дюфрен підкреслив: штучний інтелект та інші нові технології «живляться» масовим збиранням і використанням даних, включно з персональною інформацією.