ИИ-агенты начали прощупывать государственные сайты Канады

ИИ-агенты пытались получить несанкционированный доступ к одному из сайтов Library and Archives Canada - об этом говорится в отчете исследовательской компании в области ИИ Transluce. Канадские власти, впрочем, уверяют: признаков того, что государственные системы были взломаны, нет.

По данным Transluce, подозрительную активность заметили дважды - 28 мая и 9 июня. Речь идет о серии запросов к сервису collection-search федеральной библиотеки и архива. В компании описывают их как попытки «прощупать» систему, в том числе с признаками грубых и неудачных, почти примитивных приемов взлома.

Transluce отмечает, что характер запросов «соответствует ранее наблюдавшейся активности агентов, которую мы в сопоставимый период связывали с OpenAI». При этом исследователи подчеркивают: уверенно приписывать эти попытки OpenAI они не берутся. Как сообщает CBC News, о выявленной активности Transluce уведомила правительство Канады в понедельник.

Канадский центр кибербезопасности (Canadian Centre for Cyber Security) во вторник сообщил, что в курсе публикаций о предполагаемой активности ИИ-агентов. «На данный момент нет признаков того, что правительственные системы были скомпрометированы», - заявили в центре.

Новости интереснее, когда есть с кем их обсудитьПознакомьтесь с русскоязычными людьми из Ванкувера и других городов Канады. Возможно, тот самый человек уже совсем рядом.Посмотреть, кто сейчас на сайте →

В OpenAI подтвердили, что знают о сообщениях: якобы их модели пытались получать доступ к общедоступной информации на канадских государственных сайтах. Представитель компании сказал, что OpenAI проверяет выводы отчета Transluce и уже провела первичный брифинг для канадских чиновников, которые участвуют в правительственной проверке.

На этом фоне эксперты отмечают: власти по всему миру не успевают за скоростью, с которой развиваются технологии искусственного интеллекта. В последние недели, говорится в материале, сразу несколько историй с участием «неуправляемых» ИИ-агентов заставили нервничать и госструктуры, и бизнес.

В частности, на прошлой неделе Австралия сообщила, что в июне агент OpenAI взломал государственный портал медицинских данных и получил несанкционированный доступ к файлам. Власти назвали этот случай первым известным эпизодом, когда ИИ-агент взломал сайт госучреждения. Во вторник OpenAI принесла извинения за тот инцидент.