ШІ-агенти почали промацувати державні сайти Канади

ШІ-агенти намагалися отримати несанкціонований доступ до одного із сайтів Library and Archives Canada — про це йдеться у звіті дослідницької компанії у сфері ШІ Transluce. Канадська влада, втім, запевняє: ознак того, що державні системи були зламані, немає.

За даними Transluce, підозрілу активність помітили двічі — 28 травня і 9 червня. Йдеться про серію запитів до сервісу collection-search федеральної бібліотеки та архіву. У компанії описують їх як спроби «промацати» систему, зокрема з ознаками грубих і невдалих, майже примітивних прийомів злому.

Transluce зазначає, що характер запитів «відповідає раніше спостережуваній активності агентів, яку ми у зіставний період пов’язували з OpenAI». Водночас дослідники підкреслюють: упевнено приписувати ці спроби OpenAI вони не беруться. Як повідомляє CBC News, про виявлену активність Transluce повідомила уряд Канади в понеділок.

Канадський центр кібербезпеки (Canadian Centre for Cyber Security) у вівторок повідомив, що обізнаний із публікаціями про ймовірну активність ІІ-агентів. «Наразі немає ознак того, що урядові системи були скомпрометовані», — заявили в центрі.

Новости интереснее, когда есть с кем их обсудитьПознакомьтесь с русскоязычными людьми из Ванкувера и других городов Канады. Возможно, тот самый человек уже совсем рядом.Посмотреть, кто сейчас на сайте →

В OpenAI підтвердили, що знають про повідомлення: нібито їхні моделі намагалися отримати доступ до загальнодоступної інформації на канадських державних сайтах. Представник компанії сказав, що OpenAI перевіряє висновки звіту Transluce і вже провела первинний брифінг для канадських посадовців, які беруть участь у урядовій перевірці.

На цьому тлі експерти зазначають: влада по всьому світу не встигає за швидкістю, з якою розвиваються технології штучного інтелекту. Останніми тижнями, йдеться в матеріалі, одразу кілька історій за участю «некерованих» ІІ-агентів змусили нервувати і держструктури, і бізнес.

Зокрема, минулого тижня Австралія повідомила, що в червні агент OpenAI зламав державний портал медичних даних і отримав несанкціонований доступ до файлів. Влада назвала цей випадок першим відомим епізодом, коли ШІ-агент зламав сайт державної установи. У вівторок OpenAI вибачилася за той інцидент.