В Канаде искусственный интеллект устроил человеку неожиданный визит

Житель Торонто Мэтт Робб призвал канадцев осторожнее обращаться с Muse - новым ИИ-агентом Meta, который работает как персональный помощник. По словам Робба, стоило ему выставить на Facebook Marketplace клавиатуру, как сервис без предупреждения сам договорился о сделке: обсудил условия, согласовал цену и передал покупателю домашний адрес владельца.

Неладное Робб заподозрил, когда увидел переписку агента с незнакомцем: Muse не спрашивал, можно ли вообще отвечать, и даже назначил встречу «прямо сейчас». «Я подумал: «О боже… Так, это плохо», - вспоминает он момент, когда понял, что происходит. По его словам, когда покупатель уже приехал, агент от его имени написал «Да, я здесь!», хотя самого Робба дома не было.

Muse Meta продвигает как универсального помощника, которому можно поручить рутину - от разбора почты до покупки школьных принадлежностей или перебронирования перелетов. Цена удобства - доступ к сенситивным данным. И именно это, говорят специалисты по кибербезопасности, превращает такие сервисы в потенциальную угрозу. Эксперт Эрик Парент формулирует жестко: «Все эти крупные компании охотятся за вашими данными. Ответ такой: нет, ваши данные не защищены».

Парент подчеркивает: рискуют не только пользователи, но и все, кто с ними общается. Человек отправляет письмо или сообщение и ожидает, что его прочитает адресат, а не «крупная корпорация, которая просеивает переписку». Его совет - заранее разбираться, к чему именно получает доступ Muse, и прокручивать в голове худший сценарий: что будет, если агент начнет действовать от вашего имени.

В Meta, со своей стороны, настаивают: данные и учетные записи, к которым подключают Muse, «надежно хранятся», а сам агент должен запрашивать подтверждение перед любыми чувствительными действиями - например покупками или отправкой писем. Как отмечает CBC News, в истории Робба компания указала на его же объяснение: при подключении Muse к обработке сделок на Marketplace он нажал «Allow always» вместо «Allow one time». Это, по словам Робба, дало агенту постоянное разрешение отправлять сообщения от его имени по заранее подготовленному шаблону - в котором он сам ранее оставил адрес для самовывоза. При этом Робб подчеркивает: он не ожидал, что адрес будет автоматически улетать «всем, кто сделает предложение».

Новости интереснее, когда есть с кем их обсудитьПознакомьтесь с русскоязычными людьми из Ванкувера и других городов Канады. Возможно, тот самый человек уже совсем рядом.Посмотреть, кто сейчас на сайте →

На пост Робба в X отреагировал сооснователь и глава Meta Superintelligence Labs Дэвид Синглтон: «Рад, что мы смогли вместе подтвердить, что нарушения механизмов контроля конфиденциальности не было». В письме CBC представитель Meta также заявил, что Muse работает на выделенном компьютере в облаке, изолированном от других агентов, и именно там «хранятся данные и учетные данные» сервисов, которые пользователь подключает к помощнику.

В материале напоминают и о прошлом Meta: компанию уже неоднократно критиковали за обращение с персональными данными, а в Европе она получала штрафы на сотни миллионов евро. Отдельно упоминается американский закон CLOUD Act - он позволяет властям США получать доступ к данным, хранящимся на серверах компаний из США, даже если физически эти серверы могут находиться в других странах. Юрист Жан-Франсуа Латрей считает, что это создает риск для приватности: теоретически американское правительство может запросить доступ к личной информации, которая хранится в подобных системах.

Латрей добавил, что у жителей Квебека есть дополнительная защита - Закон 25, одно из самых жестких канадских правил по защите персональных данных. Если компания не обеспечивает безопасность личной информации, ей может грозить штраф до 25 миллионов долларов или до 4% от глобальной выручки. По словам юриста, квебекцы, считающие свои права нарушенными, могут подать жалобу напрямую уполномоченному по вопросам приватности в Meta или обратиться в Комиссию по доступу к информации Квебека.

Сам Робб говорит, что объяснил покупателю ситуацию и назначил новую встречу - уже с его участием. Он также утверждает, что Muse признал передачу адреса без явного разрешения. Теперь мужчина предупреждает других пользователей не отдавать агенту лишние персональные данные, чтобы незнакомцы не оказывались у двери без предупреждения. «Это могло бы случиться с кем-то более уязвимым», - сказал он.