В Канаде искусственный интеллект создаст новые риски для пациентов

Федеральные власти Канады собираются быстрее внедрять искусственный интеллект - и начать хотят со здравоохранения. Однако юристы по медицинскому праву и исследователи в области здоровья предупреждают: обновление правил о приватности, которое предлагает Оттава, оставляет слишком много лазеек. Соответственно, сенситивные данные пациентов могут оказаться под ударом.

Поводом для спора стала последняя оценка законопроекта C-36 «О защите конфиденциальности и потребительских данных» - одного из ключевых элементов стратегии AI for All. В правительстве говорят, что документ должен закрепить право на приватность как фундаментальное, сделать более прозрачными автоматизированные решения (включая те, что принимают системы ИИ) и дать людям возможность в некоторых случаях требовать удаления персональной информации.

Однако авторы комментария в Canadian Medical Association Journal считают, что в проекте есть «критические пробелы». Самый спорный из них - исключение о «законном интересе». В этой логике частным компаниям могут разрешить собирать, использовать или передавать персональные данные без уведомления и согласия человека, если организация посчитает, что ее интерес перевешивает «разумно предсказуемый» вред для конкретного лица.

«Проблема в том, что решение фактически принимает сама компания», - объясняет клиницист-ученый Women’s College Hospital в Торонто доктор Шерил Спитофф, соавтор публикации. По ее словам, это открывает бизнесу слишком широкий коридор для распоряжения данными пациентов без их согласия. А для медицинской информации, подчеркивает она, должны действовать более жесткие ограничения и дополнительные барьеры.

Формально в законопроекте предусмотрено, что компании обязаны документировать, почему они ссылаются на «законный интерес», проводить оценку влияния на приватность и предоставлять эти материалы по запросу. Спитофф считает, что регуляторов нужно уведомлять заранее, а само исключение должно применяться в редких случаях - как действительно исключение, а не удобный инструмент.

Авторы также сравнивают канадский подход с европейским. В ЕС планка выше: там «законный интерес» не должен перевешивать фундаментальные права и свободы владельцев данных. В канадском проекте, утверждают критики, таких «ограждений» заметно меньше.

CBC News спросили офис министра искусственного интеллекта Эвана Соломона, что именно будет считаться «законным интересом» и какие механизмы помешают передаче медицинских данных коммерческим структурам. В ответ там сослались на определение в тексте законопроекта и заявили, что организации, использующие исключение, должны оценивать риски и предпринимать шаги для их снижения - без конкретики. Как отмечает CBC News, какие именно гарантии должны работать на практике, остается предметом споров.

Новости интереснее, когда есть с кем их обсудитьПознакомьтесь с русскоязычными людьми из Ванкувера и других городов Канады. Возможно, тот самый человек уже совсем рядом.Посмотреть, кто сейчас на сайте →

Тревога вокруг коммерческого оборота медицинской информации в Канаде звучит не впервые. В прошлом году в исследовании, над которым также работала Спитофф, говорилось: данные о здоровье миллионов канадцев - включая истории болезни и рецепты - лишались прямых идентификаторов и затем продавались фармацевтическим компаниям. Авторы признавали, что такой обмен может быть полезен для исследований и улучшения лечения, но предупреждали о перекосе: коммерческие интересы способны начать доминировать над интересами пациентов - и даже подталкивать цены вверх.

Еще один болезненный вопрос - насколько вообще надежно «обезличивание» в эпоху стремительно развивающегося ИИ. Законопроект требует де-идентифицировать персональные данные, то есть менять детали вроде имени или номера медицинской карты. Однако исследовательница права информации и политики из Университета Оттавы Тереза Скасса напоминает: чем больше доступных наборов данных и чем мощнее инструменты ИИ, тем выше риск восстановить личность по косвенным признакам. Более того, даже де-идентифицированные данные можно использовать для построения профилей, которые потом оборачиваются проблемами - например, при оценке страховых рисков.

Проект C-36 предлагает считать преднамеренную повторную идентификацию правонарушением. Скасса подчеркивает, что на практике доказать такие случаи может быть крайне сложно.

Критики также указывают на еще одну уязвимость: регулирование в основном фокусируется на де-идентифицированных данных, тогда как «анонимизированные» наборы могут вообще выпасть из-под действия закона. В тексте де-идентификация описана как модификация, при которой прямое установление личности невозможно, но риск все равно остается. Анонимные данные определяются как «необратимо и навсегда» очищенные от персональных сведений так, чтобы не было «разумно предсказуемого» риска идентификации.

Исследователи возражают: на практике даже «анонимные» массивы не гарантируют полной безопасности - именно их часто используют для обучения ИИ. Кроме того, такие данные могут закреплять и усиливать уже существующие перекосы в системе здравоохранения, повышая риск дискриминации целых групп людей с общими характеристиками.

При этом врачи и исследователи, работающие с медицинскими данными, настаивают: при грамотных правилах и контроле такие массивы дают реальную пользу. Врач и ученый St. Michael's Hospital в Торонто доктор Амол Верма, который руководит сетью VITAL (она предоставляет доступ к де-идентифицированным больничным данным организациям по всей стране), говорит: корректная работа с данными помогает улучшать лечение - например, сокращать время пребывания пациентов в стационаре без роста рисков.

По словам Вермы, приватность не должна становиться дубинкой против прогресса. Он подчеркивает, что прогресс невозможен без доверия, а доверие появляется только там, где защита личных данных развивается одновременно с внедрением ИИ.