У Канаді штучний інтелект створить нові ризики для пацієнтів

Федеральна влада Канади збирається швидше впроваджувати штучний інтелект — і почати хоче з охорони здоров’я. Однак юристи з медичного права та дослідники у сфері здоров’я попереджають: оновлення правил щодо приватності, яке пропонує Оттава, залишає надто багато лазівок. Відповідно, чутливі дані пацієнтів можуть опинитися під загрозою.

Приводом для суперечки стала остання оцінка законопроєкту C-36 «Про захист конфіденційності та споживчих даних» — одного з ключових елементів стратегії AI for All. У уряді кажуть, що документ має закріпити право на приватність як фундаментальне, зробити більш прозорими автоматизовані рішення (включно з тими, що ухвалюють системи ШІ) та надати людям можливість у деяких випадках вимагати видалення персональної інформації.

Однак автори коментаря в Canadian Medical Association Journal вважають, що в проєкті є «критичні прогалини». Найбільш спірною з них є виняток про «законний інтерес». За цією логікою приватним компаніям можуть дозволити збирати, використовувати або передавати персональні дані без повідомлення та згоди людини, якщо організація вважатиме, що її інтерес переважує «розумно передбачувану» шкоду для конкретної особи.

«Проблема в тому, що рішення фактично ухвалює сама компанія», — пояснює клініцистка-науковиця Women’s College Hospital у Торонто докторка Шеріл Спітофф, співавторка публікації. За її словами, це відкриває бізнесу надто широкий коридор для розпорядження даними пацієнтів без їхньої згоди. А для медичної інформації, підкреслює вона, мають діяти жорсткіші обмеження та додаткові бар’єри.

Формально в законопроєкті передбачено, що компанії зобов’язані документувати, чому вони посилаються на «законний інтерес», проводити оцінку впливу на приватність і надавати ці матеріали на запит. Спітофф вважає, що регуляторів потрібно повідомляти заздалегідь, а сам виняток має застосовуватися в рідкісних випадках — як справді виняток, а не зручний інструмент.

Автори також порівнюють канадський підхід з європейським. В ЄС планка вища: там «законний інтерес» не повинен переважати фундаментальні права і свободи власників даних. У канадському проєкті, стверджують критики, таких «запобіжників» помітно менше.

CBC News запитали в офісі міністра штучного інтелекту Евана Соломона, що саме вважатиметься «законним інтересом» і які механізми завадять передачі медичних даних комерційним структурам. У відповідь там послалися на визначення в тексті законопроєкту і заявили, що організації, які використовують виняток, повинні оцінювати ризики та вживати заходів для їх зниження — без конкретики. Як зазначає CBC News, які саме гарантії мають працювати на практиці, залишається предметом суперечок.

Новости интереснее, когда есть с кем их обсудитьПознакомьтесь с русскоязычными людьми из Ванкувера и других городов Канады. Возможно, тот самый человек уже совсем рядом.Посмотреть, кто сейчас на сайте →

Тривога навколо комерційного обігу медичної інформації в Канаді звучить не вперше. Минулого року в дослідженні, над яким також працювала Спітофф, йшлося: дані про здоров’я мільйонів канадців — включно з історіями хвороби та рецептами — позбавлялися прямих ідентифікаторів, а потім продавалися фармацевтичним компаніям. Автори визнавали, що такий обмін може бути корисним для досліджень і поліпшення лікування, але попереджали про перекіс: комерційні інтереси здатні почати домінувати над інтересами пацієнтів — і навіть підштовхувати ціни вгору.

Ще одне болюче питання — наскільки взагалі надійне «знеособлення» в епоху стрімко розвинутого ШІ. Законопроєкт вимагає деідентифікувати персональні дані, тобто змінювати деталі на кшталт імені або номера медичної картки. Однак дослідниця права інформації та політики з Університету Оттави Тереза Скасса нагадує: що більше доступних наборів даних і що потужніші інструменти ШІ, то вищий ризик відновити особу за непрямими ознаками. Ба більше, навіть деідентифіковані дані можна використовувати для побудови профілів, які потім обертаються проблемами — наприклад, під час оцінювання страхових ризиків.

Проєкт C-36 пропонує вважати навмисну повторну ідентифікацію правопорушенням. Скасса підкреслює, що на практиці довести такі випадки може бути вкрай складно.

Критики також вказують на ще одну вразливість: регулювання здебільшого фокусується на де-ідентифікованих даних, тоді як «анонімізовані» набори можуть узагалі випасти з-під дії закону. У тексті де-ідентифікація описана як модифікація, за якої пряме встановлення особи неможливе, але ризик усе одно залишається. Анонімні дані визначаються як «незворотно і назавжди» очищені від персональних відомостей так, щоб не було «розумно передбачуваного» ризику ідентифікації.

Дослідники заперечують: на практиці навіть «анонімні» масиви не гарантують повної безпеки — саме їх часто використовують для навчання ШІ. Крім того, такі дані можуть закріплювати й посилювати вже існуючі перекоси в системі охорони здоров’я, підвищуючи ризик дискримінації цілих груп людей зі спільними характеристиками.

При цьому лікарі та дослідники, які працюють із медичними даними, наполягають: за грамотних правил і контролю такі масиви дають реальну користь. Лікар і науковець St. Michael's Hospital у Торонто доктор Амол Верма, який керує мережею VITAL (вона надає доступ до де-ідентифікованих лікарняних даних організаціям по всій країні), каже: коректна робота з даними допомагає покращувати лікування — наприклад, скорочувати час перебування пацієнтів у стаціонарі без зростання ризиків.

За словами Верми, приватність не повинна ставати дубинкою проти прогресу. Він підкреслює, що прогрес неможливий без довіри, а довіра з’являється лише там, де захист персональних даних розвивається одночасно із впровадженням ШІ.