3.2 ОТНОШЕНИЕ К НОВЫМ ИТ-ТЕХНОЛОГИЯМ НА ПРИМЕРЕ ЗДРАВООХРАНЕНИЯ

Авторы раздела:
А. В. Архипов
А. В. Гусев
А. А. Орлова
Время чтения: 12 мин.
Цифровые решения и ИИ в здравоохранении перестают быть вспомогательными ИТ-системами; с точки зрения безопасности и эффективности они все больше напоминают лекарства или медицинское оборудование. Но если фармацевтические корпорации проводят исследования и публикуют их результаты, их деятельность регулируется стандартами, а сами они находятся под жестким надзором, применительно к системам ИИ подобные практики только начинают складываться.

3.2.1 ПРОБЛЕМА ДОВЕРИЯ В МЕДИЦИНЕ

Медицина — яркий пример того, как доверие к технологиям влияет на сами технологии и, напротив, как использование технологий влияет на уровень доверия к отрасли в целом. Цифровые технологии становятся основным инструментом повышения эффективности практического здравоохранения: они позволяют сократить число врачебных ошибок и разгрузить врачей от рутинной обработки больших данных, а также создают возможности для масштабных исследований.
Цитата
Проблема доверия в медицине при использовании цифровых продуктов на базе искусственного интеллекта существует из-за того, что сложно учесть индивидуальные особенности каждого пациента. С помощью экспериментальных правовых режимов мы в том числе разрабатываем механизмы работы телемедицины, которые направлены на достижение самого высокого уровня точности анализа данных и результатов, которые выдает система.

Владислав Федулов, заместитель министра экономического развития РФ
Скорость развития в медицине таких технологий, как ИИ и прогнозная аналитика, напрямую зависит от доступности качественных больших данных, получение которых невозможно без доверия пациентов. При создании новых медицинских сервисов этические вопросы требуют детальной проработки. Если при создании сервиса «Электронная медкнижка», который позволяет выявлять (и не допускать к работе) людей, имеющих недостоверные или фальсифицированные данные о прохождении медосмотров, вмешательство в частную жизнь кажется обоснованным, то идея ведения единого реестра людей с психическими расстройствами, которая активно обсуждалась в России в 2016 году, не получила общественной поддержки.
Под этикой в данном случае имеется в виду необходимость оценивать не только намерения и обязанности игроков, связанных с ИИ в системе здравоохранения (врачей, разработчиков, лиц, разрабатывающих политику), но и эффект, который их действия произведут на получателей услуг (конкретных людей, группы людей или целые поколения), на их ожидания, запросы, потребности и права. Morley J., Floridi L. NHS AI Lab: why we need to be ethically mindful about AI for healthcare // SSRN. 2019.
Никитина О. Перепись отклонения // Коммерсантъ.
Проблема доверия в медицине возникает и при использовании цифровых продуктов на базе ИИ, которые все сильнее влияют на постановку диагноза, принятие врачами решений и даже на выполнение лечебных манипуляций. Алгоритмы, которые используются для диагностики заболеваний, часто обучены на дата-сетах, где недостаточно представлены данные некоторых категорий пациентов.
Кейс
Метаанализ 207 клинических исследований, которые проводились с 2001 по 2018 год, показал систематическую нехватку информации о кардиологических пациентах — женщинах и темнокожих пациентах. С жалобами на боль в груди обращается одинаковое количество мужчин и женщин, но мужчин направляют к кардиологу в 2–5 раз чаще.
Доказать, что медицинская технология достойна доверия, — задача ее разработчика. Один из сильных аргументов — наличие государственного разрешения на использование технологии. Чтобы его получить, производитель цифровых продуктов должен создать у себя систему менеджмента качества, пройти сложные процедуры независимых технических и клинических испытаний, а затем и экспертизу.
Показателен проведенный в конце 2019 года опрос об отношении пациентов к цифровизации здравоохранения: 75% опрошенных вообще никогда не пользовались телемедицинскими сервисами (хотя опрашивали именно хронических больных, для которых такие сервисы чрезвычайно важны). См.: Результаты опроса пациентов об их отношении к цифровизации здравоохранения // EverCare.
В последние годы в России стал активно обсуждаться ряд этических проблем, связанных с цифровым здравоохранением, особенно в том, что касается использования систем на основе ИИ (см. таблицу 1). В частности, введены критерии отнесения программного обеспечения к программным медицинским изделиям (ПМИ). В соответствии с методическими рекомендациями Международного форума регуляторов медицинских изделий (International Medical Device Regulators Forum, IMDRF) определены классы потенциального риска применения ПМИ, в том числе созданных с использованием ИИ.
Белоусов Д., Хохлов А. Этические аспекты применения программного обеспечения с технологией искусственного интеллекта // Качественная клиническая практика. 2021. No 1. С. 70–84.
См.: ИИ и машинное обучение в медицине. Ч. 3. Проблемы использования «умных» технологий в медицине // Хабр.
IMDRF documents // IMDRF.

Таблица 1. Технические и этические проблемы использования систем ИИ в медицине

3.2.2 БИОМЕДИЦИНСКИЕ ДАННЫЕ

Создание цифровых продуктов невозможно без данных. Биомедицинские данные имеют особый статус и специальные режимы использования. Сегодня не всегда можно превратить медицинскую информацию в данные, пригодные для дальнейшей работы. Медицинская информация и данные сейчас разрозненны, содержатся в изолированных хранилищах и несовместимых системах и форматах (многое существует только на бумаге или на пленке) и почти всегда защищены законом.
Подробнее о биомедицинских данных в цифровой медицине см.: Биомедицинские данные и большие данные в цифровой медицине // Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020.
Для научных исследований и создания медицинских цифровых продуктов необходимы качественные наборы данных, получение которых в России сейчас затруднено. В процессе лечения собирается как медицинская информация (история болезни, результаты анализов и исследований, рентгеновские снимки и т. п.), так и некоторые ПДн пациента (ФИО, дата рождения, пол, возраст, регион). Сейчас в России не определены условия, на которых можно было бы предоставлять обезличенные данные пациентов разработчикам систем ИИ или научным организациям.
Проблема качества данных имеет еще одну этическую составляющую: при сложившейся в России практике нельзя исключить возможности манипуляций со статистикой и административного давления на врачей при постановке диагнозов. Cм.: Гусев А. Управление здравоохранением давно пора модернизировать // Комплексные медицинские информационные системы.
Цитата
Если изображение анонимизировать (лишить идентификаторов), его использование не угрожает пациенту, даже если оно попадет в открытый доступ. Но тут есть другая проблема: если изображения хранятся отдельно от другой информации о пациенте, невозможно решение некоторых задач, потому что отсутствует важная часть клинической информации.

Александр Гусев, член Экспертного совета Минздрава РФ по вопросам использования ИКТ в системе здравоохранения
При обращении к врачу пациент подписывает согласие на использование его данных в конкретном медицинском учреждении и только для оказания медицинской помощи. Научные исследования и разработка систем ИИ не входят в список целей обработки ПДн, предусмотренных законом и текстом согласия. Это означает, что в стране накапливается огромное количество ценнейшей медицинской информации, но использовать ее для развития ИИ-рынка пока сложно. Единого федерального банка обезличенных медицинских данных, пригодного для создания ИИ, нет, как нет возможности проводить научные исследования и разработки в этой сфере на том же уровне, что и в США, Китае, Великобритании.
Этот вопрос имеет два аспекта. С одной стороны, от его решения зависит, как скоро появятся российские цифровые продукты в медицинской сфере, — потребность в них велика, и есть вероятность, что, если время будет упущено, нишу займут импортные производители. С другой стороны, пациенты совершенно оправданно опасаются за безопасность своих данных, и их права должны быть в полной мере соблюдены (см. рисунок 4).

Рисунок 4. Проблема использования данных в медицине

Сейчас Россия существенно отстает от стран-лидеров как по количеству научных публикаций, так и по числу разработок и исследований в сфере
ИИ для медицины. Те немногочисленные примеры сбора и подготовки обезличенных медицинских данных, которые есть в нашей стране, не удовлетворяют спрос разработчиков и ученых, содержат относительно небольшое количество записей в наборе, обычно несколько тысяч пациентов. В Европе и в Китае выходят публикации с масштабными, часто миллионными выборками, потому что там разработчик может получить доступ к качественным обезличенным данным через этический комитет, через соглашение о партнерстве с научно-исследовательской организацией или через готовые национальные базы данных.
Tarroni G., Bai W., Oktay O., Schuh A., Suzuki H., Glocker B. Large-scale Quality Control of Cardiac Imaging in Population Studies: Application to UK Biobank // Scientific Reports. Vol. 10. No 2408 (2020).
Необходимо внести точечные изменения в законодательство, чтобы сохранить ценность данных для ИИ, но при этом страховать риски пациентов — особенно учитывая, что по планам Минздрава к 2024 году не менее 50% учреждений здравоохранения должны будут использовать изделия и сервисы с ИИ. Предполагается также, что доступ к медкартам россиян могут получить в том числе и частные компании.
Манукиян Е. На приеме у робота // Российская Газета Digital.
Королев Н. Добрый доктор Aйболит. Власти хотят открыть медкарты граждан искусственному интеллекту // Коммерсантъ.

3.2.3 ОТВЕТСТВЕННОСТЬ ВРАЧА

В России сейчас вся ответственность за принятие решений лежит на враче. Вся его деятельность строго регламентирована; например, врач в государственной клинике не может потратить на прием пациента больше отведенного времени и при этом должен успеть оформить все документы. Предположим, врач использует цифровой продукт, созданный с применением ИИ. Кто будет отвечать в этом случае за врачебную ошибку, врач или разработчик? Как понять, допущена ошибка из-за неправильного применения или из-за ошибки в алгоритме? (Подробнее об ответственности разработчиков см. раздел 7).
Цитата
Рост прозрачности ведет к изменениям в системе контроля. Сейчас у каждого пациента появляется цифровой профиль; электронные медицинские карты впервые сделали первичную медицинскую документацию доступной и прозрачной, в том числе и для пациента. Это может привести к усилению контроля со стороны пациентов, которые будут стремиться воздействовать на врача, в том числе через обращение в страховые компании. Существует такое явление, как пациентский экстремизм, растет и количество уголовных дел против медиков, а с распространением электронных медкарт таких дел может стать больше.

Александр Гусев, член Экспертного совета Минздрава РФ по вопросам использования ИКТ в системе здравоохранения

Все это влияет на представление о границах ответственности врача и оправданности медицинского риска. Сейчас врачи боятся применять технологии ИИ по двум причинам. Во-первых, потому что не имеют доказательств того, что цифровой продукт полезен и безопасен, а во-вторых, боятся, что ИИ негативно оценит результаты их работы. Искусственному интеллекту невозможно объяснить, что врач устал и что времени, отведенного на прием пациента, для подробного осмотра недостаточно, но то, что протокол осмотра в историях болезни создан с помощью копипаста, ИИ в состоянии отследить.
Инструменты, созданные с помощью ИИ, становятся все точнее. Они будут указывать на несовершенства системы, на возможные должностные нарушения, фальсификации, отписки, ошибки диагностики, нарушение протоколов лечения. Чем точнее инструмент, тем быстрее он вскрывает проблему. Но является ли это благом? Это этический вопрос, и он требует общественной дискуссии.
Житель Уфы рассказал в соцсети, что обнаружил в своей медицинской карте запись о беременности и направление к гинекологу. Руководством больницы было проведено служебное расследование, установившее, что при оформлении документов пациента произошла техническая ошибка. См.: Медики объяснили, почему у мужчины в Уфе «диагностировали» беременность // РИА Новости.