2.3 Поиск решений в этике данных

Авторы раздела
Бегтин И. В.
Коршунова С. В.
Сучкова М. А.

Время чтения — 15 минут
И за рубежом, и в России сравнительно редко предметом общественных обсуждений становятся вопросы этики данных и этические вопросы, встающие перед бизнесом, разработчиками, законодателями и государством. Существующие законы в сфере защиты персональных данных граждан пока недостаточно эффективны, а кодексы этики данных не имеют статуса обязательных и общепринятых и не оказывают кардинального влияния на сферу их оборота.

2.3.1 Дата-этика в регулировании

Когда мы говорим о документах и актах, фиксирующих этические принципы применения цифровых технологий, важно понимать, что во многих сферах (в медицине, правосудии и т. д.) давно существуют свои профессиональные кодексы этики. Их нужно учитывать при создании новых документов, регулирующих применение цифровых технологий. Разработка единого и универсального кодекса этики вряд ли возможна в обозримом будущем. Такой кодекс будет либо слишком общим и кратким, не отвечающим полностью потребностям конкретных отраслей и неприменимым на практике ни в одной из них, либо чересчур подробным и даже противоречивым.
Публичные обсуждения, кейсы на основе применения тех или иных принципов и идей на практике, разбор успешных вариантов и ошибок позволяют детально исследовать область этики данных. Каждый год разрабатываются новые этические кодексы, фреймворки, гайдлайны, прочие рекомендаций по работе с данными. Соответственно, их можно классифицировать:
по сфере применения:
здравоохранение, социальная защита, госуправление, юриспруденция, борьба с преступностью, финансы, промышленность и т. д.;
по технологиям:
по локализации:
документы ООН, документы, касающиеся управления в отдельном городе или в конкретной компании (например, правила по этичному использованию технологии распознавания лиц в полиции Лондона или принципы ИИ Microsoft).
Ethics guidelines for trust worthy AI // European Union.

Ethics guidelines for trustworthy AI // European Commission.

The Japanese Society for Artificial Intelligence Ethical Guidelines // [Комитет по этике Японского общества искусственного интеллекта].
см. раздел «Этика цифровых технологий в международном праве» второго тома данного доклада // Этика и «цифра»: Этические проблемы цифровых технологий. Т. 2. М., РАНХиГС, 2020.
Законодательство о защите ПД уже принято или подготавливается во многих странах, причем все больше развитых государств склоняется к модели достаточно жесткой регуляторной и правоприменительной модели. На основе различных базовых ценностей можно выделить условно три модели регулирования обработки ПД: европейскую, американскую и китайскую. Правоприменительная практика в отношение одной и той же технологии может кардинально различаться, что наглядно демонстрирует разногласие по поводу применения технологии распознавания лиц (см. раздел 5.2.2).

В Китае распознавание лиц используется очень широко, в том числе во многих системах социального скоринга. Учебные заведения используют его для контроля посещаемости, оплаты питания и контроля вовлеченности учеников на занятиях. Несмотря на жалобы учеников и студентов, что системы распознавания лиц работают с ошибками или «пугают», отказываться от их использования власти не планируют.

В Швеции в августе 2019 года средняя школа была оштрафована на 200 000 шведских крон (около 20 000 евро) за использование камеры с функцией распознавания лиц для контроля посещаемости. Профильный контрольно-надзорный орган (Data inspektionen) счел, что согласие учащихся на сбор их биометрических данных не является достаточным основанием для распознавания лиц, поскольку учащиеся находятся в зависимом от школы положении и, как следствие, их согласие не было полностью добровольным.
Европейская модель. В основе европейской концепции регулирования использования ПД лежит идея о недопущении избыточного контроля над частной жизнью человека ни со стороны государственных институтов, ни со стороны корпораций. Такой подход, по крайней мере в теории, свойственен всем европейским государствам. Если внедрение новых технологий или порядков работы с данными потенциально способно нарушить права человека, возникает широкое общественное сопротивление. Правительству приходится придумывать, как работать с сопротивлением граждан (используя механизмы убеждения, просвещения, иные доступные и этичные способы), если использование технологии принесет значительную пользу для общества в целом.

Европейская модель
Европейская Конвенция о защите прав человека и основных свобод и Конвенция Совета Европы о защите физических лиц при автоматизированной обработке персональных данных отражают эту идею.
Суть европейского подхода наиболее конкретно выражена в Генеральном регламенте о защите персональных данных (General Data Protection Regulation, GDPR)
Суть европейского подхода наиболее конкретно выражена в Генеральном регламенте о защите персональных данных (General Data Protection Regulation, GDPR), принятом в ЕС и вступившем в силу в 2018 году. Сегодня GDPR широко обсуждается не только в Европе, но и во всем мире. Его отличают чрезвычайно высокие штрафы за нарушения предписаний регламента: в зависимости от того, какие именно статьи нарушены, штрафы доходят до 20 млн евро, или 4% от мирового годового оборота компании. Кроме того, значима экстратерриториальность этого акта: GDPR обязаны соблюдать все операторы, работающие на территориях стран — участниц ЕС и ЕЭС, а также любые компании в любой точке мира, которые обрабатывают ПД граждан ЕС и ЕЭС. Регламент предоставляет субъекту ПД широкий спектр прав и в целом сильнее, чем подобные законы в других странах, ограничивает возможности бизнеса по обработке данных физических лиц. Например, по запросу гражданин может получить полную копию тех данных о себе, которые хранятся у компании, и потребовать полностью удалить их. И наконец, GDPR обязывает операторов ПД назначать специальное должностное лицо (data protection officer), уполномоченное следить за соблюдением требований GDPR в компании и обладающее широкими полномочиями.
Значимым международным документом, содержащим обязательные правовые нормы о приватности данных, является Конвенция Совета Европы о защите частных лиц в отношении автоматизированной обработки данных личного характера 1981 года (Конвенция 108). В настоящее время находится в процессе подписания текст Конвенции 108+, который приводит нормы исходной конвенции в соответствие с новыми реалиями цифрового мира и включает:
более жесткие требования к соблюдению принципов пропорциональности и минимизации, а также к законности обработки;
расширение перечня данных, обработка которых требует особых гарантий: включены биометрические данные, генетические данные и данные об этническом происхождении;
новые положения о правах лиц в случаях, когда решения принимаются на основании алгоритмизированной обработки данных, в частности положение о том, что решение не может быть принято без учета позиции субъекта;
требование о внедрении встроенного алгоритма конфиденциальности (privacy-by-design).
ETS No.108. Вступила в силу 1 октября 1985 года. Для России вступила в силу 1 сентября 2013 года.
Обновленный текст Конвенции (протокол к Конвенции CETS. No. 223) пока не вступил в силу. Текст утвержден решением Комитета Министров Совета Европы от 18 мая 2018 года.
Развивая и дополняя стандарты Конвенции 108 применительно к конкретным технологиям и сферам жизни, Совет Европы разработал «Руководящие принципы защиты лиц в связи с обработкой ПД в мире больших данных». В документе отражена необходимость этичного использования данных, применение встроенного алгоритма конфиденциальности, обеспечение анонимизации и регулярная оценка рисков реидентификации ПД, обозначена роль человека при принятии решений на основе больших данных и др. В целом тема защиты ПД подробно разработана в общеевропейском праве, а также в национальном праве государств — членов ЕС.
Guidelines on the protection of individuals with regard to the processing of personal data in a world of Big Data. T-PD(2017) 01. 23 January 2017 // Directorate General of Human Rights and Rule of Law.
Американская модель. В США очень большое значение имеют свобода информации, свобода коммерции и безопасность общества, ради соблюдения перечисленных ценностей государство позволяет гораздо больший доступ к ПД граждан, чем, например, в Европе. Неслучайно именно в США появились ИТ-гиганты, чей бизнес основан на обработке и анализе данных (см. раздел 5.2).

Американская модель
В США, с одной стороны, сильное журналистское сообщество и некоммерческий сектор, с другой стороны, довольно большая свобода в использовании данных. На федеральном уровне действует ряд отраслевых актов о конфиденциальности и безопасности данных, в том числе акты в отношении финансовых учреждений, акты о данных в области здравоохранения и др. Компании имеют значительно бóльшую свободу в использовании данных, кроме наиболее чувствительных. На уровне штатов приняты сотни разнообразных актов о защите ПД. Один из наиболее обсуждаемых сейчас — новый закон штата Калифорнии «О защите частной жизни потребителей» (California Consumer Privacy Act, CCPA), который вступает в силу с 2020 года. Он применяется в разных секторах экономики, предусматривает значительный объем прав субъектов данных (включая право на удаление данных) и вводит новые обязанности компаний при работе с данными, а также ограничения при обработке, использовании и раскрытии ПД. Как и Европейский GDPR, CCPA применяется к широкому кругу компаний, а не только к компаниям, зарегистрированным в Калифорнии.
Китайская модель. Отличительной чертой является доминирование интересов Коммунистической партии Китая и государства над интересами граждан. Условия новой цифровой экономики, в частности в отношении данных, диктуются государством, действующим в слаженном тандеме с крупными дата-корпорациями (см. раздел 5.3.3). Общественные обсуждения имеют гораздо меньшее значение, чем в западных странах. Даже самый широкий и жесткий контроль над персональными данными считается вполне уместным и этичным, поскольку бенефициаром такого контроля является государство, а не частные лица.

Китайская модель
Нормативное правовое регулирование со стороны государства является лишь одним из возможных средств решения этических проблем. Другим средством можно считать коллективную работу общественных организаций и сообществ профессионалов с целью создать кодексы этики.

Консалтинговая компания Accenture рекомендует дата-аналитикам и всем, кто работает с данными, общие принципы дата-этики, в том числе:
  1. Высшим приоритетом следует считать уважение к людям, стоящим за данными.
  2. Следует стремиться обеспечить гарантии приватности и безопасности на том уровне, на котором их ожидают увидеть субъекты данных.
  3. Продукты и практические методы исследований должны проверяться на соответствие этическим нормам внутри компании и быть готовыми к проверке со стороны.
Также Accenture предлагает 10 принципов этики обмена большими данными, нацеленные на соблюдение права граждан на приватность и обеспечение безопасности данных.
Поскольку тема данных (в первую очередь больших данных) неразрывно связана с ИИ, многие рекомендации по этичному использованию данных содержатся в этических кодексах, касающихся применения ИИ и робототехники, среди них — «Азиломарские принципы ИИ», инициатива Института инженеров электротехники и электроники (Institute of Electrical and Electronics Engineers, IEEE) по разработке стандартов на этичные ИС, пять из которых прямо касаются работы с данными (см. раздел 3.5).
В декабре 2019 года был принят первый российский «Кодекс этики использования данных». Кодекс ориентирован в основном на этику больших данных и недостаточно описывает меры защиты прав пользователей и правила доступа граждан к их данным, уделяя больше внимания интересам корпораций. Идеи кодекса оказались ближе к американской модели, нежели к европейской, несмотря на то что законодательство о ПД в России во многом следует именно европейскому GDPR.
Кодекс этики использования данных / Ассоциация больших данных, Институт развития интернета // Аналитический центр при Правительстве Российской Федерации.
Наконец, свои корпоративные кодексы этики (или кодексы поведения) есть у многих крупных организаций, особенно у технологических гигантов и дата-корпораций: Microsoft, Google, Twitter, Apple, Amazon, Сбербанк и др. При этом независимо от содержания кодекса этики его принципы и провозглашенные компаниями правила не имеют статуса обязательных, и при их нарушении компании не всегда несут даже репутационный ущерб, не говоря уже о финансовом.
Code of Conduct // Alphabet.
В итоге этический аспект регулирования на рынке данных пока нельзя назвать достаточно проработанным: нет общепринятых хотя бы на уровне большинства стран документов, главного международного авторитетного органа или организации, способной привести страны к общему согласию. В перспективе отсутствие обязательства учитывать этический аспект в работе с данными чревато появлением серьезных этических проблем, связанных с различными формами скрытой дискриминации. В России наибольшие риски могут породить автоматизированные системы принятия решений на основе данных, которые практически неизбежно рано или поздно будут применены в социальной сфере: в здравоохранении, в образовании, в системе социального обеспечения, а также утечка данных, особенно чувствительных, ошибки в системах принятия решений из-за несовершенства инфраструктуры и низкого качества данных.

2.3.2 Данные в работе госслужащих

Госслужащим необходимо быть очень внимательными и просчитывать на несколько шагов вперед возможные последствия принятия решений, связанных с данными и этикой их оборота. Даже в сходных ситуациях последствия могут быть совершенно различными: от отсутствия реакции общества до буйного социального протеста. При заимствовании решений и методов, успешно сработавших в аналогичных ситуациях в других регионах, тем более в других странах, надлежит предварительно изучать ситуацию (а именно правовой, технологический, социальный, культурный, иные контексты) на месте.
В некоторых странах государственные органы создают в госсекторе новые должности, куда приглашают специалистов по работе с данными, защите приватности, по этике данных и др. Например, в Новой Зеландии внедрена должность руководителя по приватности (Chief Privacy Officer, CPO), который исполняет примерно те же функции, что и специалист по приватности (Certified Information Privacy Professional, CIPP) в крупных частных корпорациях. Он отвечает за разработку и соблюдение правил работы с данными, защищающих приватность граждан и обеспечивающих доступность данных, которые собирает, обрабатывает и создает организация.
Простым и понятным примером руководства для госслужащих при принятии решений на основе данных является документ «Принципы безопасного и эффективного использования данных и аналитики», созданный уполномоченным по вопросам невмешательства в частную жизнь и главным советником по вопросам государственных данных в Новой Зеландии. Он содержит шесть простых рекомендаций, например обеспечение общественного блага, фокусировку на нуждах граждан, поддержку прозрачности работы с данными.
Для госслужащих Великобритании разработан фреймворк этики данных, содержащий похожие рекомендации, в частности:

  1. Начать с четкого определения потребностей пользователя и общественной ценности. Инновационный способ использования данных может привести к изменению способа предоставления государственных услуг.
  2. Использовать минимум данных, нужных пользователю. Объем используемых данных должен соответствовать потребностям пользователя. Целесообразно использовать минимальный набор данных, необходимый для достижения желаемого результата.
  3. Делать свою работу прозрачной. Инструменты, данные и алгоритмы, которые мы используем в работе, должны быть открыты и прозрачны настолько, насколько это возможно.
Как уже упоминалось выше, этические принципы работы с данными, как минимум на уровне идей, должны закладываться в национальную стратегию работы с данными. После принятия подобного кодекса этики общество не может рассчитывать на быструю перестройку культуры работы с данными, но начать этот процесс необходимо. К тому же недостаточно разработать и спустить сверху вниз этический кодекс как закон, обязательный к исполнению. В течение длительного периода его внедрение необходимо поддерживать на практике, демонстрируя примеры его использования в разных госорганах и ведомствах. Понимание интересов сторон на рынке данных, культура работы с данными и ориентиры в виде этического кодекса должны помочь российским госслужащим решать этические проблемы и находить разумный баланс на практике.