2.3 ЭТИЧЕСКИЕ РИСКИ «ЦИФРЫ» ДЛЯ ГОСУДАРСТВА
Авторы раздела:
С. В. Коршунова
Е. Г. Потапова
О. С. Шепелева
Время чтения: 11 мин.
Использование цифровых технологий создает риски для национальной безопасности и цифрового суверенитета, в частности риск зависимости от иностранных технологий и оборудования. Самым серьезным риском для государства авторы доклада считают потерю доверия граждан и как следствие — дискредитацию будущих усилий и достижений государства в сфере цифровых технологий.
2.3.1 РЕПУТАЦИОННЫЕ РИСКИ
В идеальной картине мира государство — представитель граждан, который защищает их интересы, права и свободы, обеспечивает охрану жизни и здоровья, поддержку слабых, руководствуется ценностями и т. п. Как уже было сказано в разделе 1, доверие собственных граждан — залог успешного существования такого государства. Использование цифровых технологий для ограничений и слежки, внедрение цифровых решений «на всякий случай» наносит вред, влечет финансовые потери, порождает страхи. Рост недоверия к государству может означать в будущем усиление сопротивления цифровым решениям (подробнее о доверии см. раздел 3). К потере доверия приводит ряд причин, в том числе:
- утечки данных граждан из ГИС;
- невозможность гарантировать защиту данных граждан в ИС из-за
- недостаточного уровня ИБ;
- необоснованное длительное хранение данных после достижения цели их сбора;
- применение технологий для несправедливых, сточки зрения граждан, действий (например, автоматическое выписывание штрафов);
- внедрение цифровых услуг, при оказании которых возможны ошибки и сбои, с одновременным удалением аналоговых вариантов.
2 июля 2020 года в официальном аккаунте ситуационно-кризисного центра МИД РФ 13 часов висело мошенническое сообщение о продаже базы данных российских граждан, которые находятся за пределами страны и получают выплаты от России.
C 2021 года в России трудовую книжку оформляют в электронном виде; те, у кого она уже есть, могут выбирать, вести ее далее в электронном формате или в бумажном. Информационная кампания в поддержку инициативы началась в 2019 году. В начале 2021 года компания HeadHunter выяснила, что четверти из опрошенных даже не предлагали переход на электронные трудовые книжки. 54% тех, кому предложили, отказались. Основная причина отказа (55%) — непонимание, как будет работать электронная трудовая книжка.
Полный провал. Россияне отказались переходить на электронные трудовые книжки // Hi-Tech Mail.ru. Электронные трудовые книжки: результаты опроса соискателей // Служба исследований HH.ru.
Московская система «Безопасный город» — одна из крупнейших в мире, в ней около 200 тыс. видеокамер. В начале 2020 года в Москве запустили онлайн-систему распознавания лиц на основе данных с этих видеокамер. Во время пандемии технологии распознавания лиц стали использовать не только для поимки преступников и поиска потерявшихся людей, но и для отслеживания нарушителей карантина. Российский КоАП допускает автоматическую фиксацию правонарушений, однако до сих пор это были в основном нарушения правил дорожного движения и парковки.
Удаление данных, которые больше не нужны, — пример этичного обращения с данными. Отношение государства и бизнеса к удалению данных в период пандемии вообще очень показательно.
В 2020 году департамент здравоохранения Австралии выпустил акт о биобезопасности, защищающий права граждан на приватность в период пандемии и после нее, началась работа над законом о защите ПДн, собранных через мобильные приложения. Были приняты нормативные документы об удалении всех данных по окончании пандемии.
Biosecurity (Human Biosecurity Emergency) (Human Coronavirus with Pandemic Potential) (Emergency Requirements — Public Health Contact Information) Determination 2020 // Federal register legislation.
COVIDSafe legislation // Australian Government.
COVIDSafe app // Australian Government.
Правительство Израиля разрешило спецслужбам использовать данные сотовых операторов для отслеживания контактов заболевших COVID-19, но на определенное время. Впоследствии надзорная группа в Кнессете заблокировала инициативу правительства об использовании этих данных в дальнейшем, поскольку риски перевешивают возможные выгоды.
В апреле 2020 года жители Московской области столкнулись с рядом проблем: было сложно оформить пропуск по единому номеру 0250, отмечалась нестабильная работа приложения «Госуслуги СТОП Коронавирус», не приходили QR-коды. Минкомсвязи Р Ф совместно с руководством Московской области устранило проблемы, выявленные пользователями, а конце июня 2020 года глава Минцифры РФ сообщил, что все ПДн пользователей сервиса удалены.
Полякова В., Скобелев В. Минкомсвязь сообщила об удалении личных данных для цифровых пропусков // РБК.
В апреле 2020 года в Татарстане ввели цифровые пропуска, тогда же власти пообещали удалить все данные по окончании ограничительных мер. 12 мая 2020 года пропуска были отменены, созданный для их выдачи сайт закрыли, а 15 мая в присутствии специальной комиссии были удалены ПДн, собранные для выдачи цифровых пропусков.
Цифровые пропуска: итоговые цифры // Министерство цифрового развития государственного управления, информационных технологий и связи Республики Татарстан.
В Татарстане уничтожили базу данных цифровых пропусков при участии спецкомиссии // Министерство цифрового развития государственного управления, информационных технологий и связи Республики Татарстан.
В целом законодательные органы власти и нормативно-правовое регулирование цифровой экономики не успевают за развитием рынка. В неконтролируемой «серой» зоне создаются благоприятные условия для неэтичных, но формально законных (не запрещенных законом) действий, которые впоследствии могут иметь серьезные последствия для граждан и вызывают у них недовольство. Отсутствие системной работы с этическими рисками приводит к недостаточно продуманным цифровым решениям, в которых делается акцент на будущие положительные эффекты и недостаточно учитываются потенциальные негативные эффекты.
Приложение «Социальный мониторинг», разработанное ДИТ Москвы весной 2020 года для контроля передвижения москвичей с подтвержденным COVID-19, неоднократно называли инструментом создания «цифрового ГУЛАГа». Параллельно с «Социальным мониторингом» действовала система цифровых пропусков, которая работала с перебоями, временами была недоступна для оформления пропусков, в ней не были предусмотрены многие причины для получения пропуска.
Беспечная цифровизация, отсутствие системной работы по предупреждению этических проблем проявляются в противоречивых действиях разных госорганов, например при выборе места размещения ПДн. Госорганы активно используют мобильные приложения (не только для слежки), в результате чего растет влиятельность владельцев экосистем мобильных приложений: Google, Apple, Facebook, Huawei и др.
При изучении 44 российских мобильных приложений, разработанных госорганами для оказания госуслуг, выяснилось, что большинство приложений содержит трекеры компаний Facebook и Google, 88% содержат хотя бы один трекер, который собирает данные и осуществляет их трансграничную передачу третьим лицам. При этом отсутствуют рекомендации и требования к передаче данных приложениями, разработанными за счет бюджетных средств.
Бегтин И., Буров В., Орлова К. Приватность государственных мобильных приложений в России // АНО «Информационная культура», 2021.
Там же.
2.3.1 РЕПУТАЦИОННЫЕ РИСКИ
Ярким примером того, как данные, этика и безопасность переплетаются в сложный клубок рисков для личности и для государства, служат утечки данных, собираемых через инфраструктуру «умного» города. Даже отдельные «умные» носимые устройства могут навредить своим владельцам и целым странам из-за непредумышленного раскрытия информации. Но основное звено потерь — люди. Они подписывают бумажные документы и общаются в мессенджерах, работают в засекреченном здании и используют режим геолокации на смартфоне. Технологии социального инжиниринга и обогащения данных позволяют получить много информации и без доступа к сейфу с документами. Недоразумения или беспечность сотрудников приводят к тому, что публичными становятся значимые данные, включая те, которые могут представлять государственную тайну.
Риски оборота данных в России // Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020
Центр спецназначения по обеспечению безопасности движения МВД России минимум три года собирал секретные данные о передвижении президента, премьера, руководства Совбеза, ФСБ и других высокопоставленных лиц в чатах WhatsApp (принадлежит Facebook). По информации ряда источников вся связь с водителями Управления делами президента РФ осуществлялась через WhatsApp, зачастую со служебных и личных компьютеров. Технически не только компания — владелец мессенджера, но и другие посторонние лица могли в онлайн-режиме отслеживать передвижения первых лиц России: для этого достаточно было получить несанкционированный доступ хотя бы к одному из компьютеров, где был бы открыт такой чат. Были скомпрометированы не только маршруты передвижения, но и позывные объектов госохраны, номера их машин, фамилии сопровождающих.
Дергачев В., Горяшко С., Зотова Н. В спецбатальоне МВД пожаловались на сбор данных о кортежах Путина через WhatsApp // BBC News. Русская служба.
В целом аналоговые технологии (бумажный документооборот) устойчивее к утечкам информации, чем электронные: проще обеспечить физический контроль и обнаружить нарушение мер ИБ, компрометацию документов, информации и т. д. Гораздо проще скопировать 1 Тб цифровых данных на флеш-карту, чем незаметно украсть 100 кг секретных документов.
Интегральный подход к обеспечению безопасности предполагает полный отказ от использования цифровых сервисов: только кнопочные телефоны, для коммуникаций с коллегами — защищенные линии видеоконференцсвязи (ВКС) и радиостанции. Однако невозможно представить себе работу современного госоргана в условиях таких ограничений. В современном цифровом мире цифровой и аналоговый подходы неизбежно совмещаются.
В начале 2020 года российский «белый хакер» рассказал, как он нашел доступ к тысячам камерам наружного наблюдения РЖД, а затем помог компании закрыть уязвимость.
Хакерская атака на американскую компанию Colonial Pipeline привела к перебоям в поставке нефтепродуктов на восточном побережье США, вызвала рост цен на бензин, в связи с чем в 19 штатах было объявлен режим ЧС. Хакеры заявили, что не имеют политических требований, а только хотят заработать. Это крупнейшая в истории кибератака на энергетическую инфраструктуру.
Наумов А., Черненко Е., Мордюшенко О. Бесполезные ископаемые // Коммерсантъ. Drivers start scrambling for gas as pipeline shutdown continues// CBS News.
В мае 2020 года хакерская атака на ИТ-системы нарушила работу службы здравоохранения и соцзащиты Ирландии: пришлось отменить или перенести записи на прием (кроме неотложных случаев), начались перебои в работе клиник, некоторые процедуры проводились без привычной помощи компьютеров. Как только Национальный центр кибербезопасности (National Cyber Security Centre) обнаружил атаку, был приведен в действие план антикризисных мер. В частности, многие компьютеры и системы были просто выключены. Госорган отказался платить выкуп.
Cyber attack 'most significant on Irish state' // BBC News.
Помимо утечки данных и хакерских атак, опасность для государства представляет отсутствие цифрового суверенитета. Растущая зависимость от импорта электроники не позволит ни одной стране мира в ближайшем будущем иметь цифровой суверенитет. К примеру, российские компании могут создать алгоритмы, но техника, на которой они используются, будет произведена в Китае или США.
Россия должна не просто наращивать технологическую, интеллектуальную мощь, но и стремиться к цифровому суверенитету, чтобы сохранять право на свое мнение по многим вопросам и возможность вести конструктивный диалог. Многие страны сегодня находятся в худшем положении не только по сравнению с Китаем и США, но и по сравнению с Россией. Экспорт цифрового суверенитета в технологически менее развитые страны — одна из возможных точек роста для России.
Илия Димитров, омбудсмен по вопросам развития цифровой экономики
Илия Димитров, омбудсмен по вопросам развития цифровой экономики
Другая опасность — копирование передового опыта других стран без учета локальных особенностей или вместо создания собственных уникальных продуктов. Само по себе использование чужого опыта целесообразно, но, чтобы быть лидером рынка, необходимо задавать тренды, а не только следовать им. При этом быть лидерами очень затратно: эксперты отмечают, что например российский аналог YouTube должен иметь мощнейшую инфраструктуру, для него придется построить серверные фермы стоимостью в несколько миллиардов долларов.
«Теперь мы голые и беззащитные»: краткая история цифровой колонизации. Игорь Ашманов // ДеньТВ.
Национальная служба здравоохранения Великобритании (NHS) в апреле 2021 года попыталась обновить приложение-трекер заболевших COVID-19, включив в него возможность отслеживания местоположения пользователей. Изначально это приложение совместно разработали Google и Apple, и оно принципиально не собирало данные о геолокации пользователей. Обновление фактически нарушало условия использования приложения и было заблокировано на обеих площадках. Тем самым крупнейшие ИТ-экосистемы показали, что могут устанавливать свои правила игры и принуждать к их соблюдению даже таких пользователей, как госорганы европейских стран.
ВЫВОДЫ. КАК СНИЗИТЬ РИСКИ
В 2020—2021 годах в мире на первый план вышли проблемы техноэтики, связанные с использованием ПДн, слежкой, кибермошенничеством и неравным доступом к технологиям. Принципиально новых этических проблем не возникло, но обострились существовавшие ранее. По-видимому, они и будут самыми актуальными в ближайшие несколько лет.
Подробнее об этих рисках см.: Этика и «цифра»: Этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020.
В то время как данных, используемых для контроля, собирается очень много, у государственных органов все еще недостаточно данных о гражданах и инфраструктуре, которые необходимы для оказания помощи. Они пригодились бы для стабильного обеспечения высокого уровня медицинской помощи там, где она более всего необходима, равного доступа к образовательным услугам онлайн, социальной поддержки малообеспеченных и безработных граждан и т. п.
Опыт внедрения цифровых продуктов и услуг показывает, что продуманные этичные решения сводят риски к минимуму, а непроработанные и поспешные могут быть опасны. Цифровизация разного рода сервисов может приводить к дискриминации отдельных уязвимых групп, если не предпринимаются специальные меры для снижения этого риска. Некорректная работа госорганов с цифровыми технологиями (прежде всего обработка данных граждан) может создать проблемы на стыке этики и самых широких вопросов безопасности: государства, граждан, общества в целом.
Описанные в этом разделе проблемы требуют своевременного решения на всех уровнях — регулирования, правоприменения, создания инфраструктуры, внедрения культуры работы с данными и т. д. В первую очередь следует обращать внимание на следующие факторы.
Государство и граждане // Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020
- Объем собираемых данных. Известны ли заранее цели сбора данных? Можно ли собирать меньше?
- Возможные негативные последствия. У кого не будет доступа к сервису или продукту? Какие утечки данных возможны? Как злоумышленники могут использовать цифровой продукт или сервис?
- Сохранение аналоговых вариантов. Какие варианты предусмотрены для пользователей без доступа к интернету или не имеющих цифровых устройств? Предусмотрен ли вариант действий на случай непредвиденной ситуации или ошибки системы?
- Коммуникация с пользователями. Чем могут быть недовольны пользователи? Кто отвечает за коммуникацию с пользователями?
Подробнее алгоритм оценки этичности цифровых решений описан в разделе 6.2.