Этика и «цифра»:
этические проблемы цифровых технологий

«Нужны ли мы нам?» — плакат из лаборатории Кристобаля Хозевича Хунты, заведующего отделом Смысла Жизни в НИИЧАВО.

— А. и Б. Стругацкие. Понедельник начинается в субботу
Авторы раздела
Ткачева К. А.
Шепелева О. С.

Время чтения — 7 минут
Четвертая технологическая революция меняет общественный уклад; у людей появляются новые способы проживания жизни, новые способы действия, новые интересы и новые ценности. Попытки совместить их с уже существующими не всегда удачны, возникают конфликты и новые этические проблемы.

Данный доклад, созданный под эгидой Центра подготовки руководителей цифровой трансформации, посвящен этическим проблемам применения цифровых технологий. Эти вопросы заслуживают отдельного рассмотрения по двум причинам:
1
во-первых, потому, что этические принципы важны для нормальной жизни общества и людей в нем
2
во-вторых, потому, что этика использования цифровых технологий имеет свои особенности.
Основу этических принципов составляют базовые ценности, носящие универсальный характер. Например, кросс-культурные исследования показали универсальность таких ценностей, как помощь родственникам, поддержка своей группы, взаимовыгодное разделение издержек и выгод, уважение к старшим, уважение к частной собственности. Однако в каждый конкретный момент времени базовые ценности в зависимости от контекста получают разное прочтение и преломление в конкретных этических требованиях. В данном случае контекст — это устройство повседневной жизни, включая технологии, которые его формируют.
Цифровая трансформация затрагивает государство, бизнес и повседневную жизнь каждого человека — мы все сталкиваемся с этим.
Четвертая технологическая революция, с которой ассоциируются цифровые технологии, меняет общественный уклад. Цифровая трансформация затрагивает государство, бизнес и повседневную жизнь каждого человека — мы все сталкиваемся с этим. Появляются новые способы проживания жизни, новые способы действия. Технологии, сильно изменяя материальный и социальный контекст нашей жизни, приводят к изменению наших поведенческих норм и представлений об этичном и неэтичном поведении в конкретных ситуациях.
Почему мы считаем, что о цифровой этике важно говорить уже сейчас? В конце концов процессы цифровой трансформации в стране начались совсем недавно, и многие виды деятельности и территории практически не затронуты технологическим развитием. Однако технологии совершенствуются так быстро, что аргумент «это все не у нас» не убеждает. Сегодня какого-либо технологического решения еще не было, завтра оно появится, а послезавтра оно будет в доме или на работе у каждого. Будущее наступает все быстрее, и разговор об этических аспектах цифровизации и использования технологий становится все актуальнее.
Знание об этических дилеммах, возникающих в связи с цифровизацией, о формирующихся правилах этики цифровых технологий, на наш взгляд, особенно важно для
государственных служащих
кто планирует ими стать,
кто обеспечивает их профессиональное обучение и повышение квалификации
Госслужащие пишут законы, устанавливающие обязательные нормы, и принимают другие решения, имеющие последствия для граждан и бизнеса. Для получения позитивного эффекта лица, принимающие решения, должны быть в курсе развития технологий, понимать, какие экономические и социальные последствия вызовет их применение. Внимание к этической стороне поможет сделать решение более справедливым и за счет этого избежать конфликтов в обществе между заинтересованными сторонами. Кроме того, государственное управление и взаимодействие с гражданами тоже цифровизуются. Эффективность такого взаимодействия не в последнюю очередь зависит от того, были ли приняты во внимание этические риски.
Доклад также может быть полезен тем, кто отвечает за разработку цифровых сервисов, продуктов и систем (в том числе в госсекторе), ориентированных на граждан как получателей услуг и потребителей или как работников. Возможные конфликты и риски, связанные с этической стороной использования технологий, могут быть предотвращены, если уделить этому внимание при дизайне сервиса или продукта.
Вопросы этичного применения технологий входят в образовательные программы Центра. Мы следим за мировыми тенденциями, стараемся смотреть даже дальше, чтобы предвосхитить их, чтобы учить не только тому, что актуально сейчас, но и тому, что пригодится слушателям в работе в будущем. Мы хотим, чтобы важные и полезные темы, знания, инструменты были доступны не только нашим слушателям, но и широкому кругу людей. Так мы повышаем вероятность того, что эти вопросы будут заданы вовремя, ответы на них будут даны оперативно, осознанно и после обсуждений, и только после этого будут приняты аргументированные решения.
Цель доклада — обозначить проблемы этики, показать основные подходы к их решению.
Цель доклада — обозначить проблемы этики, наиболее значимые для цифрового общества и государственного управления, показать основные подходы к их решению. Необходимо подчеркнуть, что во многих случаях речь идет именно о подходах, а не о готовых решениях. Дело в том, что цифровая этика находится в стадии формирования не только в России, но и в мире в целом. По этой причине по многим вопросам доклад обобщает существующую рефлексию, а не предлагает решения этических проблем.
Из всего многообразия технологий авторы доклада выбрали те, которые вызывают наибольшее количество вопросов, обсуждений и чреваты наибольшим количеством этических проблем, с одной стороны, и наиболее критичны для эффективной цифровой трансформации государства с другой:
цифровые данные;
искусственный интеллект (ИИ);
интернет вещей (ИВ).

Эти технологии рассматриваются в первом томе доклада. Отдельная часть первого тома посвящена «сквозным» этическим проблемам, которые возникают в различных сферах применения ИТ и обнаруживают слабые с точки зрения этики места в нормативном регулировании. В перспективе эти проблемы, если их не решать, способны значительно повлиять на развитие общества как в нашей стране, так и в мире:

  • персональные данные и приватность;
  • капитализм слежки;
  • риск цифровой диктатуры.

Во втором томе доклада рассматриваются этические проблемы, связанные с социальными аспектами цифровых технологий, в частности риск дискриминации граждан, доступность технологий для граждан, вопросы трудоустройства и безработицы. Также во втором томе описаны этические проблемы в тех сферах, которые особенно сильно могут (и уже начали) трансформироваться с переходом в «цифру»:

  • образование;
  • полицейская деятельность;
  • медицина;
  • социальная сфера;
  • разработка ИТ-продуктов;
  • городская инфраструктура
Во всем докладе так или иначе описываются международные, государственные и отраслевые документы, связанные с регулированием тех или иных технологий и отраслей, в частности в вопросах этики. Оговоримся сразу, что целью данного доклада не является создание исчерпывающего списка всех имеющихся международных и отечественных документов, нами выбраны те из них, которые представляют наибольший интерес на момент написания доклада (ноябрь 2019 года).
В ряде случаев в докладе представлены точки зрения экспертов, конкурирующие друг с другом — это сделано сознательно, чтобы дать полную картину мнений и помочь читателю выработать собственное видение различных аспектов этики технологий.
фОтметим также, что список проблем, которые рассматриваются в докладе, безусловно, не может исчерпать всего спектра этических вопросов, возникающих в связи с применением цифровых технологий, к примеру, «за кадром» остается острый, но требующий отдельного осмысления вопрос применения цифровых технологий для создания оружия. Итак, данный доклад — лишь постановка основных, наиболее значимых вопросов. Ответы на них будут искать общество, государство, наука и бизнес в течение ближайших лет.
Авторы доклада выражают особую благодарность
Мария Шклярук
Марии Шклярук, академическому директору Центра подготовки руководителей цифровой трансформации ВШГУ РАНХиГС и директору Центра перспективных управленческих решений, без которой этот доклад не был бы написан, — за идейное вдохновение, огромную поддержку и этичный подход к внедрению цифровых технологий;
Иван Ниненко
Ивану Ниненко, члену экспертного совета Future Foundation, за идею создания этого доклада;
Павел Потеев
Павлу Потееву, эксперту Центра подготовки руководителей цифровой трансформации ВШГУ РАНХиГС, за глобальное видение и вычитку финальной версии доклада.