6. Этика принятия решений

Не требуйте гарантий. И не ждите спасения от чего-то одного — от человека, или машины, или библиотеки. Сами создавайте то, что может спасти мир, — и если утонете по дороге, так хоть будете знать, что плыли к берегу.
Р. Брэдбери. 451 градус по Фаренгейту

6.1 ЦЕННОСТНЫЙ ПОДХОД К ЦИФРОВЫМ РЕШЕНИЯМ

Авторы раздела:
П. А. Алферов
А. Ю. Кирин
О. С. Шепелева
Время чтения: 13 мин.
При всех ограничениях у государственного или муниципального служащего всегда остается определенная свобода в выборе решения поставленной перед ним задачи. Какими ценностями должен руководствоваться служащий, создавая и развивая цифровые сервисы и инструменты или устанавливая правила использования цифровых технологий? Как госслужащему включить анализ этических вопросов в свою повседневную работу? Какие инструменты могут ему помочь?

6.1.1 Почему это важно?

Начнем с характеристики тех функций, при выполнении которых важно уделить внимание вопросам этики. Государственные и муниципальные органы и их должностные лица выполняют две группы функций. Первая связана с регулированием, с установлением правил деятельности разных организаций и отдельных людей. В число этих правил входят и те, что касаются применения цифровых технологий, производства, продажи, приобретения и использования цифровых продуктов, товаров и услуг.
Вторая группа — это все прочие функции, начиная от оказания различных государственных услуг и заканчивая совершенствованием внутренних управленческих процессов. Сейчас цифровые технологии активно внедряются как инструмент, помогающий оптимизировать внутренние процессы в государственных органах и подведомственных им учреждениях, сделать более удобными и доступными госуслуги, повысить эффективность контрольно-надзорной деятельности и т. п. Это внедрение происходит в том числе в ходе ЦТ федеральных и региональных органов власти.
Порядок выполнения государственным или муниципальным служащим своих функций, сфера его компетенций детально регламентированы. Есть правовые требования, определяющие порядок оказания государственных и муниципальных услуг и выполнения других функций. Кроме того, есть требования руководства, стратегические решения, которым надо следовать, и ранее принятые проекты, которые должны быть реализованы.
Однако при всех ограничениях у государственного или муниципального служащего всегда остается определенная свобода в выборе решения поставленной перед ним задачи. Например, при создании новых «правил игры» для бизнеса и граждан можно выбрать разные модели регулирования, использовать разные юридико-технические приемы. В случае создания цифровых инструментов возникает вопрос выбора концепции, дизайна цифрового сервиса и конкретных технических решений, включая способы сбора, обработки и хранения данных, работу алгоритмов и т. д.
Когда речь идет о цифровых технологиях, четкого руководства к действию может и не быть. Сейчас нормативное регулирование не всегда успевает за развитием технологий. Поэтому руководители и сотрудники государственных органов и учреждений вполне могут оказаться в ситуации, когда им предстоит внедрять цифровые инструменты, не имея четкой регламентации их использования.
Цитата
Одна из главных задач цифровизации — заставить госслужащих увидеть клиента. В цифровую эпоху очень важно поменять образ мыслей, задуматься о том, какую ценность я даю своими действиями, какую ценность я даю цифровыми решениями.

Мария Шклярук, академический директор Центра подготовки РКЦТ
Выбор, сделанный при создании новых правил или новых цифровых инструментов, может иметь значение для большого числа людей и организаций. Цена ошибки высока. Недальновидные решения могут не только испортить карьеру отдельным сотрудникам, но и негативно повлиять на репутацию государственных органов. Поэтому важно, чтобы выбор не делался вслепую.

6.1.2 МЕСТО ЦЕННОСТЕЙ В ПРИНЯТИИ РЕШЕНИЙ

Эксперты в сфере управления предлагают различные подходы к тому, как делать выбор и принимать решения. Но все они единодушны в том, что следует осознанно подойти к процессу и, в частности, оценить позитивные стороны и риски каждого из вариантов, в том числе риски этического характера (подробнее об этических рисках см. раздел 2). На первый взгляд они могут показаться малозначительными, особенно на фоне вызовов, связанных с финансированием или соблюдением требований законодательства. Однако их игнорирование может создать серьезные проблемы в дальнейшем. Как было отмечено в предыдущих разделах, этика использования цифровых технологий приобретает все большее значение в сфере управления бизнесом и в госуправлении, причем как в контексте формирования стратегии, так и в повседневной работе.

Международная компания Deloitte пришла к выводу, что внимание к этическим аспектам использования технологий связано со степенью цифровой зрелости компаний: интерес к вопросам этики чаще проявляют те, кто активнее использует прорывные технологии и дальше продвинулся в цифровизации.
В госсекторе появляются этические фреймворки использования цифровых технологий и инструменты, которые помогают выявлять этические риски. К таким инструментам относятся, в частности, программный документ Института Алана Тьюринга «Руководство по ответственной разработке и внедрению систем на основе ИИ в государственном секторе» и «Фреймворк по этике данных» правительства Великобритании.
Leslie D. Understanding artificial intelligence ethics and safety. A guide for the responsible design and implementation of AI systems in the public sector // Alan Turing Institute.
Data Ethics Framework // UK Government.
Этические требования, включая этику использования цифровых технологий, вытекают из ценностей. Этичные решения и действия конкретного служащего согласуются с ценностями общества или организации, а неэтичные — противоречат им. Поэтому самый простой способ выявить и оценить этические риски того или иного решения — проанализировать ценности, которые оно затрагивает.

Рисунок 19. Группы ценностей

Принимая решения, люди исходят из разных ценностей: личных, корпоративных, общественных (см. рисунок 19). Поскольку решения, принимаемые государственными и муниципальными служащими, влияют на жизнь множества людей, они не могут основываться только на личных или корпоративных ценностях; значительно важнее ценности, признаваемые в обществе. Их игнорирование может вызвать общественный протест или привести к саботажу принятых органами власти решений.
Цитата
Те, кто, внедряя цифровые технологии, заботятся исключительно о показателях эффективности своей работы, идут на изменение практики отношений между людьми и создание другого типа культуры. В нем не к кому апеллировать, там нет правды. Алгоритмы рейтингования или оценки высказываний сами будут решать, кого банить в Facebook, кому не давать кредит и кого не принимать на работу. Когда это делается без объяснения причин, а на решение нельзя пожаловаться, то это другое мироустройство.

Сергей Карелов, председатель совета Лиги независимых экспертов в области информационных технологий

6.1.3 Как принять этичное решение?

Какими ценностями должны руководствоваться служащие, развивая цифровые сервисы или формулируя правила использования цифровых технологий? Ответить на этот вопрос помогают исследования Организации экономического сотрудничества и развития (ОЭСР). В них отмечается корреляцию между высоким уровнем доверия (между людьми и людей к институтам) и экономическим ростом, повышением благосостояния, поддержкой проводимых государством реформ. Уровень доверия зависит в том числе от поведения должностных лиц, действий государственных и муниципальных органов.
См. Algan Y. Trust and social capital in For Good Measure // Advancing Research on Well-being Metrics Beyond GDP. Paris: OECD, 2018.

Рисунок 20. Открытость, справедливость и добросовестность — три составляющих доверия

Такого мнения придерживаются многие эксперты: по словам декана экономического факультета МГУ Александра Аузана, «недоверие — такая же институциональная ловушка, как коррупция, низкий уровень конкуренции и административные барьеры».
Ключевые драйверы доверия к государственным и муниципальным органам и структурам — это их компетентность и те ценности, которым они следуют. Чтобы вызвать доверие, действия и решения властей должны быть основаны на ценностях, показанных на рисунке 20.
Что это означает применительно к использованию цифровых технологий в государственном и муниципальном секторе? Если мы говорим об открытости, то важно проконтролировать следующие аспекты. Во-первых, при разработке решения надо собирать, анализировать и учитывать опыт предполагаемых пользователей, а после того как цифровой инструмент был выпущен в эксплуатацию — поддерживать каналы обратной связи. Во-вторых, до пользователей надо доводить в понятной им форме информацию о работе сервиса. Это не только удобные инструкции, но и сведения о значимых технических характеристиках. Например, если сервис использует пользовательские данные, важно объяснить, как они хранятся и передаются, кто имеет к ним доступ, как они обрабатываются и уничтожаются. В некоторых случаях открытость может потребовать публикации кода. Недостаточная открытость — источник разнообразных рисков: например, сервис не отвечает потребностям целевой аудитории или люди не хотят его использовать, опасаясь за сохранность своих данных.
Цитата
Важно внимательно отслеживать законность запроса и обработки данных. Вот вы знаете, какими вашими персональными данными на этой неделе пользовались государство и коммерческие структуры? Допустим, у вас есть кредит, который вы успешно погасили. А вы свои персональные данные отозвали у банка? Нет. Государственные и коммерческие услуги должны оказываться по принципу «Я, ФИО, пришел в банк получать услугу, и, когда моя услуга оказана, система мне автоматом подсказывает, что услуга оказана, и задает вопрос о том, нужно ли отозвать мои данные». Нужно, чтобы у гражданина был единый прозрачный инструмент отзыва. К сожалению, огромная проблема в том, что сейчас мы не владеем:

а) пониманием того, кто какие данные в каких целях использует;
б) инструментами, чтобы быстро и просто прекратить использование этих данных.

Радик Гисмятов, заместитель РЦТ Республики Татарстан
Справедливость — более сложная концепция. Дизайн цифрового решения должен быть инклюзивным и учитывать особенности разных групп пользователей. Адресаты услуг часто не отличаются высокой цифровой грамотностью и менее оптимистичны в отношении цифровых технологий, чем разработчики сервисов и должностные лица, которые их курируют. Кроме того, создание новых сервисов не должно усиливать цифровой разрыв (подробнее об этом см. раздел 2.2).
Там же.
Цитата
Нужно продумывать, как организовать равный доступ к системе и исключить дискриминацию. Обязательно должны учитываться права граждан с ограниченными возможностями. Многие интерфейсы разработаны для людей с хорошим зрением и моторикой, но надо двигаться дальше: например, мы в Сколково разрабатываем интерфейсы с сурдопереводом для глухонемых.

Максим Федоров, вице-президент в области ИИ и математического моделирования Сколковского института науки и технологий
Порядок работы цифрового сервиса или иного инструмента не должен создавать избыточных рисков и чрезмерных обременений для граждан или бизнеса. Иногда можно оценить риски и обременения в денежном выражении и сопоставить их с получаемыми выгодами. Другой способ — провести оценку путем сопоставления ценностей, которые планируется поддержать за счет нового цифрового механизма, и тех, что могут оказаться урезаны и ущемлены.
Если инструмент предполагает принятие индивидуальных решений (о предоставлении льгот, наложении санкций и пр.), он должен отвечать требованиям процессуальной справедливости. Технические решения и данные, которые используются при принятии решений, не должны допускать дискриминации или предвзятости в отношении отдельных категорий людей. Дизайн цифровых процедур должен быть понятен и удобен: граждане, которые сталкиваются с этими процедурами, не должны чувствовать беспомощность. В дизайн процедуры, опирающейся на цифровые технологии, должна быть заложена возможность изучения аргументов и доказательств, предоставленных человеком, в отношении которого принимается решение.
Важно, чтобы люди были уверены в справедливости цифровых решений. Это еще одна причина, по которой важно вовлекать представителей целевой аудитории и других заинтересованных лиц в процесс разработки таких решений, а также в понятной и доступной форме информировать о том, как работает тот или иной цифровой сервис.
Понятие добросовестности предполагает надежность решения, его высокое качество, достаточные степени защиты и т. д. Последствия взаимодействия с цифровым инструментом или сервисом должны быть предсказуемы. Если для оказания услуги собирают данные пользователей, они не должны затем использоваться для других целей. Например, информация о месте проживания, переданная государственным органам для оформления цифровых пропусков в период пандемии, не должна использоваться для наказания тех, кто живет не по месту регистрации или сдает квартиру, не декларируя это.
Цифровые технологии разнообразны и могут быть использованы государством для решения разных задач. Невозможно предложить детальный и одновременно универсальный, применимый ко всем цифровым проектам набор требований, вытекающих из принципа справедливости. Однако можно опираться на накопленный опыт использования конкретных технологий, на знания о рисках, которые проявили себя на практике.