7.5 «Умный» город: этические проблемы

Автор раздела
Душкин Р. В.

Время чтения — 19 минут
Попыток создать «умных» городов с каждым годом все больше, при этом этических кодексов, которые бы лежали в основе «умных» городов, пока не хватает. Скорее всего, в будущем все города в мире станут «умными». Несмотря на разные наборы технологий, этические проблемы «умных» городов будут касаться таких сфер, как приватность, возможности интернета вещей, «умная» инфраструктура, цифровое правительство и т.д.
Термин «умный город» используется с середины 1990-х годов. Существует два основных подхода к его толкованию: «умный» в значении «инновационный» и в значении «разумный» (таблица 14). По мере развития технологий все больше влияние приобретает первый подход, ориентированный на внедрение самых современных технологий.
Таблица 14
Два подхода к определению «умного» города
«Умный» город = инновационный, технологичный «Умный» город = разумный, продуманный
«Умный» город — это градостроительная концепция интеграции множества информационных и коммуникационных технологий, в том числе систем интернета вещей (IoT) для управления городской инфраструктурой: транспортом, образованием, здравоохранением, системами ЖКХ, безопасности и т.д. Целью создания «умного» города является улучшение качества жизни жителей с помощью технологии городской информатики для повышения эффективности обслуживания и удовлетворения нужд резидентов «Умный» город — это эффективная интеграция физических, цифровых и человеческих систем в искусственно созданной среде для обеспечения устойчивого, благополучного и инклюзивного будущего для своих граждан . «Умным» город становится за счет комплексного внедрения технологий для повышения эффективности жизнедеятельности города. Это подразумевает более активное взаимодействие города с горожанами и более эффективные механизмы управления городом
В инновационном городе первичны технологии. Местных жителей устраивает сложившееся сочетание конкретных технологий. Если же (или когда) город перестает соответствовать их ожиданиям, недовольные могут переехать в другой город. Сторонники технологического подхода подчеркивают важность права на свободу передвижения и выбор места жительства для эффективного развития городов. Конкуренция между городами снизит риски дискриминации и возникновения тоталитарного режима, при этом повысит разнообразие видов городской культуры в мире В «разумном» городе во главу угла ставятся потребности граждан и особенности физической среды (климат, экологическая обстановка, уже существующие объекты, окружающая среда и т. п.). Технологии вторичны и используются в качестве инструментов, с тем чтобы сделать жизнь горожан легче и комфортнее. Современных технологий может быть сравнительно мало просто потому, что они пока не востребованы горожанами

7.5.1 Сферы применения технологий и этические вызовы в «умном» городе

Каждый «умный» город отличается от остальных в силу разного набора технологий, климата, истории, окружающего пространства. Как правило, проекты «умных» городов затрагивают различные сферы городской жизни (рисунок 26).
Рисунок 26
Сферы жизни города, куда проникают «умные» технологии
Не существует единого шаблона для создания «умного» города, в каждом случае предстоит определить цели для конкретного города и найти свой путь. В одном городе интеллектуализацию управления можно начать с внедрения видеонаблюдения, для которого используется технология распознавания лиц, чтобы повысить безопасность на улицах; в другом — с вывоза и более эффективной переработки твердых отходов для благоустройства и улучшения экологической обстановки; в третьем — с установки «умных» светофоров и оптимизации дорожной сети.

Проект «Миссия 100 умных городов» (Индия) предполагал сбор лучших практик по всему миру и выбор подходящих, с тем чтобы повысить качество жизни людей, которые сейчас живут буквально в нищете. Проект ориентирован не на формальную цифровизацию устаревших процессов, а направлен на создание новых.

Пилотным городом выбран Порт-Блэр, инфраструктура которого еще недавно не обеспечивала даже стабильного доступа в интернет. В рамках проекта предполагается автоматизировать процессы принятия решений, создать систему предиктивной полиции, внедрить предиктивный анализ городской инфраструктуры и систему предотвращения различных рисков природного и техногенного характера.
Предположим, что со временем все города в мире превратятся в «умные». При этом трансформация потребует отличающихся наборов технологий и будет осуществляться с разной скоростью. Возможно ли создание «умного» города без обязательного использования самых современных технологий, например повсеместного ИВ, видеонаблюдения, без использования цифровых двойников, без цифровых госуслуг и т.п.? Скорее всего, уже сегодня такой город будет нежизнеспособным, поскольку у него не будет автономности и способности поддерживать коммуникации с миром из-за технологического разрыва.
Сегодня в «умных» городах наибольшим спросом пользуются ИВ и массовое видеонаблюдение. С ними связано много этических вопросов (таблица 15). Технология распознавания лиц на видео нарушает право граждан на личную жизнь, хотя, как считается, повышает уровень безопасности в городе. Большие данные, которые собираются устройствами ИВ, содержат не только значимую информацию о состоянии городской инфраструктуры, но и ПД и личную информацию горожан. В ближайшем будущем более широкое применение найдет ИИ, пока он задействован в основном в системах поддержки принятия решений.
Таблица 15
Основные этические проблемы в «умных» городах
Smart Cities Mission // Smartnet.

7.5.2 Инфраструктура «умного» города

С ростом городов и числа жителей увеличивается нагрузка на инфраструктуру, которая создавалась десятилетия, а порой и столетия назад и вовсе не рассчитана на нынешнюю плотность населения и количество транспорта. Во многих проектах «умных» городов уделяется большое внимание оптимизации транспортной инфраструктуры, развитию системы общественного транспорта, снижению нагрузки на дороги любыми способами.

Власти Кувейта разработали поисковый движок, который предоставляет информацию о местных товарах и услугах, а также собирает геоданные и данные о трафике на дорогах от всех водителей страны (население Кувейта — 4,5 млн человек). С помощью машинного обучения алгоритм изучил характер движения и представил наиболее удобные направления для планирования будущих дорог.
Dangermond J. Three building blocks of smart cities // GovInsider.
В качестве средства обеспечить безопасность горожан на улицах города и в других публичных местах наиболее популярно повсеместное видеонаблюдение с функцией распознавания лиц.

Согласно отчету компании Deloitte, жители Шэньчжэня чувствуют себя самыми счастливыми, если сравнивать с населением других «умных» городов Китая. В Шэньчжэне отмечена наибольшая плотность транспортных потоков. Массовое распознавание лиц используется в системе городского видеонаблюдения для контроля соблюдения правил дорожного движения, причем как водителями, так и пешеходами.

По состоянию на октябрь 2019 года в городе развернута целая система «умной» полиции (smart police), для ее работы используются данные граждан, бизнеса и геопространственные данные, массовое видеонаблюдение, большие данные для распознавания лиц и транспортных средств, многопрофильный анализ готовых библиотек изображений и видео. Акцент делается на защите общественной безопасности и эффективном управлении дорожным движением.
Super Smart City // Deloitte.
«Умный» город сам по себе не создает, но может увеличить и закрепить дискриминацию жителей, возникающую из-за любых причин и ошибок, эффект масштабируется в зависимости от численности населения. Скоринговые системы и технологии ИИ способны не только выявлять нуждающихся в социальной помощи (после чего органы соцобеспечения могут предоставить им адресную помощь), но и оказаться средством для дискриминации и ограничения свобод жителей со стороны властей.
Цифровизация всех госуслуг, безусловно, ускоряет и упрощает их предоставление населению. В то же время часть горожан, которым было удобно лично обращаться к госслужащему за той или иной услугой, оказываются исключенными из жизни в условиях «умного» города. Дороговизна многих технологических решений и инноваций для конечного покупателя и сейчас создает разные уровни доступа к технологиям. Если семья будет иметь за счет этого больше возможностей и прав только благодаря проживанию в «умном» доме, такой разрыв очень быстро приведет к цифровому неравенству (см. разделы 6.1 и 6.2).
С развитием новых технологий будут появляться новые способы нарушения прав личности, ограничения свобод, дискриминации по конкретным признакам, например ограничение действий некоторых или всех горожан с помощью массового видеонаблюдения и видеоаналитики с целью подавить цифровую демократию. Для этого также пригоден контроль интернета (ограничение властями доступа в интернет на территории всего города или региона), системы государственного скоринга и ограничения в правах за любые нарушения правил, как это происходит в системе социального рейтинга, разновидности которого внедряются в Китае в течение последних нескольких лет.
«Умные» города не свободны от объективно существующих экологических проблем, на них тоже влияют потепление и иные изменения климата, увеличение твердых бытовых отходов (особенно электронных и пластиковых), засухи, наводнения и т. п. Очевидно, что если не удается справиться с природными катастрофами и ухудшением экологической обстановки, то придется развивать системы предиктивной аналитики для их своевременного предупреждения и предусматривать защиту горожан и города в экстренных ситуациях. В этой области весь комплекс технологий, входящих в понятие «умного» города, чрезвычайно востребован и может вывести заботу об экологии на принципиально новый уровень.

Столица Индонезии Джакарта уже сейчас находится ниже уровня моря и ежегодно опускается еще на несколько сантиметров. Только сложная система водоотведения не дает городу погрузиться под воду, особенно в сезон тропических дождей. Масштабная краудсорсинговая платформа Peta Bencana в режиме реального времени собирает и обрабатывает сообщения от жителей, чтобы предоставлять остальным жителям и властям города информацию о подтоплении районов города.

В Москве многолетняя практика благоустройства (частое скашивание травы, сбор опавшей листвы, обрезка деревьев, выложенные плиткой дорожки вместо тропинок), по мнению биологов, привела к заметному обеднению флоры и фауны, но московские власти с этим не согласны. Система предиктивной аналитики помогла бы городской власти оценить последствия тех или иных решений по благоустройству и скорректировать их.
Mei Lin M., Hidayat R. Jakarta, the fastest-sinking city in the world // BBC News.
Рувинский В. Места лишения природы // Коммерсант.

7.5.3 Основные игроки: граждане, государство, корпорации

Управление «умным» городом предполагает гораздо большее, чем раньше, вовлечение горожан в принятие решений. В то же время обычный горожанин вряд ли разбирается в технологическом обеспечении жизни города, например не знает, как устроены датчики в системе водоснабжения, собирающие данные об авариях. Для принятия компетентных решений необходимо привлекать экспертные группы, которые будут учитывать общественное мнение.

Сотни тысяч москвичей выражают свое мнение в приложении «Активный гражданин», голосования проводятся на разных уровнях — от отдельного дома до всего города. Как элемент цифровой демократии система доказала свою эффективность и востребованность. Однако она может работать эффективно, только пока применяется по назначению. Если же ее возможностями воспользуются недобросовестные люди для манипуляций общественным мнением и формирования «нужного» мнения, например путем подбора определенных вопросов и ответов в голосовании, то система рискует потерять доверие людей. Горожане вернутся к прежнему способу выражения своего мнения: общественные деятели будут собирать данные и подписи жителей районов на бумаге.
В странах Евросоюза местные власти сталкиваются со многими сложностями в развитии «умных» городов: дефицитом специалистов с необходимыми компетенциями (и в целом кадровые ресурсы муниципалитетов ограничены), конфликтом локальных задач с общенациональными фреймворками, нехваткой финансирования и невозможностью изменить порядок сбора и перераспределения налогов. Чем меньше полномочий у регионального центра и города, тем сложнее им внедрять технологии и реализовать идеи «умного» города.
The making of a smart city: policy recommendations // EU Smart City Information System.
Тесное сотрудничество государства с крупным компаниями, например в формате государственно-частного партнерства, позволяет гораздо быстрее реализовать крупные проекты, чем если бы их развитием занимались исключительно государственные органы.

В России «Вымпелком» участвует в строительстве «умного» города в Новосибирске, «Мегафон» — в цифровизации Кронштадта (Санкт-Петербург), «Ростелеком» — в превращении в «умный» города Сатка в Челябинской области.
Большое количество данных обо всех сторонах жизни города и его жителей, включая персональные и другие личные данные, создает огромные возможности для предиктивной аналитики. Это имеет и оборотную сторону: данные о жителях являются ценным активом для дата-корпораций и всех компаний, которые зарабатывают на обработке и продаже данных. Недостаточная защита данных приводит к серьезным утечкам, особенно выгодным мошенникам. Итак, данные могут быть использованы не только для решений во благо жителей, но и для манипуляций.
См.: Этика и «цифра»: Этические проблемы цифровых технологий: в 2 т. М.: РАНХиГС, 2020. Т. 1. Разделы 2 и 5.2.

Жители Торонто (Канада) решили отказаться от помощи Google (точнее, корпорации Aphabet) в превращении своего города в «умный». Причиной стало недоверие жителей к дата-корпорациям из-за многочисленных случаев неэтичного сбора и использования ими данных обычных людей.

7.5.4 Нормативное регулирование «умных» городов

Технологии развиваются столь стремительно, что фактически невозможно предугадать, какое нормативное правовое обеспечение понадобится «умным» городам в ближайшем будущем. Нормативное регулирование зарождающихся и быстро развивающихся отраслей (например, ИИ) требует глубокого знания отрасли и современного состояния технологий, в противном случае появляется риск закрепить в нормативных актах нереалистичные требования, неэффективные способы защиты, оставить без регулирования значимые области и допустить возможности для мошенничества. Нормативное регулирование пока касается применения отдельных технологий и разработки стратегий, проектов, рекомендаций, при этом этическая сторона развития «умных» городов, как правило, не рассматривается.

В Нидерландах развитие идей «умного» города послужило основанием для того, чтобы в 2017 году сформулировать ключевые принципы городского планирования:
  • Сервисы новых «умных» городов должны быть доступны каждому.
  • Люди должны сохранять контроль над собственными данными.
  • Технологии должны подстраиваться под людей.
  • Использование данных в проектах должно быть прозрачным.
  • Горожане имеют возможность повлиять на планирование своего города.
  • Данные, которые производит город, являются общественной собственностью.
Оптимальный вариант — дать отрасли возможность самостоятельно развиваться, анализировать успехи, недостатки, а затем утверждать лучшие практики в качестве нормы. Возможно, тогда будут широко востребованы регулятивные «песочницы». С их помощью удастся быстрее разрабатывать актуальные законы и на практике выявлять подводные камни, в том числе непредвиденные этические проблемы.
Каждому государству или даже каждому «умному» городу придется искать наиболее комфортный и стабильный баланс прав и ограничений. Скорее всего, со временем роль государства в «умном» городе будет постепенно уменьшаться, а участие горожан в управлении городом, наоборот, расти. На другом полюсе — максимальная власть государства, срастание государства с крупным бизнесом и внедрение систем социального рейтинга.

ГуоПин (GuoPing), один из руководителей компании Huawei, считает, что каждый «умный» город проходит четыре этапа трансформации, формируя своеобразную «модель потребностей для развития «умных» городов» (рисунок 27). С 1980 года Шэньчжэнь существует как особая экономическая зона и за 40 лет прошел путь от обычного, ничем не примечательного города до одного из ведущих «умных» городов в мире.
В самом низу находится инфраструктура ИКТ, чтобы обеспечить повсеместное подключение к системе (на этом этапе важны развитие ИИ и сетей 5G, энергоэффективность городских систем). Чуть выше расположены способы обеспечения цифровой и физической безопасности с помощью новых технологий, в частности «умной» слежки и ИИ. Безопасность и стабильность важны не только для горожан, но и для бизнеса. Ближе к вершине помещено сотрудничество публичного и частного секторов в процессе цифровизации. Например, компания Huawei в тесном сотрудничестве с местными властями внедрила в Шэньчжэне «умную» систему контроля дорожного движения.

На вершине пирамиды — собственный цифровой «мозг» города. Эта система будет собирать данные со всего города, от всех городских служб и коммерческих организаций, чтобы использовать их для общественной пользы. В самом Шэньчжэне система только формируется, но уже сегодня координирует данные более чем из 2000 источников (более 4 млрд элементов данных в базе, до 80 млн элементов в день) в реальном времени.
Важно отметить, что ни «умный» город, ни технологии сами по себе не создают указанные выше проблемы, последние возникают только при применении технологий в конкретных проектах и ситуациях. Достаточно вспомнить ядерные технологии, которые можно использовать как для создания ядерной бомбы и убийства миллионов, так и для запуска атомных электростанций и обеспечения миллионов людей электроэнергией.
Ответственность за этичное применение тех или иных технологий во многом возложена на государственных и муниципальных служащих, а именно на тех, кто принимает решения о внедрении одних и ограничении других проектов. В одних случаях этичным окажется использование технологии в конкретной сфере «умного» города, в других — наоборот, отказ от нее или значительное ограничение в использовании (например, отказ от сбора видеоданных о гражданах, пока не будет налажена надежная система защиты и ограничения доступа к собранным данным).