4.3 «Умный» чайник берет верх: этические вызовы интернета вещей
Авторы раздела
Соломатин Е. Б.
Стефановский Д. В.
Время чтения — 9 минут
Этические проблемы порождаются особенностями технологий и устройств ИВ: вездесущностью, неоднозначностью, возможностью идентификации, огромным разнообразием и вместе с тем работой в единой среде. Этика И В технологически и нормативно связана с этикой больших данных, ИИ, «умных» городов. Полноценных документов, посвященных нормативному регулированию ИВ, пока очень мало.
Несмотря на то, что ИВ используется очень широко (как в промышленности, так и частными лицами), данные, полученные с его помощью, востребованы в самых разных сферах (см. разделы 5.2, 5.3), этике ИВ уделяется недостаточно внимания, чаще говорится о последствиях его неэтичного применения. Ключевыми проблемами становятся нарушение конфиденциальности и падение доверия к интернету в целом. С развитием технологий ИВ растет объем генерируемых данных, из-за чего проблема доверия только усугубляется. Пользователю приходится доверять не только интернету, но и устройствам ИВ, подключенным к сети, хотя человек и не уверен, что они не собирают и не передают без его ведома данные о нем.
На основе перечисленных выше аспектов ИВ и докладов Европейской комиссии можно выделить следующие его свойства:
Вездесущность:
Пользователь все больше и больше вовлечен в ИВ, и при этом непонятно, как можно отказаться от использования устройств.
Слабый (прикладной) ИИ
Методы и программные системы, решающие отдельные интеллектуальные задачи. Здесь успехи гораздо более значительны.
Невидимость:
Компьютеры и даже смартфоны, какими мы их знаем, в обозримом будущем исчезнут. Устройства будет все меньше по размеру и менее прослеживаемыми, что позволит избежать проверок, аудита, контроля качества и т. д.
Неоднозначность:
Различие между природными объектами, устройствами и живыми существами будет все менее заметным из-за легкого перехода из одной категории в другую. Таким образом, возникнут серьезные проблемы идентичности объектов и их системных границ.
Идентификация:
Для подключения к ИВ все объекты имеют идентификатор. Доступ к этим «армиям» объектов, управление идентификаторами и их привязкой к человеку представляют большой коммерческий интерес и породят проблемы безопасности и контроля в глобальном мире.
Ультраподключение:
Количество подключений как для объектов, так и для людей увеличится и достигнет беспрецедентных масштабов. Следовательно, количество передаваемых данных будет увеличиваться лавинообразно, и они могут быть использованы злонамеренно.
Автономное и непредсказуемое поведение:
Взаимосвязанные объекты могут спонтанно участвовать в жизни человека, причем неожиданным для пользователей образом. Люди будут частью среды ИВ вместе с устройствами, создавая таким образом гибридные системы с непредсказуемым поведением. Постепенное развитие ИВ приведет к появлению новых форм поведения, причем у пользователей не будет полного понимания среды, в которой они находятся.
Объединенный интеллект: появится возможность рассматривать среду ИВ, виртуальную и дополненную реальность как замену общественной жизни. Виртуальные объекты будут интеллектуальными и динамичными, с меняющимся, непредсказуемым поведением и станут в какой-то мере «расширениями» человеческого разума и тела (рисунок 12).
Объединенный интеллект: появится возможность рассматривать среду ИВ, виртуальную и дополненную реальность как замену общественной жизни. Виртуальные объекты будут интеллектуальными и динамичными, с меняющимся, непредсказуемым поведением и станут в какой-то мере «расширениями» человеческого разума и тела (рисунок 12).
van den Hoven J. Internet of Things Fact sheet Ethics.2013; Artificial Intelligence, Robotics and 'Autonomous' Systems / European Groupon Ethics in Science and New Technologies // European Commission.
Рисунок 12
Особенности ИВ
Особенности ИВ
В силу перечисленных выше характеристик возникают следующие этические проблемы:
Вездесущность:
Стираются границы между публичным и частным пространством. Люди не могут знать, где заканчивается «их» информация и начинается общественная. Согласно отчету Службы специального уполномоченного по работе с информацией (Information Comissioner's Office; независимая британская организация, созданная для
защиты свободы слова), это таит в себе значительные риски: «Развитие технологий, таких как ИВ, вместе с разработками в области анализа больших данных означает, что традиционный сценарий, в котором люди сознательно предоставляют свои личные данные, больше не является единственным или основным способом их сбора. Во многих случаях данные, используемые для аналитики, генерируются автоматически (например, путем отслеживания онлайн-активности), а не сознательно предоставляются отдельными лицами. <…> Конфиденциальная информация может быть предоставлена самим устройством либо через Wi-Fi, либо через QR-код».
защиты свободы слова), это таит в себе значительные риски: «Развитие технологий, таких как ИВ, вместе с разработками в области анализа больших данных означает, что традиционный сценарий, в котором люди сознательно предоставляют свои личные данные, больше не является единственным или основным способом их сбора. Во многих случаях данные, используемые для аналитики, генерируются автоматически (например, путем отслеживания онлайн-активности), а не сознательно предоставляются отдельными лицами. <…> Конфиденциальная информация может быть предоставлена самим устройством либо через Wi-Fi, либо через QR-код».
Владение данными
До какой степени устройство ИВ принадлежит (лояльно) владельцу и производителю? Из-за сложности с идентификацией вещей люди считают, что трудно определить, кто является владельцем данных, полученных ИВ с помощью датчиков и приборов.
Big data, artificial intelligence, machine learning and data protection // Information Comissioner's Office.
Согласно рекламе Amazon, домашняя камера CloudCam будет мониторить дом днем и ночью, и рассматривать видео могут только сами владельцы или люди, которым владельцы открыли доступ. По факту же сотрудники компании в Индии и Румынии могут смотреть отрывки из видеозаписей, чтобы размечать содержание для обучения ИИ. Клиенты не могут знать доподлинно, кто и что смотрел в их записях, а компания не способна гарантировать добросовестность каждого сотрудника.
Безопасность и надежность устройств
Список возможных уязвимостей в ИВ включает все, что угодно: от бытовой техники до больниц, системы светофоров, сетей распределения продуктов питания, транспортных систем и т. д. Любой объект, подключенный к интернету, фактически точка входа, через которую можно проникнуть во внутреннюю систему управления государства, компании, дома, что дает возможности для взломов, утечек и мошенничества.
Скандально известны «умные» звонки с камерами Ring, почти 500 тыс. которых установлены в США. Компания Amazon рекламирует их как идеальную защиту от похитителей посылок, грабителей и убийц. Среди скандалов, связанных с сервисом Ring, — расширенный доступ полиции к данным камер, поощрение граждан доносить на соседей, создание «черных списков» для идентификации нежелательных лиц, открытый доступ к геоданным владельцев камер и в целом создание масштабной системы слежки за гражданами (и граждан друг за другом), механизм которой не раскрывается.
Однако примечательно, что прямой функции защиты владельцев камеры не выполняют: хакеры удаленно взламывали систему и неоднократно выходили на связь с владельцами устройств, установленных в доме. Они пугали детей, выкрикивали расистские оскорбления, будили спящих и даже просили выкуп в биткоинах.
Однако примечательно, что прямой функции защиты владельцев камеры не выполняют: хакеры удаленно взламывали систему и неоднократно выходили на связь с владельцами устройств, установленных в доме. Они пугали детей, выкрикивали расистские оскорбления, будили спящих и даже просили выкуп в биткоинах.
Приватность:
В отношении ИВ проблемы приватности и защиты данных граждан оказываются еще более критичными, так как возникает риск утраты максимально чувствительных данных, начиная от подробностей личной жизни и заканчивая данными о работе организма и мозга человека. Тут же возникает и проблема скрытого сбора данных, которые «могут быть использованы против вас». Насколько этично использовать данные, добровольно или неосознанно предоставленные устройствам ИВ частными лицами, в государственных целях?
Устройства И В передают огромное количество данных сторонним компаниям, что официально подтвердилось в самом масштабном исследовании за последнее время.
Для эксперимента исследователи взяли 80 популярных девайсов, включая «умные» телевизоры, голосовые помощники и умные камеры. Выяснилось, что почти 90% электроники передает информацию третьим лицам. Устройства передают IP- и MAC-адреса, данные о геолокации и паттернах поведения пользователя. Разоблачить компании не так просто — они умело шифруют сведения, так что даже специалистам сложно понять, кому и что отправляет «умный» телевизор или «умная» колонка. Устройства, оснащенные микрофонами и камерами, часто делают записи незаметно.
Для эксперимента исследователи взяли 80 популярных девайсов, включая «умные» телевизоры, голосовые помощники и умные камеры. Выяснилось, что почти 90% электроники передает информацию третьим лицам. Устройства передают IP- и MAC-адреса, данные о геолокации и паттернах поведения пользователя. Разоблачить компании не так просто — они умело шифруют сведения, так что даже специалистам сложно понять, кому и что отправляет «умный» телевизор или «умная» колонка. Устройства, оснащенные микрофонами и камерами, часто делают записи незаметно.
Biddle S. Amazon's ring planned neighborhood "watch lists" built on facial recognition // The Intercept.
Cox J., Cole S. How Hackers Are Breaking Into Ring Cameras // Vice.
Ren J.,Dubois D. J., Choffnes D. et al. Information Exposure From Consumer IoT Devices // Mon(ito)r research group.
Промышленный интернет вещей // TAdviser.
Abo Bakr A., Azer M. IoT ethics challenges and legal issues // 12th International Conference on Computer Engineering and Systems (ICCES). 2017. Dec.
Государство как платформа: люди и технологии / РАНХиГС. М., 2019.
Помимо И В устройств для личного использования, которые вызывает наибольшее число этических вопросов, сегодня существуют также промышленный ИВ, ИВ в торговле и на транспорте. С ними связаны в основном проблемы приватности и сохранности личных данных: контроль на рабочем месте, в дороге, в магазине имеет свои плюсы и минусы.
Слежка за пользователями
Все устройства вокруг нас собирают персональные данные (речь не о имени и фамилии, а о цифровом следе). Благодаря датчикам скорости, температуры, позиционирования в смартфонах мобильные операторы знают не только, кому мы звоним, что покупаем, какие сайты посещаем в интернете, но и куда мы ходим. Если работодатель может технически отследить поведение сотрудника через приложение на его смартфоне, возникают юридические и этические вопросы. Можно ли наказать сотрудника за нарушение корпоративных процедур на основании подобных данных? Нужно ли информировать сотрудников, что за ними следят?
Идентификация пользователя
Как правило, устройство ИВ и связанное с ним приложение требуют регистрации. Предоставляемые при этом данные и сведения, собранные самими приложениями, в сумме составляют полноценный цифровой портрет человека, «слепок» его личности. Что будет, если эта информация окажется не в тех руках? Не все устройства ИВ взаимодействуют с пользователем на основании какого-либо согласия: «Интернет вещей как технология, позволяющая организовать взаимодействие устройств, окружающих человека и встроенных в среду, не требует участия и подтверждения их действий от самого человека. Это приводит к возникновению рисков, которые требуют тщательного исследования».
Осведомленность пользователей о рисках/ограничениях технологий
Массовый пользователь сегодня не успевает за развитием технологий. В результате люди нередко дают согласие на те или иные операции, не имея четкого представления об их содержании.
Цифровой разрыв
В ИВ цифровой разрыв увеличивается за счет роста цифрового неравенства между специалистами и начинающими пользователями, а также из-за недоступности тех или иных технологий для социально незащищенных граждан.