3.3 Этичное применение искусственного интеллекта

Проблема ответственности за действия систем ИИ ― начиная от беспилотного автомобиля и заканчивая гипотетическими системами принятия решений планетарного масштаба ― самая обсуждаемая, когда речь идет о применения ИИ. Проблема ответственности появляется в тех областях доверия, где человеку приходится полагаться на действия системы ИИ, имеются в виду автомобильный транспорт, фармацевтика, медицина, образование и т. д. По словам основателя проекта «Робоправо» А. В. Незнамова, на это есть ряд причин: «Во-первых, институты ответственности могут иметь отдельные нюансы для разных категорий роботов в зависимости от степени их общественной опасности, контролируемости или способности к обучению. Во-вторых, в ряде случаев, в принципе, трудно восстановить фактические обстоятельства причинения вреда. В-третьих, одна и та же ситуация может получить разное решение с точки зрения конкретной юрисдикции. Поэтому национальные особенности конкретной правовой системы часто не позволяют учитывать существующий опыт других стран».

При обсуждении высказываются различные подходы к принципам установления ответственности за действия ИИ, в том числе:

• полное освобождение кого-либо от ответственности за действия ИИ (по аналогии с обстоятельствами непреодолимой силы);
• частичное освобождение от ответственности (освобождение конкретного лица от какой-либо ответственности и одновременная выплата пострадавшим компенсации вреда из различных источников);
• ответственность по вине, наступающая только в зависимости от вины конкретного субъекта, например производителя, разработчика, лица, ответственного за обучение ИИ, владельца, пользователя и т. д.;
• безвиновная ответственность (определенное лицо (скорее всего, производитель) по общему правилу считается ответственным за действия системы ИИ);
• личная ответственность роботов при условии наделения роботов правосубъектностью (правами и обязанностями, статусом электронной личности).

Так как тема остается дискуссионной и ученые и разработчики, вероятно, не скоро придут к единому решению, в данном докладе мы представляем разные точки зрения по вопросу ответственности ИИ.

Системы И И, способные самообучаться, совершенствоваться и развиваться, становятся все сложнее. Одним из наиболее значительных становится вопрос, как именно конкретная система ИИ приняла решение, поскольку она делает это в результате работы очень большого и очень сложного алгоритма. Действия И И должны быть прозрачными для широкого круга заинтересованных сторон по ряду причин:

Принцип прозрачности ИИ, как и ряд других этических принципов (см. раздел 3.9), заложен и в российскую Национальную стратегию развития искусственного интеллекта на период до 2030 года: «…Алгоритмы работы нейронных сетей крайне сложны для интерпретации, и, следовательно, результаты их работы могут быть подвергнуты сомнению и отменены человеком. Отсутствие понимания того, как искусственный интеллект достигает результатов, является одной из причин низкого уровня доверия к современным технологиям искусственного интеллекта и может стать препятствием для их развития».

Отметим, однако, что прозрачность ИИ не может быть абсолютной. Существуют И С различных типов, и в зависимости от последних меняются критерии прозрачности. Степень прозрачности одной и той же системы может различаться с точки зрения функционала, целевой аудитории и т. д. Также алгоритм может быть прозрачным для одних (например, для разработчиков системы скоринга), но непрозрачным и непонятным для других (в случае со скорингом — для клиентов банка и даже его менеджмента, не имеющего специальных знаний).

Как и другая интеллектуальная собственность, уникальные алгоритмы, созданные разработчиками, не должны быть раскрыты полностью (кроме открытого кода или отдельных случаев, оговоренных договором на разработку). Соответственно, объяснительная компонента ИС должна работать таким образом, чтобы показывать ход работы системы, не раскрывая всей «механики» ее функционирования. Наличие объяснительной компоненты — неотъемлемое свойство системы ИИ, в противном случае доверие к ней и, следовательно, ее ценность ставятся под сомнение. Экспертная система должна уметь предъявить пользователю всю цепочку рассуждений, система интеллектуального анализа данных — выдать сформированные ей гипотезы в явном, понятном человеку виде; система, доказывающая теоремы, ― показать всю цепь вывода.

У ИИ на основе нейронных сетей объяснительная компонента пока не реализована технически, и такая система представляет собой «черный ящик». С одной стороны, большинство практических применений ИИ ― это действительно нейронные сети, но разрабатываемые ИС не ограничиваются только нейронными сетями. С другой стороны, при наличии соответствующих стандартов и других аспектов регулирования такие компоненты могут быть разработаны и для нейронных сетей.

Проблема предвзятости систем ИИ в целом и программ-советчиков в частности — одна из наиболее критических при применении ИИ. Незаметные на первый взгляд предубеждения и предположения могут скрываться в данных, на их основе строятся системы, которые наследуют и то и другое, что влияет на объективность системы и делает принятые ею решения предвзятыми. В итоге ИИ может иметь серьезные «слепые пятна» и выдавать рекомендации или совершать действия, которые только укрепляют и воспроизводят эти предубеждения. Справедливость алгоритмов ― это одно из важнейших направлений в создании этичного ИИ.

ИИ может помочь уменьшить предвзятость. Как показывают исследования, алгоритмы способны помочь уменьшить расовое неравенство в системе уголовного правосудия. Аналогично автоматизированные системы финансового андеррайтинга могут быть полезны для заявителей с недооцененной кредитной историей. Наконец, в отличие от человеческих, решения, принимаемые ИИ, в принципе, могут быть раскрыты, исследованы и детально проверены.

Создание справедливого непредвзятого ИИ ― тема многочисленных дискуссий, исследований, стандартизации и т. д. Рассмотрим кратко основные возможности. Первая ― это выявление и уменьшение влияния человеческих предубеждений.

Вторая возможность — совершенствование самих систем ИИ, начиная от способов использования данных и заканчивая процессами разработки, внедрения и применения, чтобы предотвратить закрепление индивидуальных и общественных предубеждений или возникновение предвзятости и связанных с ней проблем. Междисциплинарное сотрудничество призвано обеспечить дальнейшую разработку и внедрение технических усовершенствований, методов работы и этических стандартов (см. разделы 3.5 и 3.8).

Для того чтобы система ИИ была справедливой, необходимо исключить предвзятость и предубеждения в исходных данных, на которых ИИ обучается. Как показывает практика, даже при тщательной подготовке данных это не всегда возможно.

Предвзятость может быть не только естественной, образовавшейся случайно из-за особенностей входящих данных, но и искусственной, заложенной намеренно, например в виде предпочтения интересов неких третьих лиц. Примером подобной предвзятости может служить небольшое намеренное изменение маршрута пользователя на карте в навигационной системе, чтобы он проехал или прошел мимо определенной точки, например магазина, заказавшего рекламу.

Наконец, алгоритм машинного обучения может выявить статистические корреляции, которые социально неприемлемы или незаконны. Например, модель ипотечного кредитования обнаруживает, что у пожилых людей выше вероятность не соблюсти график платежей, на этом основании сокращает объем кредитования в зависимости от возраста. Общество и правовые институты могут считать это незаконной дискриминацией по возрасту.

Важной составляющей справедливости систем ИИ является непосредственное участие человека. Хотя статистические показатели справедливости, безусловно, полезны, но они не могут учитывать нюансы социальных условий, в которых развертывается система ИИ, и потенциальные проблемы, связанные, например, со сбором данных. Предстоит ответить на вопросы:

Данные вопросы ни один алгоритм оптимизации не может решить самостоятельно, и их нельзя доверить ни одной машине. Они требуют человеческого суждения и осмысления с опорой на множество дисциплин, включая гуманитарные науки, особенно социальные науки, право и этику. Эта работа только начинается. Институт McKinsey дает верхнеуровневые рекомендации по работе с ИИ для снижения предвзятости (рисунок 5), они адресованы практическим специалистам по ИИ и руководителям.

Предвзятое принятие решений людьми или машинами не только приводит к разрушительным последствиям для людей, подвергающихся дискриминации, но и наносит ущерб всем гражданам и государству в целом, необоснованно ограничивая возможности отдельных лиц участвовать и вносить свой вклад в развитие экономики и общества. Кроме того, минимизация предвзятости в системах ИИ критична, в противном случае люди не смогут доверять этим системам. Последнее необходимо, чтобы ИИ смог реализовать свой потенциал для государства, для экономики посредством увеличения производительности и для общества благодаря вкладу в решение насущных социальных проблем.

Проблемы безопасности и надежности ИИ, далекие от этики на первый взгляд, все же имеют непосредственное отношение к ней и заслуживают рассмотрения в нескольких аспектах. Первый аспект, сугубо технический, касается надежности и безопасности технических (программно-технических) систем вообще. В обычных системах существует не меньший риск ошибок и технических сбоев, чем в интеллектуальных, поэтому этот аспект не является специфичным для ИИ. Ошибка в ПО (не интеллектуальном) системы управления ядерным реактором, скорее всего, гораздо опаснее по сравнению с ошибками в ИИ для выдачи потребительского кредита.

Второй аспект касается самой сути работы ИС. Поскольку И И занимается решением слабо формализуемых задач, используя различного рода эвристики (сложно доказать корректность правил, но на практике они дают приемлемые результаты), правдоподобные рассуждения и тому подобные механизмы, зачастую от систем ИИ и не ждут оптимального, единственно верного решения, обходясь решением «субоптимальным», «разумным», «пригодным». Именно для проверки корректности, контроля требуется объяснительная компонента, о которой говорилось выше. Здесь проблема надежности пересекается с проблемой прозрачности ИИ.

Когда прозрачная система ИИ начинает работать неправильно, ненадежно, разработчики могут быстро найти причину ошибки. В непрозрачную систему с «черным ящиком» можно скрыто внести изменения, так что она будет достаточно долго принимать решения по-новому, не вызывая подозрений, и на выявление ошибки (изменения) потребуется гораздо больше усилий и времени.

Третьим аспектом можно назвать проблему программы-советчика («опыт оператора»), которая имеет непосредственное отношение к этике. Проблема актуальна не только для ИС, но именно с началом их применения она выходит на новый уровень. Экспериментальные исследования показывают, что в условиях неопределенности и дефицита времени у людей возникает сверхдоверие к системам ИИ и роботам: люди склонны более доверять системе, чем себе. Доверие к ИИ возрастает, если программа комментирует свои действия. Целиком полагаясь на систему ИИ, человек реже принимает решения самостоятельно и осознанно, что способствует как риску ошибок, так и потере квалификации. Для владельцев ИС существует соблазн нанять менее квалифицированного специалиста и предложить ему зарплату поскромнее. Поэтому важно, чтобы на опасных производствах, в медицине, образовании специалисты сохраняли стабильно высокий уровень квалификации. Нельзя снижать уровень образования оператора опасного производства или врача, так чтобы он только знал, как работать с системой и какие кнопки нажимать. Напротив, каждый из них должен детально понимать свою область. Какой бы умной и интеллектуальной система ни была, второй уровень человеческого контроля нужен, и соответствующих специалистов надо готовить максимально качественно.

Стандартизация призвана повысить надежность систем, поставить минимальный уровень, находясь ниже которого, система не может считаться надежной. В то же время эта планка не должна быть превышать возможности сегодняшних технологий, чтобы разработчики не были ограничены в процессе создания новых прорывных решений и не уводили часть технологий с легального рынка.

Алгоритмы И И способны получать новую персональную информацию о людях путем анализа больших данных, извлекать ее из метаданных (см. раздел 5.2). Собирая все больше данных о человеке в цифровом профиле, владелец алгоритма ― компания, государственная организация, органы полиции и т. д. ― может с высокой степенью точности предсказать, что дальше будет посещать и слушать данный пользователь, за кого он склонен проголосовать, с помощью чего можно им манипулировать и многое другое. Рассказывая о своих вкусах, предпочтениях, местах и сайтах, где они бывали, люди не задумываются о том, что когда-то (возможно, через годы) кто-то воспользуется этой информацией, чтобы сделать статистические срезы, выборки и т. д. (см. раздел 5.1.1).

Уже сегодня государству и обществу вольно или невольно придется сформировать свое отношение к допустимому уровню обработке таких данных. Один из подходов к решению проблем приватности, прозрачности и справедливости ИИ — это создание стандартов на разработку этически ориентированных ИС (см. раздел 3.5).