7 Робот-учитель, робот-врач, робот-полицейский: отраслевая этика в контексте цифровых технологий
Давайте признаемся: мы ошиблись, нельзя механизмами лечить недуги человечества. Попробуем начать сызнова. Машины нужны, спору нет, но в судьи, учителя и наставники они нам не годятся.

Р. Шекли. Страж-птица

7.1 Этика цифровых технологий в образовании

Автор раздела
Ткачева К. А.

Время чтения — 17 минут
Ближайшее десятилетие будет связано с глобальными изменениями в образовании. Внедрение цифровых технологий не только преобразует сам процесс, но и формирует новые требования к результатам образования, к компетенциям и навыкам, необходимым для жизни в новом, цифровом, мире. Эти изменения сопровождаются специфическими этическими проблемами.

В этике образования выделяются три основных направления:
  • этика как предмет, который преподают;
  • этика как принципы, которые заложены в основу системы образования;
  • профессиональная этика преподавателей.
Апресян Р. Г. Этика в высшем образовании // Ведомости прикладной этики. Вып. 26: Этика образования. Тюмень: ТюмГНГУ, 2005

7.1.1 Нужно ли преподавать этику разработчикам?

Этика как обязательный предмет изучается, как правило, на философских факультетах. Студентам некоторых специальностей преподают профессиональную этику, например деонтологию в медицинских вузах или этику работы психолога. Для остальных специальностей этика остается разделом философии и не имеет прикладного значения. Таким образом, в традиционной системе профессионального обучения будущие инженеры, специалисты по цифровым технологиям, государственные служащие не получают профессиональной подготовки в сфере этики.
Должно ли это оставаться неизменным в эпоху, когда почти во все сферы деятельности внедряются цифровые технологии, влияющие на традиционные этические нормы (например, видеонаблюдение, сбор персональных данных (ПД), скоринг и т.д.)? Ситуация с соблюдением этических норм в цифровую эпоху становится критичной и вызывает ответную реакцию: появляются этические кодексы и стандарты, этику конкретных профессий начинают регулировать на законодательном уровне. Люди постепенно осознают, что этические вопросы надо решать не после того, как технология уже разработана, а еще на этапе проектирования цифровых решений.
Скорее всего, прикладную этику технологий следует вводить в образование как часть учебной программы. Возможны два варианта позитивного развития ситуации:
1
Концепция профессиональной этики разрабатывается на государственном уровне, закрепляется в нормативных актах и закладывается в образовательные программы в виде стандарта, которому надо обязательно следовать.
2
Учебные программы содержат общие знания и разные трактовки цифровой этики, студентам надлежит иметь представление о ней, но следовать или нет конкретным этическим принципам в профессиональной деятельности — их личный выбор.

Российский университет дружбы народов самостоятельно разработал дисциплину «Профессиональная этика» (2018). Курс содержит видеолекции, семинары, тесты. Студенты могут самостоятельно планировать работу над курсом, а преподаватели — обновлять курс в процессе обучения.
Мухаметжанова В. С. Педагогическая деятельность в условиях информационного общества // Научно-технический прогресс и этическая парадигма XXI века / В. А. Цвык и др. М.: РУДН, 2018. С. 86–92.
Не исключен и третий, негативный, вариант — этика так и останется частью философии и не будет восприниматься как необходимая профессиональная компетенция.
Важно, чтобы этическая основа цифровых решений была понятна не только проектировщикам, но и гражданам, которые будут пользоваться этими решениями. Основы этики цифровых технологий желательно преподавать уже в школе. Тогда школьник будет понимать, как риски, возможные в цифровой среде, и свои права в отношении технологий (например, права на приватность и защиту своих ПД), так и этические нормы различных профессий.

Одна из тенденций развития цифровой экономики — изменение рынка труда. Некоторые традиционные профессии исчезают, другие появляются. В последнее время резко возрастает потребность в ИТ-кадрах. На форуме «Цифровая экономика. Вызовы глобальной трансформации» (2017) было отмечено, что в России ИТ-специалисты составляют примерно 1,5 % от всех работающих, в развитых странах — от 3 до 5 %. Согласно исследованию IDC и Microsoft (ноябрь 2019 года), только 3,5% сотрудников ИТ-компаний России и Европы полностью соответствуют современным требованиям. Больше всего (35%) не хватает квалифицированных ИТ-специалистов в компаниях, внедряющих облачные технологии.
Пока еще рано говорить о сформированных подходах к преподаванию этики, но эти вопросы нужно обсуждать на самых разных уровнях.

7.1.2 Этические проблемы цифрового образования

Когда говорят об этике образования, в частности высшего, как правило, подразумевают:
  • базовые этические принципы, которые лежат в основе системы образования;
  • практические этические принципы, сформулированные в каких-либо документах, например в этическом кодексе вуза;
  • профессиональную этику педагога.
Все названные «типы» этики развиваются давно и независимо от цифрового прогресса. Однако внедрение в обучение цифровых технологий, их использование участниками учебного процесса за стенами вуза порождают новые проблемы.
Этические кодексы есть во многих западных университетах и в некоторых российских. Они регулируют нормы поведения студентов и преподавателей, их взаимоотношения в ходе учебного процесса и за его пределами. «Объектом» применения этики являются такие проблемы, как взятки преподавателям, гендерное неравенство, фаворитизм, плагиат и т.д. К этическим принципам относится, например, доступность образования, этические ценности, которые непосредственно транслируются в учебном процессе.

Цифровизация образования в России и мире // Аккредитация в образовании. 2017. № 98.

Новая этическая проблема — присутствие педагогов и студентов в социальных сетях и мессенджерах. Известны многочисленные случаи преследования преподавателей за размещение излишне откровенных фотографий на своих страницах в соцсетях. Летом 2019 года Минпросвещения подготовило и направило в регионы «Примерное положение о нормах профессиональной этики педагогических работников». Документ впервые содержит нормы поведения педагогов в интернете.
Письмо Министерства просвещения РФ и Профессионального союза работников народного образования и науки РФ от 20.08.2019 № ИП-941/06/484 «О примерном положении о нормах профессиональной этики педагогических работников» // Гарант.
Внедрение цифровых технологий в образование сказывается на традиционных этических проблемах образования и привносит новые, специфические, связанные с дистанционными технологиями, с обработкой ПД учащихся, с использованием сведений об успеваемости и т.п.
Новые этические проблемы порождаются различными новыми трендами в образовании. Сегодня наиболее значимыми являются персонализация и адаптивный подход, дистанционные технологии, предиктивная аналитика (рисунок 22).
Рисунок 22
Глобальные тренды развития цифровых технологий в образовании
Образование в цифрах: краткий статистический сборник. М., 2019 // НИУ «Высшая школа экономики».
Индикаторы образования: 2017: стат. сб. // НИУ «Высшая школа экономики».
Наряду с очевидными достоинствами названные тренды могут служить источниками определенных этических проблем.
Дистанционные технологии. С одной стороны, дистанционные технологии повышают доступность образования. Для людей с ОВЗ, лиц, живущих в отдаленных местностях, граждан, желающих получить образование в другой стране, дистанционные технологии открывают доступ к обучению на качественно новом уровне. При этом по востребованности дистанционное образование уступает очному. Сравнительные исследования не доказали, что онлайн-курс лучше смешанного или только очного формата. Пока не решена проблема мотивации: взрослый человек, заинтересованный в получении нужных компетенций, скорее всего, пройдет программу полностью, но дети школьного возраста сделают это с меньшей вероятностью.
С другой стороны, развитие дистанционного обучения для школьников и дошкольников усугубляет риск их зависимости от гаджетов. Насколько безопасно для детей погружение в цифровую среду? Этот вопрос беспокоит и учителей, и родителей, и общественность. Перед новым 2019/2020 учебным годом Роспотребнадзор разослал в регионы «Методические рекомендации об использовании устройств мобильной связи в общеобразовательных организациях». Документ содержит ссылки на международные исследования, согласно которым раннее и длительное использование мобильных телефонов ведет к когнитивным нарушениям: повышенной раздражительности, снижению долговременной памяти, умственной работоспособности и внимания, что может повлиять на психическое и физическое развитие ребенка. Озабоченность психическим и физическим здоровьем детей в связи с использованием гаджетов высказывается в США, Германии, Франции, Турции. Вместе с тем есть данные о положительном влиянии систем ИИ на обучение детей с аутизмом. В целом эта проблема еще слабо изучена.
Богданова М. Как гаджеты меняют мозг детей // Нейроновости.
Öztürk K. Torunlarımızdijitalköleolabilir // YeniSafak.
Таким образом, недостаточно обеспеченный человек, у которого нет денег, чтобы заплатить за очную лекцию преподавателя, будет вынужден смотреть онлайн-курсы, рассчитанные на максимально широкий круг слушателей, и уже не сможет рассчитывать на высокий уровень образования.
Персонализация и адаптивный подход при использовании цифровых технологий позволяют проанализировать психологические особенности обучаемого и предложить тот учебный материал и в том формате, который оптимально подходит ему. Это не только в разы повышает качество образования, но и снижает риск дискриминации, существующий в современной системе очного образования, когда школьники и студенты со способностями, которые не достигают или существенно превышают средний уровень, оказываются в худшем положении по сравнению с остальными. Адаптивный подход должен стать следующим шагом в развитии не только дистанционного, но и очного образования.

В Китае насчитывается 238 млн детей и молодых людей (от дошкольников до студентов), страна представляет собой крупнейший в мире рынок образования, в том числе цифрового. По сравнению с 2018 годом в 2019 году на 10,7% увеличилось число лиц (172 млн), обучающихся онлайн, на 19,6% — количество тех, кто учится онлайн (142 млн). Крупнейшая китайская компания Squirrel AI learning, развивающая технологии ИИ в образовании, варьирует содержание учебных курсов для обеспечения адаптивного подхода. Образовательная система на основе ИИ предлагает студенту те задания, которые соответствуют его уровню, обеспечивают плавный прогресс и поддерживают его уверенность в своих силах.
Переход на индивидуальные образовательные траектории — это пока задача будущего. Сейчас наиболее эффективно смешанное обучение, комбинация офлайн- и онлайн-элементов. Например, подход «перевернутый класс» предполагает, что ученик самостоятельно прорабатывает материал перед уроком: читает, смотрит видео, проходит тесты, — а на урок приходит для того, чтобы учитель объяснил ему то, что осталось непонятно. Преподаватель выступает как уникальный носитель знаний, который обеспечивает индивидуальный подход к каждому.

В докладе Правительства РФ Федеральному собранию о реализации государственной политики в сфере образования (2019) поставлена задача сделать варианты заданий ЕГЭ и ОГЭ индивидуальными. Технология будет реализована на основе ИИ, таким образом экзамен станет персонифицированным.
Адаптивный подход тесно связан с проблемой доступности образования. Уравнительный подход к ученикам обесценивает доступность: даже если каждый может и должен учиться в школе, нет гарантии, что он приобретет необходимые знания. И простой перевод очного образования в онлайн эту проблему не решит, ведь существует еще проблема доступа к самим технологиям (см. раздел 6.2).
Еще одной этической проблемой являются сбор и обработка данных учащихся, с тем чтобы создать индивидуальный профиль обучения. Проблема не уникальна для сферы образования, а имеет место во всех отраслях, где используются цифровые технологии. В международном праве и в практике данные детей и студентов традиционно подлежат особой защите, поскольку они рассматриваются как уязвимая группа (вплоть до того, что для их защиты создают отдельные этические стандарты). Именно с такими данными обычно работают образовательные учреждения. Чтобы предлагать наиболее эффективные решения по адаптации образования и созданию персонализированного курса обучения, нужно собирать данные об обучающихся и определенным образом их использовать.

В средней школе № 11 города Ханчжоу (Китай) установлена система «"Умный" глаз» для распознавания лиц учеников. Три камеры, расположенные над доской, наблюдают за классом. Компьютер различает на лице семь разных эмоциональных выражений, например счастливое, грустное, разочарованное, испуганное. Если выражение лица ученика изменилось, система может оценить это как ослабление внимания и немедленно отправляет сообщение учителю. Степень концентрации ученика влияет на его рейтинг.
На чаше весов здесь, с одной стороны, полнота сведений о школьнике или студенте, позволяющая обеспечить содержание и формат обучения, максимально подходящие именно ему, а с другой — накопление чувствительных данных об ученике в учебном учреждении. Имеются в виду когнитивные способности, отношение к учебе, социальные связи, результаты анализа его успеваемости, вплоть до прогнозов о его возможной карьере. У учащегося и/или его законных представителей есть право не делиться этими данными со школой или вузом, но в этом случае персонализированное обучение невозможно.
Гипотетически можно прибегнуть к следующему варианту: сохраняется неадаптированный усредненный вариант программы, и учащиеся, которые не готовы предоставить все данные о себе, учатся по нему, а те, кто, напротив, заинтересован в максимально эффективном обучении, соглашаются на сбор и обработку всех данных. В любом случае важны возможность отказаться от сбора данных и информированность обо всех аспектах сбора данных, включая последствия такого отказа.
Предиктивная аналитика в образовании связана как с созданием персонализированных образовательных траекторий, так и с рекомендациями о том, какая специальность и карьера больше подойдут тому ли иному человеку. Долгосрочные прогнозы, как и любые рекомендации по выбору профессии, сопряжены с определенными этическими проблемами. С одной стороны, сложности возникают из-за того, что между обучением и проверкой его эффективности проходит много времени. Например, у младшего школьника могут выявить наличие или недостаток каких-то способностей и выбрать для него соответствующую образовательную траекторию. С годами эти способности могут развиться или угаснуть, да и требования к профессии изменятся, но ребенок уже получил более «узкое» или профильное образование, чем мог бы в другой ситуации. С другой стороны, тут возникает известная проблема «nudging», когда алгоритмы и цифровые технологии подталкивают пользователя к определенному поведению, ограничивая его свободу воли. В отношении обучения это усугубляется тем, что прогноз может повлиять на самооценку и мотивацию школьника или студента, ухудшить развитие волевых качеств: учащийся не сам решает, что он хочет и что он будет изучать, а вынужден следовать указаниям аналитической системы.

Планируется, что уже в 2021 году в нескольких российских вузах будет запущен сервис оценки цифрового следа студента — его успеваемости, поведения и участия в общественной жизни. Система ИИ предложит руководству вуза рекомендации: отчислить студента с низкой успеваемостью или направить на дополнительные курсы.
Кроме того, если в целях предиктивной аналитики собираются данные обо всех достижениях учащегося, то эти данные могут попасть к работодателю, который использует их при поиске сотрудника на вакансию.

Этическая проблема несанкционированного использования ПД в сфере профессионального образования может приобретать зловещий оттенок «торговли» специалистами. Например, некоторые владельцы образовательных курсов с массовым интерактивным участием, с применением технологий электронного обучения и открытым доступом черед интернет (англ. massive open online course) готовы продавать сведения о лицах, зачисленных на курс, и рассматривают эту практику как способ получения дополнительного дохода.
Предиктивная аналитика не должна навешивать ярлыки. Если человек плохо учился в школе, это не значит, что он недостоин получить высшее образование или хорошую работу. Со временем человек может измениться, и тянущийся с детства цифровой след — это сомнительная ценность. Тестируя способности человека, система образования должна помогать совершенствовать их, выравнивать баланс, давать еще больше возможностей, а не ограничивать развитие.
Помимо указанных трендов, в современном образовании есть общие этические проблемы, характерные и для других областей и отличающиеся остротой, так как речь идет о детях и юношестве. Это в первую очередь проблемы, связанные со сбором данных, потерей приватности, видеонаблюдением и т.д. Уже накоплены примеры неэтичного сбора данных в школах и вузах. Выдвинут ряд инициатив, связанных со сбором данных, они находятся на стадии тестирования и тоже могут вызвать со временем вопросы этики, как, например, перспективы использования системы распознавания лиц во время ЕГЭ.
Таким образом, цифровая экономика ставит перед образованием сложные этические проблемы, связанные с использованием цифровых технологий в процессе обучения, а также с их влиянием на развитие способностей и карьеру человека. Большинство этих проблем пока не имеет однозначного решения. Очевидно, с одной стороны, что внедрение прорывных технологий в инерционную по своей природе систему образования должно проводиться с большой осторожностью, а с другой — что эти изменения необходимы и неизбежны.
В некоторых подмосковных школах сотрудники университета «Синергия» под видом обязательной процедуры собирали биометрические данные школьников — их отпечатки пальцев. Предварительного согласия родителей «Синергия» не получала, а результаты анализа отпечатков (кстати, с применением лженауки дерматоглифики) предлагались родителям за дополнительную плату. См.: Миронова К., Горячева В. В погоне за дешевой папиллярностью // Коммерсант.