Следующий месяц, Apple и Google представит функции, позволяющие отслеживать контакты на iOS и Android, чтобы выявлять людей, которые имели контакт с кем-то, кто дал положительный результат на новый COVID-19.
Эксперты по безопасности быстро указали на возможные опасности, включая риски для конфиденциальности, такие как раскрытие личности пользователей, инфицированных COVID-19, помощь рекламодателям в их отслеживании или попадание в жертву ложных срабатываний троллей.
Это свежие проблемы в знакомых дебатах об этике технологий. Как технологи должны думать о компромиссе между насущной потребностью в надзоре за здоровьем населения и личной неприкосновенностью? А уродство и свобода слова? Facebook и другие платформы играют гораздо более активную роль, чем когда-либо, в оценке качества информации: популяризация официальных источников информации и удаление некоторых сообщений от пользователей, игнорирующих социальное дистанцирование.
По мере распространения эпидемии и, вместе с этим, гонки за развитием новых технологий ускоряется, как никогда важно, чтобы технология нашла способ полностью изучить эти вопросы. Сегодня технологи плохо подготовлены для решения этой задачи: достижения здорового баланса между конкурирующими проблемами, такими как конфиденциальность и безопасность, и объяснения своего подхода к публике.
В течение последних нескольких лет ученые работали над тем, чтобы дать учащимся способы решения проблем, связанных с этическими дилеммами. В прошлом году Стэнфорд объявил о новом (и теперь популярном) курсе бакалавриата «Этика, государственная политика и технологические изменения», который преподают преподаватели философии, а также политических и компьютерных наук. Гарвард, Массачусетский технологический институт, Остин и другие проводят подобные курсы.
Если только студенты будущее Технологи, однако, решения будут отставать. Если мы хотим создать более технологически грамотную индустрию сегодня, нам нужно этическое изучение технологий практики, не только студенты университета.
Чтобы расширить это обучение для технических специалистов, наш венчурный фонд Bloomberg Beta согласился принять у себя тот же Стэнфордский факультет для эксперимента. Основываясь на их курсе бакалавриата, можем ли мы разработать образовательный опыт для пожилых людей, работающих в техническом секторе? Мы адаптировали содержание (включая реальные дилеммы), структуру и расположение класса, создав шестинедельный вечерний курс в Сан-Франциско. Через неделю после объявления о курсе мы получили вдвое больше заявок, чем могли вместить.
Мы выбрали разнообразную группу студентов всеми возможными способами, которые все несут ответственность за технологии. Они сказали нам, что когда они сталкивались с этической дилеммой на работе, им не хватало сообщества, к которому можно было бы обратиться – некоторые доверяли друзьям или семье, другие рассказывали, что искали ответы в Интернете. Многие боялись свободно говорить в своих компаниях. Несмотря на ряд инициатив по этике, возглавляемых компанией, в том числе стоит назначить главных сотрудников по этике и Microsoft и принципы IBM в отношении этического ИИ, ученики нашего класса сказали нам, что у них нет места для открытых и честных бесед о поведении технологии.
Если мы хотим создать более технологически грамотную индустрию сегодня, нам нужно этическое обучение для практиков, а не только для студентов университетов.
Как и студенты, наши студенты хотели учиться у ученых и лидеров отрасли. Каждую неделю присутствовали такие эксперты, как Мариэт Шааке, бывший член Европейского парламента из Нидерландов, которые обсуждали реальные проблемы, от конфиденциальности данных до политической рекламы. Профессора способствовали дискуссиям, побуждая наших студентов обсуждать многочисленные, часто противоположные взгляды, с нашими опытными гостями.
Более половины класса происходили из STEM и пропустили много явного образования в этических рамках. Наш класс обсудил принципы из других областей, таких как медицинская этика, в том числе руководящий принцип врача («во-первых, не навреди») в контексте разработки новых алгоритмов. Тексты из мира научной фантастики, такие как «Урсула К. Ле Гуин» «Те, кто уходят от Омеласа», также предлагали способы решения проблем, побуждая студентов оценивать, как собирать и использовать данные ответственно.
Ответы на вопросы, основанные на ценностях, которые мы исследовали (такие как компромиссы между дезинформацией и свободой слова), не сходятся на четких «правильных» или «неправильных» ответах. Вместо этого участники сказали нам, что обсуждения имеют решающее значение для развития навыков более эффективной проверки своих предубеждений и принятия обоснованных решений. Один студент сказал:
Пройдя через серию вопросов, мысленных экспериментов или тем для обсуждения с профессорами и глубоко задумавшись над каждым из второстепенных вопросов, я часто оказывался с противоположными позициями по сравнению с тем, во что я изначально верил.
Когда укрытие на месте означало, что класс больше не мог встречаться, участники в течение недели обращались за виртуальными сессиями – жаждали форума для обсуждения событий в реальном времени со своими сверстниками в структурированной среде. После нашего первого виртуального заседания, посвященного изучению реакции правительства, технических специалистов и отдельных лиц на COVID-19, один из участников отметил: «Нам кажется, что гораздо больше хороших разговоров по вопросам, что мы можем сделать, что мы должны сделать, что должны мы делаем?”
Специалистам по технологиям, похоже, нужны способы обучения этике – теперь задача состоит в том, чтобы предоставить больше возможностей. В этом году мы планируем провести еще один курс и ищем способы предоставить онлайн-версию, публикуя материалы.
COVID-19 не станет последним кризисом, когда мы полагаемся на технологии для решений и нуждаемся в них немедленно. Если нам нужны более информированные дискуссии о поведении технологий, и мы хотим, чтобы люди, которые делают выбор, вступили в эти кризисы, готовые мыслить этично, нам нужно начать обучать людей, которые работают в сфере технологий, мыслить этично.
Чтобы позволить студентам изучать противоположные, неудобные точки зрения и делиться своим личным опытом, обсуждения в классе носили конфиденциальный характер. Я получил явное разрешение на то, чтобы поделиться своими идеями со студентами здесь.
