Интересное развитие событий после споров о предвзятости алгоритма обрезки. Twitter заявил о том, что рассматривает возможность предоставления пользователям права принимать решения о том, как выглядят превью твитов, заявив, что хочет уменьшить свою зависимость от обрезки изображений на основе машинного обучения.
Да, вы правильно прочитали. Технологическая компания утверждает, что автоматизация определенных решений реально может быть не самым разумным решением – молчаливо признавая, что устранение человеческого вмешательства может причинить вред.
Как мы сообщали в прошлом месяце, платформа микроблогов обнаружила, что ее алгоритм обрезки изображений привлекает критическое внимание после Кандидат наук. студент Колин Мэдленд заметил, что алгоритм показывает только его собственное (белое мужское) изображение при предварительном просмотре – многократно вырезая изображение чернокожего преподавателя.
По иронии судьбы он обсуждал аналогичную проблему предвзятости с виртуальным фоном Zoom.
Twitter ответил на критику в то время, сказав, что они проверили предвзятость перед отправкой модели машинного обучения и «не нашли доказательств расовой или гендерной предвзятости». Но он добавил: «Из этих примеров ясно, что нам нужно провести дополнительный анализ. Мы продолжим делиться тем, что мы узнали, какие действия мы предпринимаем, и откроем исходный код нашего анализа, чтобы другие могли просматривать и воспроизводить ».
Теперь за ним следуют дополнительные сведения о процессах тестирования в Сообщение блога где предполагается, что в будущем можно отказаться от использования алгоритма предварительного просмотра культур.
Twitter также признает, что ему следовало опубликовать подробную информацию о процессе тестирования на предвзятость перед запускать инструмент алгоритмической обрезки – чтобы его процессы могли быть опрошены извне. «Это была оплошность», – признается он.
Объясняя, как работает модель, Twitter пишет: «Система кадрирования изображения основана на заметности, которая предсказывает, куда люди могут смотреть в первую очередь. Для нашего первоначального анализа систематической ошибки мы проверили попарные предпочтения между двумя демографическими группами (белые-черные, белые-индийские, белые-азиатские и мужчины-женщины). В каждом испытании мы объединяли два лица в одно и то же изображение, рандомизировав их порядок, а затем вычисляли карту значимости по объединенному изображению. Затем мы нашли максимум на карте значимости и записали, к какой демографической категории он попал. Мы повторили это 200 раз для каждой пары демографических категорий и оценили частоту предпочтения одной по сравнению с другой ».
«Хотя наш анализ на сегодняшний день не выявил расовых или гендерных предубеждений, мы понимаем, что то, как мы автоматически кадрируем фото, означает, что существует потенциальный вред. Нам следовало лучше предвидеть эту возможность, когда мы впервые проектировали и создавали этот продукт. В настоящее время мы проводим дополнительный анализ, чтобы сделать наше тестирование более строгим, обязуемся делиться своими выводами и изучаем способы сделать наш анализ открытым, чтобы другие могли помочь нам в подотчетности », – добавляет он.
О возможности отказа от алгоритмической обрезки изображений в пользу того, чтобы позволить людям сказать свое слово, Twitter говорит, что «начал изучать различные варианты, чтобы увидеть, что лучше всего подойдет для широкого диапазона изображений, которые люди публикуют в Твиттере каждый день».
«Мы надеемся, что предоставление людям большего выбора для обрезки изображений и предварительного просмотра того, как они будут выглядеть в редакторе твитов, может помочь снизить риск причинения вреда», – добавляет он, предполагая, что превью твитов в будущем могут включать визуальные элементы управления для пользователей.
Такой шаг, вместо того, чтобы вводить «трение» в платформу (что, по-видимому, было бы типичной проблемой для технических специалистов по поводу добавления еще одного шага в процесс твитов), мог бы открыть новые творческие / тональные возможности для Twitter пользователей, предоставляя еще один уровень нюансов, который охватывает твиты. Скажем, позволяя пользователям создавать превью «пасхальных яиц», которые намеренно скрывают ключевые визуальные детали, пока кто-то не нажмет на них; или то, что нацелить на конкретный элемент, чтобы выделить точку в твите.
Учитывая популярность шутливых изображений «половина на половину», которые воспроизводятся с форматом кадрирования предварительного просмотра приложения для обмена сообщениями WhatsApp, для которого требуется щелчок, чтобы предсказуемо расширить представление, легко увидеть похожие визуальные шутки и мемы. Twitter, если он предоставит пользователям нужные инструменты.
Суть в том, что предоставление людям большей свободы воли означает, что вы приглашаете творчество – а также позволяя разнообразию преодолевать предвзятость. Что должно быть беспроигрышным. Так приятно видеть Twitter развлекает идею увольнения одного из его алгоритмов. (Осмелюсь предположить, что платформа также внимательно и критически оценивает алгоритмические работы вокруг “ популярные твиты ”, “ популярные твиты ” и “ популярный / релевантный ” контент, который его алгоритмы иногда добавляют, не спрашивая, в хронологию пользователей, и все это может породить шведский стол вреда.)
Возвращаясь к кадрированию изображения, Twitter говорит, что, как правило, он будет придерживаться «принципов дизайна« то, что видишь, то и получаешь »» – иначе говоря, «фотография, которую вы видите в твиттере, – это то, как она будет выглядеть в твите» – в то время как предупреждение, скорее всего, будут некоторые исключения, например, для изображений нестандартного размера.
В таких случаях он заявляет, что будет экспериментировать с тем, как такие изображения представлены, стремясь сделать это таким образом, чтобы «не потерять намеченную создателем точку фокусировки и не повлиять на целостность фото». Опять же, неплохо было бы показать любую алгоритмическую работу публично.