В
Сообщение блога в среду Румман Чоудхури, директор по разработке программного обеспечения
TwitterКоманда по этике, прозрачности и подотчетности машинного обучения написала, что компания пришла к выводу, что
алгоритм был предвзятым после тестирования его на предубеждения по признаку пола и расы. В сообщении и сопутствующем исследовательском документе подробно описано, как система кадрирования при тестировании на случайно связанных изображениях людей разных рас и полов отдавала предпочтение, например, белым людям черным и женщинам мужчинам.
Twitterвывод приходит через несколько месяцев после того, как компания
сказал, что изучит алгоритм, и служит еще одним примером того, как предвзятость может закрасться в компьютерные системы, предназначенные для выполнения задач, которые люди часто делают исключительно хорошо.
«Мы рассмотрели компромисс между скоростью и согласованностью автоматизированного сбора урожая с потенциальными рисками, которые мы увидели в этом исследовании», – написал Чоудхури. “Один из наших выводов заключается в том, что не все Twitter является хорошим кандидатом для алгоритма, и в этом случае решение о том, как кадрировать изображение, лучше всего принимают люди “.
В марте, Twitter начал тестирование нового способа показа полного изображения – а не автоматически обрезанной версии предварительного просмотра – на мобильных устройствах, когда пользователь написал в Твиттере одно изображение. Компания сообщила, что после положительных отзывов она
представила эту функцию всем пользователям iOS и Android в мае.. (Однако он обрезает очень длинные или широкие изображения по центру).
А Twitter пресс-секретарь сообщил CNN Business в среду, что изменение коснулось Twitterпервое мобильное приложение, поскольку именно так большинство людей публикуют твиты и смотрят изображения.
Когда был задействован алгоритм обрезки изображения, каждый раз, когда пользователь отправлял изображение в Twitter, автоматическая система будет обрезать предварительную версию этого изображения, которую зрители увидят, прежде чем перейти к полноразмерному изображению. Twitter сказал в сообщении в блоге в 2018 году, что ранее он использовал обнаружение лиц, чтобы помочь выяснить, как обрезать изображения для предварительного просмотра.
Однако программное обеспечение для распознавания лиц было подвержено ошибкам. Компания отказалась от этого подхода и вместо этого сосредоточила свое программное обеспечение на том, что известно как «заметность» в изображениях, или на той области, которая считается наиболее интересной для человека, смотрящего на изображение в целом. Заметность изучается путем отслеживания того, на что люди смотрят; нас, как правило, интересуют, например, люди, животные и текст.
В сентябре прошлого года компании было предложено изучить свой алгоритмический подход к кадрированию изображений после того, как он подвергся критике в многочисленных твитах. Среди них был один из Twitter пользователь @bascule, который 19 сентября
твитнул, “Проведение ужасного эксперимента … Который Twitter выбор алгоритма: Митч МакКоннелл или Барак Обама? »Вместе с его словами были два длинных прямоугольных изображения. Первое состояло из фотографии лидера большинства в Сенате США МакКоннелла наверху, белого цвета, с тонким белым прямоугольником посередине. и фотография бывшего президента США Обамы, который является Черным, внизу. На втором изображено противоположное, с Обамой вверху и МакКоннеллом внизу. TwitterИспользуемый алгоритм обрезки изображений, предварительные версии изображений, которые расположены рядом, показывают только МакКоннелла.
Днем ранее другой Twitter пользователь, @colinmadland,
заметил аналогичный результат предварительного просмотра, когда он разместил фотографию, на которой, по его словам, изображен он, Белый человек, рядом с фотографией черного человека, с которым он присутствовал на онлайн-встрече; TwitterПредварительный просмотр по умолчанию показывает только Белого человека.
В ответ на @bascule в то время компания
твитнул что он не увидел доказательств расовой или гендерной предвзятости во время тестирования перед выпуском функции предварительного просмотра, но сказал, что он рассмотрит, есть ли проблемы с алгоритмом обрезки.
В TwitterВ своем сообщении в блоге в среду Чоудхури написал, что отказ от использования алгоритма для обрезки изображений снижает зависимость компании от машинного обучения (метод искусственного интеллекта, при котором компьютер обучается, просматривая данные) «для функции, которую мы согласны лучше всего выполняется людьми, использующими наши продукты ».
В Twitter представитель сказал, что компания планирует отказаться от алгоритма обрезки изображений на Twitter.com в ближайшие несколько месяцев. Алгоритм также используется несколькими другими способами, например, когда человек пишет в Твиттере несколько изображений; представитель сказал Twitter также работает над улучшениями для этих целей.
