Он сказал, что вручил эту награду, «потому что в то время я чувствовал, что Google создает действительно сильную, потенциально ведущую в отрасли команду этичного ИИ».
В то время Гебру сказала, что руководство Google AI посоветовало ей отказаться от рассмотрения статьи для презентации на конференции или удалить из нее свое имя. Google заявила, что приняла отставку Гебру из-за списка требований, которые она прислала по электронной почте, которые необходимо было удовлетворить, чтобы она продолжила работу в компании.
Все это стало предметом пристального внимания Старка в среду, 10 марта, когда Google отправил ему поздравительную записку, предложив ему 60 000 долларов за его предложение по исследовательскому проекту, в котором будет рассмотрено, как компании внедряют ИИ, который используется для обнаружения эмоций. Старк сказал, что он сразу почувствовал, что ему нужно отклонить награду, чтобы продемонстрировать свою поддержку Гебру и Митчелла, а также тех, кто все еще остается в команде этичного ИИ в Google.
«Моей первой мыслью было:« Я должен отказаться от этого », – сказал Старк CNN Business.
«С чистой совестью я больше не могу принимать финансирование от компании, которая так обращается со своими сотрудниками», – сказал CNN Business Виджай Чидамбарам, доцент Техасского университета в Остине, изучающий системы хранения. В 2018 году Чидамбарам получил от Google 30 тысяч долларов на исследовательский проект.
Затраченные деньги не имеют большого значения для Google. Но растущие последствия напряженности в Google с его командой этичного ИИ теперь представляют опасность для компании. репутация и положение в сообществе ИИ. Это очень важно, поскольку Google борется за таланты – как в качестве сотрудников компании, так и в академическом сообществе.
«Я думаю, что это более широкое распространение, чем даже компания думает», – сказал Старк.
Снижение солидарности
Несмотря на свою первоначальную склонность, Старк не сразу отказался от награды Google. Он рассказал коллегам о том, что планирует сделать: «Люди поддержали любое решение, которое я принял», – сказал он, – прежде чем отправить Google свой ответ в следующую пятницу. Он поблагодарил компанию за «вотум доверия» его исследованию, но написал, что «отклоняет эту награду в знак солидарности с докторами Гебру и Митчеллом, их товарищами по команде и всеми, кто оказывался в подобных ситуациях». электронные письма, просматриваемые CNN Business.
“Я с нетерпением жду возможности снова сотрудничать с Google Research, когда организация и ее руководители обдумали свое решение по этому делу, устранили причиненный ими вред и на словах и на деле взяли на себя ответственность за содействие критические исследования и продукты, поддерживающие равенство и справедливость », – написал Старк.
Гебру сказала, что оценила поступок Старка.
«Отказ от спонсорства Google для кого-то – серьезное дело», – сказала она CNN Business. «Особенно тем, кто только начал свою карьеру».
Представитель Google сказал, что за последние 15 лет компания предоставила более 6 500 академических и исследовательских грантов тем, кто не является Google. По словам пресс-секретаря, Старк – первый человек, который отказал одному из них.
“То, как с ними обращались, было настоящим фиаско”
И все же решение Старка – это последняя демонстрация солидарности с Гебру и Митчеллом.
“Это был настоящий фиаско путь [Gebru and Mitchell] были обработаны. Никто еще даже не извинился перед ними, – сказала она в недавнем интервью CNN Business. – Я не хочу взаимодействовать с компаниями, которые так себя ведут по отношению к ведущим исследователям.
Усилия Google по расширению границ в области искусственного интеллекта
Google знает, что за последние месяцы его репутация исследовательского учреждения была подорвана, и компания заявила, что намерена исправить это. На недавнем собрании в ратуше Google, о котором впервые сообщили Reuters и CNN Business также получил аудиозаписи, компания рассказала об изменениях, которые она вносит в свои внутренние исследования и методы публикации.
«Я думаю, что способ вернуть доверие – это продолжать публиковать передовые работы во многих, многих областях, в том числе раздвигать границы по темам, связанным с ответственным ИИ, публиковать вещи, которые глубоко интересны исследовательскому сообществу, я думаю, это одно о лучших способах оставаться лидером в области исследований, – сказал Джефф Дин, глава Google по искусственному интеллекту. Он отвечал на вопрос сотрудников относительно сторонних исследователей, заявив, что они будут читать статьи из Google «с большим скептицизмом».
Гебру надеется, что, как и FAccT, больше конференций пересмотрят свои отношения с исследовательскими лабораториями технологических компаний. Исторически сложилось так, что большая часть работы по разработке и изучению ИИ выполнялась в академических условиях. Но по мере того, как компании находят все больше и больше коммерческого использования этой технологии, границы между академическим и корпоративным миром стираются. Google – лишь одна из многих технологических компаний, оказывающих большое влияние на научные конференции, на которых публикуются многие статьи ее исследователей; ее сотрудники заседают в досках конференций, и она ежегодно спонсирует многочисленные конференции, иногда на сумму в десятки тысяч долларов.
Например, Google и некоторые дочерние компании его материнской компании Alphabet были указаны в качестве спонсоров «платинового» уровня в 20 000 долларов и «золотого» уровня в 10 000 долларов на Международной конференции по машинному обучению, или ICML, и Конференции по системам обработки нейронной информации, или NeurIPS. в 2020 году – обе ключевые конференции по ИИ. А некоторые сотрудники компании входят в их оргкомитеты.
Президент ICML Джон Лэнгфорд сказал, что конференция «в настоящее время открыта для спонсорства» со стороны Google для конференции 2021 года, которая назначена на июль.
«Сейчас довольно много дискуссий о том, как ICML как конференция должна способствовать развитию хорошей культуры и практики машинного обучения с будущей политикой спонсорства как частью этого обсуждения», – добавил он.
Исполнительный директор NeurIPS Мэри Эллен Перри заявила, что конференция еще не объявила о своем ежегодном призыве к спонсорству, но что запросы «будут оцениваться по набору руководящих принципов, установленных председателями спонсорских комитетов в этом году»; NeurIPS запланирован на декабрь.
Однако для Старка и других представителей академического исследовательского сообщества критерии приема средств от Google уже изменились.
«Было бы здорово получить дополнительные деньги на исследования», – сказал Старк. «Но я чувствовал, что просто не могу этого вынести».