Анонимные хакеры, взломавшие внутреннюю информационную систему «Яндекс», опубликовали аудиозапись совещания, в ходе которого обсуждалась аварийность беспилотных автомобилей. Оказалось, что причина аварий кроется в использовании женского искусственного интеллекта.
«Яндекс» – один из мировых лидеров в развитии автоматического управления автомобилями. Беспилотный автомобиль – это обычная легковая машина, оснащённая радарами, лидарами, видеокамерами и другими средствами сбора дорожной информации. Искусственный интеллект оценивает собранные данные и решает, на какой угол сервоприводы повернут руль, увеличат или снизят скорость, применят ли экстренное торможение. Качество искусственного интеллекта определяет способность автомобиля двигаться по дорогам общего пользования без вмешательства водителя. Именно в этом звене и произошла ошибка.
При анализе программного обеспечения машин, попавших в аварии, программисты обнаружили команду-оператор «Ну, мне же надо». Этот оператор позволял машине в ста процентах случаев игнорировать двойную сплошную разметку и иногда – знак «поворот запрещён». Как показало расследование, один и тот же компьютер использовался для доработки программного обеспечения беспилотников и анализа причин аварий с участием женщин. Сотрудник «Яндекса» случайно заместил ядро искусственного интеллекта беспилотных автомобилей программной моделью женщины-водителя. Это и привело к многочисленным авариям с беспилотниками на улицах Москвы.
Все беспилотные автомобили «Яндекса» поставлены на стоянки до полной замены программного обеспечения. Компания пообещала впредь никогда не использовать одни и те же компьютеры для исследовательских и прикладных программ.