Новая модель искусственного интеллекта может помочь предотвратить ущерб и дорогостоящие утечки данных

Это первый случай использования искусственного а для автоматического обнаружения уязвимостей в системах такого типа, примеры которых используются Google Maps и Facebook.


Эксперты из группы Computational Privacy Group компании Imperial изучили атаки на системы, основанные на запросах (QBS) — управляемые интерфейсы, через которые аналитики могут запрашивать данные для извлечения полезной совокупной информации о мире. Затем они разработали новый метод с поддержкой ИИ под названием QuerySnout для обнаружения атак на QBS.

QBS предоставляет аналитикам доступ к коллекциям статистических данных, собранных из данных на индивидуальном уровне, таких как местоположение и демография. В настоящее время они используются в Картах Google для отображения оперативной информации о загруженности района или в функции измерения аудитории Facebook для оценки размера аудитории в определенном месте или демографических данных, чтобы помочь с рекламными акциями.

В своем новом исследовании, опубликованном в рамках 29-й конференции ACM по компьютерной и коммуникационной безопасности, команда, включающая Ану Марию Крету из Института науки о данных, доктора Флоримона Уссио, доктора Антуана Калли и доктора Ива-Александра де Монжуа, обнаружила, что мощные и точные атаки против QBS можно легко автоматически обнаружить нажатием кнопки.

По словам старшего автора доктора Ива-Александра де Монжуа: «До сих пор атаки разрабатывались вручную с использованием высококвалифицированных специалистов. Это означает, что для обнаружения уязвимостей требовалось много времени, что подвергает системы риску.

«OuerySnout уже превосходит людей в обнаружении уязвимостей в реальных системах».

Потребность в системах на основе запросов

Наша способность собирать и хранить данные резко возросла за последнее десятилетие. Хотя эти данные могут способствовать научному прогрессу, большая их часть носит личный характер, и, следовательно, их использование вызывает серьезные опасения в отношении конфиденциальности, защищенные такими законами, как Общий регламент ЕС по защите данных.

Таким образом, обеспечение возможности использования данных во благо при сохранении нашего основного права на неприкосновенность частной жизни является своевременным и важным вопросом для специалистов по данным и экспертов по конфиденциальности.