Этим летом Институт безопасности искусственного интеллекта при правительстве Великобритании откроет свой первый зарубежный офис в Сан-Франциско. Этот шаг был подтвержден министром технологий Мишель Донелан.
Как объявлено в пресс-релизе, первый зарубежный офис Института безопасности ИИ (AISI) наберет первоначальную команду технического персонала во главе с директором по исследованиям, что дополнит растущую лондонскую штаб-квартиру Института, в которой уже работают более 30 экспертов.
Стратегическое расширение направлено на получение выгоды от технических талантов в районе залива Сан-Франциско, где базируются многие ведущие мировые компании в области технологий и искусственного интеллекта.
Британский институт безопасности искусственного интеллекта выходит на глобальный уровень
Лондонский офис продолжит масштабировать оценку рисков передовых систем искусственного интеллекта, а новый офис в Сан-Франциско призван способствовать тесному сотрудничеству между двумя странами.
И Великобритания, и США взяли на себя обязательства по аналогичным соглашениям о безопасности ИИ, включая подписание Декларации Блетчли на организованном Великобританией саммите вместе с 25 другими странами и Европейским Союзом.
Донелан прокомментировал: «[The expansion] Это поворотный момент в способности Великобритании изучать как риски, так и потенциал ИИ с глобальной точки зрения, укрепляя наше партнерство с США и открывая путь другим странам к использованию нашего опыта, поскольку мы продолжаем лидировать в мире в области безопасности ИИ. ».
Великобритания и Канада также взяли на себя обязательства по партнерству, направленному на расширение исследований в области безопасности ИИ.
Это объявление совпадает с публикацией недавних результатов испытаний безопасности искусственного интеллекта, проведенных AISI. Помимо выделения некоторых технических ограничений больших языковых моделей, в исследовании также отмечается, что «все протестированные модели остаются очень уязвимыми для базовых «взломов», а некоторые из них будут выдавать вредные результаты даже без целенаправленных попыток обойти меры безопасности».
Ян Хогарт, председатель AISI, прокомментировал: «Безопасность ИИ — все еще очень молодая и развивающаяся область… Наша цель — продолжать расширять границы этой области путем разработки современных оценок с упором на риски, связанные с национальной безопасностью. ».
Это объявление также предшествует саммиту AI в Сеуле 2024, который рассматривается как своего рода преемник британского саммита в Блетчли-Парке, состоявшегося в ноябре 2023 года. Ожидается, что международные правительства, компании, занимающиеся искусственным интеллектом, академические круги и гражданское общество соберутся вместе, чтобы продолжить обсуждение вопросов безопасности искусственного интеллекта. .