Поскольку ИИ вырос из зверинца исследовательских проектов и включает в себя несколько титанических, мощных отраслевых моделей, таких как GPT-3, сектору необходимо развиваться – по крайней мере, так считает Дарио Амодеи, бывший вице-президент по исследованиям в OpenAI, который несколько месяцев назад решил самостоятельно создать новую компанию. Компания Anthropic, как ее еще называют, была основана его сестрой Даниэлой, и ее цель – создать «крупномасштабные системы искусственного интеллекта, которые будут управляемыми, интерпретируемыми и надежными».
Проблема, с которой сталкиваются братья и сестры Амодеи, просто заключается в том, что эти модели искусственного интеллекта, несмотря на их невероятную мощь, недостаточно изучены. GPT-3, над которым они работали, представляет собой удивительно универсальную языковую систему, которая может создавать чрезвычайно убедительный текст практически в любом стиле и на любую тему.
Но предположим, что вы заставили его генерировать рифмующиеся куплеты с Шекспиром и Папой в качестве примеров. Как это сделать? Что такое «мышление»? Какую ручку вы бы повернули, какой циферблат повернули бы, чтобы сделать его более меланхоличным, менее романтичным или определенным образом ограничить его дикцию и лексику? Конечно, здесь и там есть параметры, которые нужно изменить, но на самом деле никто не знает, как именно делается эта чрезвычайно убедительная языковая колбаса.
Одно дело не знать, когда модель ИИ генерирует стихи, и совсем другое, когда модель наблюдает за подозрительным поведением в универмаге или запрашивает судебные прецеденты для судьи, собирающегося вынести приговор. Сегодня существует общее правило: чем мощнее система, тем сложнее объяснить ее действия. Это не совсем хорошая тенденция.
«Современные большие системы общего назначения могут иметь значительные преимущества, но также могут быть непредсказуемыми, ненадежными и непрозрачными: наша цель – добиться прогресса в этих вопросах», – говорится в самоописании компании. «На данный момент мы в первую очередь сосредоточены на исследованиях, направленных на достижение этих целей; в будущем мы предвидим множество возможностей для нашей работы по созданию коммерческой ценности и на благо общества ».
Похоже, что цель состоит в том, чтобы интегрировать принципы безопасности в существующую систему приоритетов разработки ИИ, которая в целом способствует эффективности и мощности. Как и в любой другой отрасли, проще и эффективнее внедрить что-то с самого начала, чем закрепить в конце. Попытка создать некоторые из самых больших моделей, которые можно было бы разобрать и понять, может оказаться труднее, чем их построение в первую очередь. Anthropic, кажется, начинает все сначала.
«Цель Anthropic состоит в достижении фундаментальных исследований, которые позволят нам создавать более функциональные, универсальные и надежные системы ИИ, а затем развертывать эти системы таким образом, чтобы приносить пользу людям», – сказал Дарио Амодеи, генеральный директор нового предприятия, вкратце. сообщение с объявлением о компании и ее финансировании в размере 124 миллионов долларов.
Между прочим, это финансирование столь же звездно, как и следовало ожидать. Его возглавил соучредитель Skype Яан Таллинн, в него вошли, в частности, Джеймс Макклейв, Дастин Московиц, Эрик Шмидт и Центр исследований возникающих рисков.
Компания является общественно-полезной корпорацией, и на данный момент план, как следует из ограниченной информации на сайте, состоит в том, чтобы не упускать из виду эти фундаментальные вопросы о том, как сделать большие модели более податливыми и интерпретируемыми. Мы можем ожидать больше информации позже в этом году, возможно, по мере объединения миссии и команды и получения первых результатов.
Название, кстати, похоже, происходит от «антропного принципа», представления о том, что во Вселенной возможна разумная жизнь, потому что … ну, мы здесь. Возможно, идея состоит в том, что интеллект неизбежен при правильных условиях, и компания хочет их создать.