Дэвид Лазовски и Прит Вирк, технологи с опытом работы в области полупроводниковой инженерии и фотоники, несколько лет назад пришли к совместному выводу, что ИИ и рабочие нагрузки машинного обучения быстро столкнутся с проблемой «перемещения данных». Они предсказали, что будет все труднее перемещать данные на вычислительное оборудование и обратно, поскольку модели ИИ масштабируются за пределы того, что можно было бы хранить на кристалле любого одного чипа памяти.
Их решение, разработанное Филом Уинтерботтомом, ранее работавшим исследователем в известной лаборатории Bell Labs, представляло собой технологию оптического соединения для передачи данных между вычислениями, вычислениями в память и внутри кристалла. Вместе с Уинтерботтомом Лазовски и Вирк основали стартап Celestial AI для коммерциализации технологии. И теперь этот стартап привлекает крупных сторонников.
Сегодня Celestial AI объявила о привлечении 100 млн. долл. в рамках раунда серии B под руководством IAG Capital Partners, Koch Disruptive Technologies и инновационного фонда Temasek Xora. По словам генерального директора Лазовского, транш, в результате которого общая сумма привлеченных средств Celestial AI превысит 165 млн. долл., будет использован для поддержки производства платформы фотоники Celestial путем расширения отделов проектирования, продаж и технического маркетинга компании.
В настоящее время в Celestial работает около 100 сотрудников, и Лазовски ожидает, что к концу года их число возрастет до 130 человек.
«Сегодня вычисления и память тесно связаны. Единственный способ добавить больше памяти с высокой пропускной способностью — это добавить больше вычислений, независимо от того, требуются дополнительные вычисления или нет», — сказал Лазовский TechCrunch по электронной почте. «Технология Celestial позволяет дезагрегировать память».
В центре обработки данных память часто является одним из самых дорогих ресурсов — отчасти потому, что она не всегда используется эффективно. Поскольку память привязана к вычислениям, операторам сложно — а иногда и невозможно из-за ограничений пропускной способности и заоблачных задержек — «дезагрегировать» и объединять память между оборудованием в центре обработки данных.
Согласно внутреннему Microsoft Согласно исследованию, до 25 % памяти в Azure «застряло» или осталось после того, как ядра серверов были сданы в аренду виртуальным машинам. По оценкам компании, сокращение объема неиспользуемой памяти может сократить расходы на центр обработки данных на 4–5 % — потенциально значительная экономия в контексте многомиллиардной операции.
Celestial, которая начинала как портфельная компания The Engine, венчурной фирмы, выделившейся из Массачусетского технологического института в 2016 году, разработала мнимое решение в своей архитектуре на основе фотоники, которая масштабируется в многочиповых системах. Используя свет для передачи данных, технология Celestial может передавать информацию как внутри чипов, так и между чипами, делая память и вычисления доступными для ИИ и других рабочих нагрузок.
Кредиты изображений: Небесный
Celestial также утверждает, что ее технология может уменьшить количество электроэнергии, необходимой для передачи данных, что косвенно повысит производительность чипа. Как правило, чипы тратят часть электроэнергии, которую они потребляют, на передачу данных между своими схемами, что отнимает электроэнергию, которую чип может направить на вычислительные задачи. Фотоника Celestial снижает мощность, необходимую для передачи данных, позволяя чипу — по крайней мере теоретически — увеличить свою вычислительную мощность.
Технология фотоники Celestial, совместимая с большинством отраслевых стандартов межсоединений (например, CXL, PCIe), обеспечивает в 25 раз более высокую пропускную способность и в 10 раз более низкую задержку и энергопотребление, чем оптические альтернативы, утверждает компания.
«С ростом в ИИ , особенно большие языковые модели (LLM) и рабочие нагрузки механизма рекомендаций, наблюдается сдвиг в сторону ускоренных вычислений», — сказал Лазовски. «Ключевая проблема в будущем — это объем памяти, пропускная способность памяти и перемещение данных, то есть взаимосвязь между чипами — это то, что мы решаем с помощью фотонной ткани Celestial».
Celestial предлагает свой продукт межсоединений в рамках программы лицензирования и заявляет, что сотрудничает с несколькими клиентами «первого уровня», включая гиперскейлеров и производителей процессоров и памяти.
Продукт межсоединений, по-видимому, является приоритетом номер один для Celestial. Celestial продает собственный чип-ускоритель искусственного интеллекта под названием Orion, построенный на базе фотонной архитектуры компании. Но, как рассказали инвесторы TechCrunch в недавнем материале для TC+, чипам фотоники с искусственным интеллектом еще предстоит преодолеть инженерные проблемы, которые сделали бы их практичными в масштабе. Если только компания Celestial не наткнулась на прорывы в области преобразования данных в аналоговые и регенерации сигналов — основных камней преткновения для современных чипов фотоники, — маловероятно, что Orion продвинулся дальше своих конкурентов.
Помимо чипов, у Celestial есть ряд конкурентов на рынке фотонных интегральных схем, стоимость которых к 2027 году может составить 26,42 млрд. долл..
Ayar Labs, которая производит чиповые решения на основе принципов оптических сетей, привлекла более 200 млн. долл. венчурного капитала с момента своего основания в 2015 году. Ravonus, другой конкурент, недавно получил инвестиции в размере 73,9 млн. долл..
Однако впереди может быть консолидация в более широком пространстве оптических соединений. Около трех лет назад Marvell купила Inphi, специалиста по оптическим сетям, за 10 млрд. долл.. После периода затишья, Microsoft в прошлом году приобрела Lumenisity, стартап, разрабатывающий высокоскоростные оптические кабели для центров обработки данных и сетей операторов связи.
И Inphi, и Luminensity нацелены на разные варианты использования своих технологий. Но стоит отметить энтузиазм Big Tech в отношении оптики и фотоники.
«Наша технология фотоники действительно отличается и уникальна с превосходными характеристиками», — сказал Лазовски. «Учитывая рост генеративных рабочих нагрузок ИИ из-за LLM и нагрузки, которую они оказывают на существующие архитектуры центров обработки данных, быстро растет спрос на оптическое подключение для поддержки перехода от общей вычислительной инфраструктуры центра обработки данных к ускоренным вычислениям».
Samsung Catalyst, Smart Global Holdings, Porsche Automobil Holding SE, The Engine Fund, imec.xpand, M Ventures и Tyche Partners также участвовали в серии B Celestial.