«iPhone с искусственным интеллектом»: первый стартап, создавший модель искусственного интеллекта с более чем триллионом параметров, которая работает в симбиозе со своим собственным чипом — SambaNova обещает 90% экономии на затратах на логические выводы, но воспринимайте это с долей скептицизма

«iPhone с искусственным интеллектом»: первый стартап, создавший модель искусственного интеллекта с более чем триллионом параметров, которая работает в симбиозе со своим собственным чипом — SambaNova обещает 90% экономии на затратах на логические выводы, но воспринимайте это с долей скептицизма

Хотя в этом заинтересованы все, масштабное внедрение генеративного искусственного интеллекта оказалось серьезной проблемой для крупных предприятий и государственных органов.

Несмотря на признание потенциала этой технологии для оптимизации процессов, сокращения затрат и улучшения цепочек поставок, опасения по поводу стоимости, сложности, безопасности, конфиденциальности данных, владения моделью и соблюдения нормативных требований стали препятствиями для внедрения.

В качестве потенциального прорыва компания SambaNova Systems, финансируемая Softbank, объявила о запуске Samba-1, первой генеративной модели искусственного интеллекта с триллионом параметров. Samba-1, основанный на пакете SambaNova Suite, отвечает требованиям к производительности, точности, масштабируемости и совокупной стоимости владения (TCO). Модель также обещает снижение затрат на логические выводы на 90%, хотя к этому утверждению следует относиться с осторожностью.

Создание « с искусственным интеллектом»

В отличие от других моделей с триллионом параметров, которые построены как единые монолитные объекты, Samba-1 использует архитектуру состава экспертов (CoE). Эта система объединяет несколько небольших «экспертных» моделей в одно большое решение, функционирующее как одна большая модель. Этот подход предлагает более широкие знания по различным темам, высокую точность и мультимодальность.

Сообщается, что модель CoE также может обеспечить более глубокие знания и точность для специализированных областей, чем другие крупные модели. Отдельные модели меньшего размера могут быть обучены для конкретных областей, таких как финансы, право, физика или биология, и добавлены в CoE, обеспечивая высокую точность для этой конкретной области без необходимости обучения на всей модели с триллионом параметров.



Выпуск Samba-1 последовал за анонсом SambaNova SN40L, интеллектуального а искусственного интеллекта, созданного для того, чтобы конкурировать с чипами ИИ-гиганта Nvidia. Интеграция этого чипа с моделью Samba-1 представляет собой значительный шаг вперед: SambaNova стала первой компанией, представившей интегрированную аппаратную и программную систему для предприятия.

«Вся индустрия искусственного интеллекта говорит о создании iPhone с искусственным интеллектом — интегрированная система аппаратного и программного обеспечения — и SambaNova первой представила такую ​​версию на предприятии», — сказал Родриго Лян, соучредитель и генеральный директор SambaNova Systems. «Прошлой осенью мы анонсировали SN40L, самый умный чип искусственного интеллекта, и теперь мы интегрировали этот чип с первой моделью параметров 1T для предприятия. Samba-1 конкурирует с GPT-4, однако она лучше подходит для предприятий, поскольку ее можно доставлять как локально, так и в частных облаках, чтобы клиенты могли точно настроить модель с использованием своих личных данных, не раскрывая ее в открытом доступе. »

Несмотря на впечатляющие возможности Samba-1, к заявлению модели о снижении затрат на логический вывод на 90% следует относиться с долей скептицизма. Хотя архитектура CoE действительно предлагает низкие затраты на логические выводы, истинная ценность этой и станет очевидной только после того, как модель будет развернута в реальных сценариях.

Лян сказал нам: «ИИ – это не прихоть, мы находимся в начале этого пути. Наше комплексное решение ориентировано на крупные предприятия и государственные организации, и никто другой не может предоставить его локально и в частном порядке. Невозможно избежать того, насколько доминирует Nvidia сейчас, но мы можем развертывать эти модели в больших масштабах за небольшую часть затрат».

Больше от TechRadar Pro