Чип искусственного интеллекта, созданный с использованием древней технологии Samsung, считается таким же быстрым, как графический процессор Nvidia A100 — прототип меньше и гораздо более энергоэффективен, но не слишком ли это хорошо, чтобы быть правдой?

Ученые из Корейского института передовых наук и технологий (KAIST) представили чип искусственного а, который, по их утверждениям, может соответствовать скорости графического а Nvidia A100, но имеет меньший размер и значительно меньшее энергопотребление. Чип был разработан с использованием 28-нанометрового производственного процесса — технологии, которая считается относительно старой в быстро развивающемся мире полупроводников.

Команда под руководством профессора Ю Хой Джуна из исследовательского центра обработки данных в памяти KAIST разработала, по ее словам, первый в мире чип искусственного интеллекта с «дополнительным трансформатором» (C-Transformer). Эта нейроморфная вычислительная система имитирует структуру и работу человеческого мозга, используя модель глубокого обучения, часто используемую при обработке визуальных данных.

«Нейроморфные вычисления — это технология, которую не смогли реализовать даже такие компании, как IBM и Intel, и мы гордимся тем, что первыми в мире запустили LLM с маломощным нейроморфным ускорителем», — сказал Ю.

Вопросы остаются

Эта технология изучает контекст и значение, отслеживая взаимосвязи внутри данных, например слов в предложении, что является ключевой технологией для генеративных сервисов искусственного интеллекта, таких как ChatGPT.

Во время демонстрации в штаб-квартире министерства ИКТ член команды Ким Сан Ёп продемонстрировал возможности чипа. На ноутбуке, оснащенном чипом, он выполнял такие задачи, как сеансы вопросов и ответов, суммирование предложений и переводы с использованием LLM OpenAI, GPT-2. Задачи выполнялись как минимум в три раза быстрее, а в некоторых случаях и в девять раз быстрее, чем при запуске GPT-2 на ноутбуке, подключенном к Интернету.



Реализация LLM в задачах генеративного искусственного интеллекта обычно требует большого количества графических процессоров и 250 Вт мощности, но команда утверждает, что их полупроводник использует только 1/625 мощности графического процессора Nvidia для тех же задач. Кроме того, поскольку он составляет 1/41 размера (всего 4,5х4,5 мм), его в конечном итоге можно будет использовать в таких устройствах, как мобильные телефоны.

Однако еще неизвестно, сможет ли чип выполнить свои обещания в реальных приложениях. Как Оборудование Тома сообщает: «Хотя нам говорят, что чип KAIST C-Transformer может выполнять те же задачи обработки LLM, что и один из мощных графических процессоров Nvidia A100, ни в прессе, ни в материалах конференций мы не предоставили никаких прямых сравнительных показателей производительности. Это важная статистика, бросающаяся в глаза ее отсутствием, и циничный человек, вероятно, предположит, что сравнение производительности не идет на пользу C-Transformer».

Больше от TechRadar Pro