Чип AI имеет в 20 раз больше мощности, чем Nvidia H100

По данным Etched, Sohu — это разновидность специализированной интегральной схемы (ASIC), которая может превзойти графический процессор Nvidia H100 в выводе большой языковой модели (LLM). Производительность системы с 8 чипами Sohu может быть эквивалентна 160 H100.

Этчед сказал, что современные системы ускорения ИИ, будь то центральные или графические процессоры, предназначены для работы с различными архитектурами ИИ, такими как сеть кратковременной памяти, нейронная сеть, сверточная нейронная сеть или модель пространства состояний.

Etched подсчитал, что только 3,3% транзисторов графического процессора Nvidia H100 используются для основной задачи, а остальные 96,7% используются для других задач. В случае с чипами AI общего назначения это необходимо, но приводит к большим потерям.

Поэтому стартап Etched представил архитектуру Transformer AI Architecture (архитектуру Transformer) в Sohu, чтобы иметь возможность выделять больше транзисторов для вычислений искусственного интеллекта на кристалле. Они стремятся создавать чипы, оптимизированные для запуска определенного типа модели ИИ, а не для размещения каждой отдельной архитектуры ИИ. Фактически, архитектура Transformer также является основой GPT (Generative Pre-trained Transformer), аналогичной системам ИИ крупных технологических компаний, включая Sora, Gemini, Stable Diffusion и Dall-E.

Etched заявила, что сделала ставку на архитектуру Transformer. Если Transformer исчезнет, ​​этот стартап умрет, но если он продолжит существовать, у Etched есть потенциал стать одной из крупнейших компаний всех времен.

Цена Sohu не объявлена, а Nvidia H100 в настоящее время стоит 40 000 долларов. По мнению Tom's Hardware, если Sohu оправдает ожидания, это поможет центрам обработки данных сэкономить миллиарды долларов на первоначальных затратах и ​​эксплуатационных расходах. Этот продукт даже угрожает лидирующим позициям Nvidia, но только тогда, когда чип Etched заработает.

Марвин Фрай

Обновление 28 июня 2024 г.