Самый большой в мире компьютерный чип содержит 4 триллиона транзисторов

Wafer Scale Engine 3 (WSE-3) — это платформа Cerebras третьего поколения, предназначенная для работы с мощными суперкомпьютерами искусственного интеллекта (ИИ), такими как GPT-4 от OpenAI и Claude 3 Opus от Anthropic.

Как и его предшественник WSE-2, выпущенный в 2021 году, чип включает в себя 900 000 ядер искусственного интеллекта, изготовленных из кремниевой пластины размером 21,5 x 21,5 см. WSE-3 использует такое же количество энергии, что и WSE-2, но в два раза мощнее.

Wafer Scale Engine 3 содержит 4 триллиона транзисторов, что более чем в 57 раз больше, чем один из самых мощных чипов, используемых в настоящее время для обучения моделей искусственного интеллекта, графический процессор (GPU) Nvidia H200, который имеет всего 80 миллиардов транзисторов.

В будущем WSE-3 будет использоваться для строящегося суперкомпьютера Condor Galaxy 3, расположенного в Далласе, штат Техас. Condor Galaxy 3 включает в себя 64 базовых блока системы искусственного интеллекта Cerebras CS-3 на базе чипа WSE-3. В рабочем состоянии вся система имеет вычислительную мощность до 8 экзафлопс. После этого системы Condor Galaxy 1, 2, 3 объединятся, вся сеть достигнет общей мощности 16 экзафлопс (один эксафлопс будет равен 1000 петафлопс, что эквивалентно 1 триллиону вычислений в секунду). Намного более мощный, чем самый мощный на сегодняшний день суперкомпьютер в мире, Frontier Окриджской национальной лаборатории с производительностью 1 экзафлопс.

Суперкомпьютер Condor Galaxy 3 будет использоваться для обучения будущих систем искусственного интеллекта.