IBM разработала процессор Telum II и ускоритель Spyre для операции искусственного интеллекта

Компания IBM официально представила свои новые чипы для работы с искусственным интеллектом, включая процессор Telum II и ускорители AI Spyre, предназначенные для мэйнфреймов серии IBM Z. Эти чипы значительно ускоряют выполнение традиционных ИИ-задач и работу с большими языковыми моделями на серверных системах IBM.

Процессор Telum II оснащён восемью высокопроизводительными ядрами с тактовой частотой 5,5 ГГц. Каждое ядро имеет 36 МБ кэш-памяти второго уровня, а общий объём встроенной кэш-памяти достигает 360 МБ. Виртуальная кэш-память четвёртого уровня поддерживает объём до 2,88 ГБ на процессорный блок, что на 40% больше по сравнению с предыдущим поколением. Ядра получили улучшенное предсказание ветвлений, 160 регистров и сниженное на 15% энергопотребление.

Telum II оснащён встроенным AI-ускорителем, обеспечивающим высокую производительность операций вывода с низкими задержками и высокой пропускной способностью. Производительность ускорителя составляет 24 TOPS на один процессор, 192 TOPS на блок и 768 TOPS на систему. В дополнение к этому, процессор включает новый блок ускорения ввода-вывода DPU, который увеличивает плотность передачи данных на 50%. Чип производят по технологии Samsung 5HPP, и он содержит 43 миллиарда транзисторов на кристалле площадью 600 мм².

Ускорители Spyre предназначены для корпоративного уровня и обеспечивают производительность более 300 TOPS в задачах ИИ при объёме памяти LPDDR5 128 ГБ. В системе с восемью такими ускорителями общая память достигает 1 ТБ. Каждый ускоритель оснащён 32 вычислительными ядрами, поддерживающими типы данных INT4, INT8, FP8 и FP16, а уровень энергопотребления (TDP) составляет всего 75 Вт.

IBM планирует начать поставки решений с процессорами Telum II корпоративным клиентам в 2025 году. Ускорители Spyre, находящиеся на стадии ранней технической версии, также должны поступить в продажу в следующем году.