Samsung создаёт оперативную память со встроенным оборудованием для ИИ

Блоки обработки (ЦП, графический процессор или т.п.) и ОЗУ обычно представляют собой отдельные объекты, построенные на отдельных микросхемах. Но что, если бы они были частью одного чипа? Именно это и сделала компания Samsung, создав первую в мире память с высокой пропускной способностью (HBM) со встроенным аппаратным обеспечением обработки искусственного интеллекта под названием HBM-PIM (для обработки в памяти).

Компания взяла свои чипы HBM2 Aquabolt и добавила программируемые вычислительные блоки (PCU) между банками памяти. Они довольно просты и работают с 16-битными значениями с плавающей запятой с ограниченным набором инструкций — они могут перемещать данные и выполнять умножение и сложение.

PCU буквально сидят рядом с данными, над которыми работают. Samsung удалось заставить PCU работать на частоте 300 МГц, что обеспечивает вычислительную мощность 1,2 TFLOPS на чип. А также, они смогли сохранить энергопотребление (на чип) на том же уровне при передаче данных со скоростью 2,4 Гбит/с на вывод.

Энергопотребление каждой микросхемы может быть таким же, но общее энергопотребление системы снижается на 71%. Это связано с тем, что обычному процессору потребуется дважды переместить данные — прочитать ввод, а затем записать результат. С HBM-PIM данные никуда не денутся.

Дело не только в энергосбережении: использование PIM для машинного обучения и задач логического вывода, по мнению исследователей, более чем вдвое превышает производительность системы. Это беспроигрышная ситуация.

Конструкция HBM-PIM обратно совместима с обычными чипами HBM2, поэтому не нужно разрабатывать новое оборудование — программное обеспечение просто должно указать системе PIM переключиться из обычного режима в режим обработки в памяти.

У этого есть одна проблема: PCU занимают место, которое ранее занимали банки памяти. Это снижает общую ёмкость вдвое — до 4 гигабайт. Компания Samsung решила разделить разницу и объединить 4-гигабайтные чипы PIM с 8-гигабитными обычными матрицами HBM2. Используя по четыре каждого, в итоге получились плашки по 6 гигабайт.

Также пройдёт некоторое время, прежде чем HBM-PIM появится в потребительском оборудовании. На данный момент Samsung разослала чипы на тестирование партнёрам, разрабатывающим ускорители искусственного интеллекта, и ожидается, что финальный продукт будет утвержден к июлю.

HBM-PIM будет представлен на Международной виртуальной конференции по твердотельным схемам на этой неделе, так что тогда мы можем ожидать более подробной информации.

Поделиться ссылкой:

getgo44_

Люблю смартфончики, комплюктерное железо, а ещё немного игры, ну прям совсем капельку.