Samsung разработала чипы памяти, оптимизированные для ИИ-вычислений
Samsung Electronics объявила о разработке первой в отрасли памяти с высокой пропускной способностью (HBM), интегрированной с вычислительной мощностью искусственного интеллекта - HBM-PIM. Новая архитектура обработки (PIM, processing-in-memory) позволяет использовать возможности ИИ для ускорения обработки больших объемов данных в ЦОДах, систем высокопроизводительных вычислений (HPC) и при использовании мобильных приложений с поддержкой искусственного интеллекта.
"Инновационная память HBM-PIM - первое в отрасли программируемое решение PIM, адаптированное для задач различных уровней сложности с использованием ИИ, таких как высокопроизводительные вычисления, обучение и логические процессы. Мы планируем развивать эту технологию за счет дальнейшего сотрудничества с поставщиками ИИ-решений, чтобы создавать еще более совершенные продукты на базе PIM", - отметил Квангил Парк, старший вице-президент по планированию продуктов памяти в Samsung Electronics.
"Я рад видеть, что Samsung решает проблемы пропускной способности и большого энергопотребления памяти для высокопроизводительных вычислений и искусственного интеллекта. Конструкция HBM-PIM продемонстрировала впечатляющую производительность и прирост эффективности при работе с важными типами ИИ-вычислений, поэтому мы с нетерпением ждем возможности оценить ее способность решать дополнительные задачи, представляющие интерес для Аргоннской национальной лаборатории", - отметил Рик Стивенс, заместитель директора Аргоннской национальной лаборатории Министерства энергетики США по вычислениям, окружающей среде и естественным наукам о жизни.
Большинство современных вычислительных систем основаны на архитектуре фон Неймана, использующей отдельные блоки процессора и памяти для выполнения миллионов сложных задач при обработке данных. Такой подход к последовательной обработке требует, чтобы данные постоянно перемещались туда и обратно, что приводит к замедлению работы системы, особенно при обработке постоянно растущих объемов информации.
Вместо этого HBM-PIM передает вычислительную мощность непосредственно туда, где хранятся данные, поскольку оптимизированный для DRAM ИИ-движок помещен в каждый банк памяти (подблок хранения), обеспечивая параллельную обработку и минимизируя перемещение данных. С решением Samsung HBM2 Aquabolt новая архитектура способна вдвое повысить производительность системы при снижении энергопотребления более чем на 70%. HBM-PIM также не требует каких-либо изменений в аппаратном или программном обеспечении, что позволяет ускорить ее интеграцию в существующие системы.
В настоящее время память Samsung HBM-PIM тестируется ведущими партнерами по ИИ-решениям в ускорителях искусственного интеллекта. Ожидается, что эта работа будет завершена в первой половине 2021 г.
