Новости и события » Общество » Фотонный чип с обработкой в памяти ускорит ИИ в тысячу раз

Фотонный чип с обработкой в памяти ускорит ИИ в тысячу раз

Фотонный чип с обработкой в памяти ускорит ИИ в тысячу раз

Ученые из университетов Оксфорда, Мюнстера и Эксетера, а также из IBM Research разработали способ значительного уменьшения задержки в системах ИИ.

В статье для Nature они представили?? фотонное тензорное ядро, способное выполнять ключевые вычислительные примитивы моделей ИИ, таких как глубокие нейронные сети для компьютерного зрения, менее чем за микросекунду, с высокими вычислительными плотностью и эффективностью.

Вычисления в памяти (IMC) - это развивающаяся, отличная от фон-неймановской парадигма, в которой устройства памяти используются как для обработки, так и для хранения данных.

Устраняя необходимость перемещать данные между памятью и процессорами, IMC может значительно сократить время задержки. Однако подлинный выигрыш сулит сочетание этой концепции с фотоникой, позволяющее преодолеть физические ограничения электронных процессоров.

Интегрированный фотонный процессор поддерживает гораздо более высокую частоту модуляции данных, чем электронный. Кроме того, он может выполнять параллельные операции в одном физическом ядре с использованием так называемого "мультиплексирования с разделением по длине волны" (WDM) - технологии, которая обеспечивает дополнительное масштабирование за счет использования частотного пространства.

Вооруженные разработанной ими пять лет назад фотонной фазовой памятью и созданной в EPFL частотной гребенкой на базе нелинейной оптики (источник света для подачи входных векторов в фотонное тензорное ядро), авторы продемонстрировали устройство, которое выполняет так называемую операцию свертки за один временной шаг. Нейронной сети для обработки одного изображения могут потребоваться миллиарды таких операций.

В качестве доказательства концепции в статье приведены результаты экспериментов с матрицами размером до 9×4. Используя четыре мультиплексированных входных вектора на каждый временной шаг и частоту модуляции 14 ГГц, ученые получили скорость обработки в два триллиона операций умножения-накопления (MAC) в секунду (2 TOPS).

Делая разумные допущения о возможностях масштабирования, оксфордская команда оценивает конечный результат в беспрецедентные 1000 TOPS (PetaMAC) на квадратный миллиметр. Это превышает вычислительную плотность лучших ИИ-процессоров более, чем на три порядка величины.

Статья в Nature демонстрирует огромный потенциал фотонной обработки для ускорения определенных типов вычислений, таких как свертки. Теперь перед учеными стоит задача, связать эти вычислительные примитивы вместе и при этом добиться существенной производительности на системном уровне.

Университеты


Смарт-телевизоры и приставки на Google TV получат поддержку...

Смарт-телевизоры и приставки на Google TV получат поддержку кодека AV1

На днях издание 9to5Google рассказало, что Google выступила с предложением к производителям устройств на базе Android TV и Google TV внедрить поддержку нового кодека потокового видео AV1. Таким образом компания хочет популяризировать формат видео с подробнее ...


загрузка...


загрузка...

Актуальные новости Украины на сегодня и последние события в мире экономики и политики, культуры и спорта, технологий, здоровья, происшествий, авто и мото новостей, фото и видео. 0.0.0.2283254

Вверх