Магнитные схемы снизят энергозатраты на тренировку нейросетей в десятки раз
Исследователи из Инженерной школы Кокрелла при Техасском Университете в г. Остин нашли способ как сделать новое поколение нейроморфных компьютеров более энергоэффективным за счет использования магнитных компонентов вместо традиционных кремниевых.
"Сейчас методы обучения ваших нейронных сетей очень энергоемки, - сказала Джин Энн Инкорвиа (Jean Anne Incorvia), доцент кафедры электротехники и вычислительной техники в школе Кокрелла. - Наша работа может помочь сократить тренировочные нагрузки и затраты на потребляемую энергию".
Результаты исследований были опубликованы на этой неделе в журнале IOP Nanotechnology. Авторы установили, что при определенном взаимном расположении магнитных нанопроводников, действующих как искусственные нейроны, происходит естественное усиление их способности к конкуренции друг с другом, в которой выигрывают наиболее часто активируемые нейроны. Этот эффект, называемый латеральным или поперечным торможением (lateral inhibition), обычно достигается за счет использования добавочных вычислительных ресурсов, что увеличивает расход энергии и повышает стоимость тренировки.
Инкорвиа утверждает, что открытый ее группой метод уменьшает потребление энергии в 20-40 раз по сравнению с тренировкой стандартного алгоритма обратного распространения.
До сих пор авторы ограничивались рассмотрением взаимодействия только между двумя магнитными нейронами. Следующим шагом станет экспериментальная проверка сделанных выводов, а также их обобщение на массивы из многих нейронов.
