Новый подход улучшает энергоэффективность приложений ИИ
Большинство новых достижений в области искусственного интеллекта (ИИ) требуют нейронных сетей, состоящих из сотен миллионов нейронов, организованных в несколько сотен слоев. Эти большие и глубокие нейросети используемые, например, для классификации изображений, являются крайне энергоемкими, поскольку должны пересылать между соседними слоями множество числовых значений с большой точностью в каждом временном цикле.
Между тем, человеческий мозг выполняет несколько триллионов вычислительных операций в секунду, расходуя всего около 20 ватт. Информация в биологических межнейронных коммуникациях кодируется не только количеством простых электрических импульсов (спайков), но и картиной их следования во времени.
Вдохновленные такой парадигмой, компьютерный ученый Вольфганг Маасс (Wolfgang Maass) и его аспирант Кристоф Штекль (Christoph Stöckl), оба из Института теоретической информатики Технологического университета Граца (TU Graz), оптимизировали искусственные нейронные сети в компьютерном моделировании аналогичным образом. В их методе передача информации зависит не только от того, сколько импульсов посылает нейрон. Время или интервалы между спайками также могут передавать много дополнительной информации.
То, что использование спайков позволяет снизить энергопотребление ИИ-приложений, не новость, но австрийским ученым впервые удалось это реализовать для очень глубоких и больших нейросетей, которые необходимы для качественной классификации изображений. Подтвержденная симуляциями точность нового подхода сопоставима с точностью лучших современных алгоритмов классификации.
Представленные в журнале Nature Machine Intelligence результаты позволят значительно ускорить разработку ИИ-оборудования (например, чипов для смартфонов и систем ассистирования вождению), сочетающего низкое энергопотребление с конкурентоспособной производительностью в приложениях ИИ.
