Ученые создали первую полноценную нейросеть на основе фотонных чипов
Несмотря на то, что нейросети успешно применяются для решения ряда творческих и даже "шпионских" задач, их недостатком является то, что вычисления проводятся посредством импульсов электричества - из-за этого энергетические и временные затраты на обучение сложных систем искусственного интеллекта по-прежнему остаются очень большими.
Поэтому такой интерес вызвало сообщение американских ученых о том, что им удалось создать первую нейросеть, в которой все важнейшие вычисления производятся с помощью фотонов, пишет National Geographic.
Первые результаты испытаний этой нейросети ученые описали для научного журнала Applied Physics Reviews.
"Наш эксперимент показывает, что фотонные платформы со встроенной оптической памятью могут выполнять те же самые операции, что и тензорные процессоры. При этом они потребляют меньше энергии и гораздо производительнее: с их помощью можно обучать нейросеть со скоростью света", - рассказал один из разработчиков, доцент Университета имени Джорджа Вашингтона (США) Марио Мискульо.
Ученые отмеает, что за последние годы ученые значительно продвинулись в разработке систем искусственного интеллекта и создали нейросети, которые могут выполнять нетривиальные задачи и даже "мыслить" творчески. Это стало возможно благодаря развитию вычислительных систем и появлению новых математических принципов, которые описывают устройство и работу систем машинного обучения.
К примеру, недавно математики из США создали систему ИИ, которая может распознавать следы меланомы, рака кожи, и делает это лучше ведущих экспертов-онкологов. Другие нейросети могут рисовать картины и "раскрашивать" видеоролики в стиле Ван Гога или Кандинского, а также лучше человека играют в древнекитайскую стратегию го, а также компьютерные игры, такие как Starcraft II и Quake III Arena.
Создание подобных проектов, как отмечают Мискульо и его коллега Фолькер Зоргер, стало возможным благодаря прогрессу в области графических процессоров и специализированных ускорителей вычислений, которые могут очень быстро выполнять некоторые простые математические операции, лежащие в основе тренировки нейросетей.
Несмотря на это, энергетические и временные затраты на обучение сложных систем искусственного интеллекта по-прежнему остаются очень большими. Из-за этого их пока нельзя встраивать в мобильные устройства или полноценно использовать на персональных компьютерах, не прибегая к услугам вычислительных облачных технгологий. Зоргер и Мискульо нашли способ снизить эти затраты. Они придумали, как можно выполнять ключевые операции, необходимые для обучения нейросети, внутри фотонных чипов.
Эти устройства представляют собой сеть из световодов, к которым подключено множество генераторов света и ячеек "оптической памяти". Это тонкие провода из сплава германия, сурьмы и селена, которые меняют свои оптические свойства при взаимодействии со светом или при пропускании через них электрического тока.
Настроив определенным образом эти ячейки памяти, можно заставить лучи света, которые проходят через световоды, выполнять некоторые простые математические операции. Они нужны для умножения матрицы на вектор - главной операции, которая проводится при обучении искусственного интеллекта.
Тесты и сравнения с существующими видеокартами и специализированными чипами показали, что благодаря этому подходу можно снизить затраты энергии на обучение нейросети. При этом скорость обработки данных приблизится к скорости света. Производительность этого устройства ограничивают приемники фотонов, которые не могут обрабатывать сигнал с частотой больше 50 гигагерц.
По оценкам физиков, скорость работы собранного ими фотонного нейрочипа может достичь 2 петафлопс в секунду. Это в разы больше, чем производительность их кремниевых конкурентов. При этом он будет потреблять около 80 ватт энергии, 95% которой приходится на вспомогательные компоненты чипа, а не на его оптическую вычислительную часть.
Таким же образом можно работать не только с нейросетями, но и с данными от высокоскоростных телекоммуникационных устройств. Ученые надеются, что эта особенность фотонных чипов поможет этим устройствам быстро проникнуть во все сферы науки и техники, где нужно проводить подобные вычисления максимально быстро и при этом не тратить на это много энергии.
Вашингтон Германия Университеты
