Для машинного обучения годятся почти любые физические системы

Исследователи из Корнелла нашли способ обучать физические системы выполнению задач машинного обучения, таких как распознавание рукописного текста или и произносимых вслух гласных звуков.

"Оказалось, что превратить в нейронную сеть можно практически любую физическую систему", - сказал Питер МакМахон (Peter McMahon), доцент кафедры прикладной и инженерной физики Инженерного колледжа, руководивший проектом.

Исследователи разработали процедуру обучения Physics-Aware-Training и продемонстрировали ее на трех различных типах физических систем - механической, оптической и электрической.

В первом случае они поместили титановую пластину поверх обычного динамика, создав управляемый многомодовый механический осциллятор. Во втором - лазерный луч пропускался через нелинейный кристалл, который преобразовывал цвета входящего света в новые цвета путем объединения пар фотонов. В третьем эксперименте использовалась электронная схема, состоящая всего из четырех компонентов - резистора, конденсатора, катушки индуктивности и транзистора.

Искусственные нейронные сети работают, применяя ряд параметрических функций к входным данным. Динамику физической системы также можно рассматривать как применение функции к входным данным. Поэтому исследователи изменяли определенные входные параметры - прогоняли через физическую систему несколько образцов, например, числа, написанные разным почерком, - а затем с помощью ПК определяли, какие параметры следует скорректировать для достижения наибольшей точности. Для этого использовался стандартный алгоритм обратного распространения ошибки, устойчивый к неидеальным условиям эксперимента.

В итоге, обученная оптическая система опознавала написанные от руки цифры с точностью до 97%. Хотя это хуже, чем у обычных нейронных сетей, работающих на электронном процессоре, эксперимент продемонстрировал, что даже очень простая физическая система может выполнять машинное обучение, и потенциально она может делать это намного быстрее и с меньшими энергозатратами, чем традиционные электронные нейронные сети. Оптическая система также была успешно натренирована распознавать гласные звуки.

Разработанный для этого исследования код Physics-Aware-Training был выложен онлайн, благодаря чему другие исследователи смогут превращать в нейронные сети свои физические системы, в том числе состоящие из жидкостей и экзотических материалов.

Статья корнеллской команды, озаглавленная "Глубокие физические нейронные сети, обученные методом обратного распространения", опубликована 26 января журналом Nature.

"Не каждая физическая система может стать хорошей нейронной сетью для любой задачи, поэтому возникает важный вопрос о том, какие из них лучше всего подходят для важных задач машинного обучения, - сказал МакМахон, - именно над этим работает моя лаборатория сейчас".