Нейронный гарвардский компьютер обобщает опыт для решения новых задач
Исследователи из Технического университета Дармштадта недавно представили новую архитектуру нейросетей с дополненной памятью, которая может применять к решению проблем изученные абстрактные стратегии.
Нейронный гарвардский компьютер (NHC), описанный в статье для журнала Nature Machine Intelligence, разделяет всю поступающую в алгоритм информацию на два разных потока, а именно поток данных (содержащий манипуляции с данными) и поток управления (содержащий алгоритмические операции). В конечном итоге это позволяет ему отличать модули данных от алгоритмических модулей и создавать две отдельные, но тем не менее связанные области памяти.
Три основных компонента NHC - контроллер, память и шина - имеют разные функции, но взаимодействуют друг с другом, чтобы получить абстракции, применимые к будущим задачам.
"Этот механизм абстрагирования и эволюционное обучение позволяют обучать надежные и масштабируемые алгоритмические решения", - пояснили исследователи в своей статье.
Команда из Дармштадта оценила возможности NHC на 11 различных алгоритмах. Исследователи сообщают, что для всех этих алгоритмов NHC обеспечивает идеальное обобщение и масштабирование, что позволяет им хорошо справляться с задачами, даже более сложными, чем те, для выполнения которых они были изначально натренированы.
Это недавнее исследование подтверждает потенциал использования компонентов внешней памяти для повышения производительности и универсальности архитектур на основе нейронных сетей, применительно к решению задач различной сложности. Объединение и улучшение возможностей различных нейросетей с помощью архитектуры NHC будет способствовать в разработке моделей, которые смогут определять полезные стратегии точного прогнозирования на основе новых данных.
