Исследователи обнаружили уязвимость в нейронных сетях, увеличивающую их энергопотребление
Новый тип хакерской атаки может увеличить энергопотребление систем искусственного интеллекта. К такому выводу пришли исследователи из Центра кибербезопасности Мэриленда, пишет Technology Review.
Угроза работает по типу DoS-атаки в интернете, стремясь "засорить" нейронную сеть и вынуждая ее использовать больше вычислительных ресурсов и замедлять ее "мыслительный" процесс, говорят специалисты.
Уязвимость касается адаптивных к вводу архитектур с несколькими выходами, которые распределяют задачи в зависимости от сложности их решения и оптимизируют использование вычислительных ресурсов. Добавляя небольшое количество шума к входам, исследователи заставляли сеть воспринимать их как более сложные и увеличивать объем вычислений.
Экспериментальным путем ученые выяснили, что злоумышленник может максимально нагрузить нейросеть, если он имеет полную информацию о ней. Когда ученые предположили, что у хакера нет информации, они смогли замедлить алгоритм и увеличить потребление энергии на 20-80%.
По словам исследователей, это связано с тем, что атаки хорошо передаются через разные типы нейронных сетей.
"Разработать атаку для одной системы классификации изображений достаточно, чтобы нарушить работу многих других", - сказала аспирант и соавтор статьи Йигиткан Кая [Yiğitcan Kaya].
Группа отметила, что уязвимость носит теоретический характер. Адаптивные к вводу архитектуры пока не используются в реальных приложениях. Однако ситуация может измениться в ближайшем будущем под давлением отрасли, которая намерена развертывать более легкие нейронные сети, например, в сфере Интернета вещей.
