Исследователям удалось обмануть интеллектуальный алгоритм антивируса
Австралийским специалистам в области информационной безопасности удалось сбить с толку движок антивируса на базе ИИ, разработанный BlackBerry Cylance, заставив его признать безопасным вредоносное ПО. Это открытие заставляет усомниться в надежности популярной сегодня методологии, использующей для обеспечения кибербезопасности искусственный интеллект.
Алгоритм машинного обучения системы защиты конечных точек Cylance PROTECT сотрудникам фирмы Skylight Cyber удалось эффективно обойти без внесения каких-либо изменений в код вредоносной программы. К нему просто добавляли строки из благонадежного ПО: распознавав их ИИ-алгоритм Cylance выносил положительный вердикт, игнорируя любой встречающийся далее вредоносный код.
"Насколько я знаю, это первая в мире подтвержденная глобальная атака на механизм машинного обучения антивирусной компании, - сказал один из авторов метода, Ади Ашкенази (Adi Ashkenazy). - После примерно четырех лет супер-ажиотажа [связанного с искусственным интеллектом] я считаю это отрезвляющим примером того, как данный подход создает новую поверхность атаки, невозможную ранее [с прежним антивирусным ПО]".
Кевин Боцек (Kevin Bocek), вице-президент по стратегиям безопасности фирмы Venafi, со своей стороны напомнил, что идея обмана продвинутых антивирусов не нова, в частности, именно благодаря такой способности оказались столь эффективными атаки Stuxnet.
По мнению Грегори Уэбба (Gregory Webb), главы антивирусной фирмы Bromium, новое исследование демонстрирует порочность практики полного перекладывания на машины функции принятия решений о том, что хорошо и что плохо.
