Intel и Georgia Tech возглавят программу борьбы с атаками на искусственный интеллект
Корпорация Intel и Технологический институт штата Джорджия (Georgia Tech) объявили, что возглавят группу, созданную агентством оборонных исследований DARPA для разработки методов защиты от атак и манипуляций, нацеленных на системы искусственного интеллекта.
"Intel и Georgia Tech работают вместе, чтобы улучшить коллективное понимание экосистемой уязвимостей ИИ и машинного обучения, а также ее способность смягчать возможные последствия (их эксплуатации), - сказал Джейсон Мартин (Jason Martin), главный инженер Intel Labs. - Мы сообща занимаемся совершенствованием обнаружения объектов и улучшением устойчивости ИИ и машинного обучения к состязательным (adversarial) атакам".
Intel станет главным подрядчиком четырехлетнего совместного проекта с многомиллионным бюджетом, известного как "Гарантирование защищенности искусственного интеллекта от обмана" или GARD, который улучшит устойчивость моделей машинного обучения к атакам путем введения в заблуждение.
Хрестоматийным примером подобной атаки стал эксперимент сотрудников лаборатории Keen Security Lab компании Tencent. В марте прошлого года они показали, что с помощью наклеек на дороге можно заставить систему управления электромобилем Tesla Model S вывести его на полосу со встречным движением. Двумя годами раньше исследователи заставили интеллектуальный алгоритм компании Google принять за ружье распечатанную на 3D-принтере черепашку.
Реальные состязательные атаки на обучаемые алгоритмы пока еще большая редкость, однако быстрое и повсеместное распространение ИИ заставляет все больше считаться с этим фактором риска.
Миссия GARD заключается в том, чтобы собрать предыдущие и текущие исследования недостатков и эксплойтов, влияющих на системы машинного интеллекта, и создать теоретическую основу, которая поможет обнаруживать уязвимости и определять граничные случаи для повышения устойчивости к ошибкам и атакам.
На первом этапе реализации проекта GARD, Intel и Georgia Tech будут улучшать распознавание объектов на изображениях и видео, используя пространственное, временнóе и семантическое согласование. Идея состоит в том, чтобы наделить ИИ повышенным "здравомыслием", увеличивая количество внешних факторов, учитываемых моделью при классификации изображения.
