Состязательные атаки на промышленный ИИ и способы защиты от них

"Обладание всякого рода благами - это еще не все. Получать наслаждение от обладания ими - вот в чем состоит счастье." Пьер Бомарше

"Чем ниже человек душой, Тем выше задирает нос. Он носом тянется туда, Куда душою не дорос. Омар Хайям"


Привет, Хабр! Меня зовут Александр Коваленко, я младший научный сотрудник группы «ИИ в промышленности» в AIRI. В область наших интересов входит применение систем искусственного интеллекта в процессах различных предприятий. И, как и многие аспекты промышленной деятельности, промышленный ИИ может быть атакован злоумышленниками.  

Эта статья будет посвящена влиянию состязательных атак на системы диагностики неисправностей. Искусственный интеллект в нашем случае представлен классификаторами на основе нейронных сетей, а в качестве данных выступают сигналы с датчиков, образующих многомерные временные ряды. Я постараюсь объяснить, зачем вообще все это нужно, приведу обзор известных на сегодня методов состязательных атак и способов защиты от них, а также кратко расскажу про наши успехи, представленные в недавно опубликованной с коллегами из ИСП РАН статье Adversarial Attacks and Defenses in Fault Detection and Diagnosis: A Comprehensive Benchmark on the Tennessee Eastman Process.  

Приятного чтения!

Читать далее



"Нужно научиться принимать боль и использовать ее как топливо в нашем странствии. Кэндзи Миядзава"

"Наше сознание - это все. Вы становитесь тем, о чем думаете." Будда

Related posts