Работа с нейронными сетями (машинное обучение)
1. Проанализировать методы атак на машинное обучение, которые заключаются в использовании мобильности атак.
Если кратко, то эксплуатация мобильности заключается в том, что есть модель машинного обучения (например, нейросеть, SVM и т.п.), эта модель обучена на датасете и выдает хорошие результаты. Далее к модели применяется атака искажения (состязательная атака), модель начинает выдавать некорректные результаты.
Атака переноса (эксплуатации мобильности) заключается в том, что другая похожая или такая же модель на такой же атаке станет тоже врать.
Первая задача – описать такую атаку, найти примеры ее сценариев и механизмы реализации, описать условия ее выполнения, для каких моделей она работает, что служит ее механизмом осуществления (что делает ее возможной?).
2. Реализовать 2 сценария реализации такой атаки. Нейросеть должна решать задачу классификации атак на IoT. В качестве датасета можно взять, например, N-BaIoT Dataset.
3. Найти / придумать метод, который позволит защититься от этой атаки.
4. Построить программный стенд, на котором можно продемонстрировать экспериментально атаки и защиту от них.
5. Написать отчет, в котором отразить:
a) Проанализированные методы реализации атак (теория и описание способов реализации, примеры ее сценариев и механизмов реализации, условия ее выполнения).
b) Описание как минимум 2-х сценариев этой атаки, которые были реализованы.
c) Описание метода защиты.
d) Описание архитектуры стенда и плана тестирования (как тестировали? какие параметры измеряли?) для оценки эффективности разработанного метода защиты.
e) Анализ и оценка результатов экспериментов для данного метода защиты (по метрикам качества accuracy, recall, ROC). Выделить уникальные свойства этого метода (чем он лучше других?).