Исследование вопросов безопасности в интеллектуальных нейросетевых системах

ВВЕДЕНИЕ 5
1 Анализ предметной области 7
1.1 Обзор нейронных сетей и глубокого обучения 7
1.2 Применение нейронных сетей для распознавания дорожных знаков .. 12
1.3 Проблемы безопасности и уязвимости нейронных сетей 15
2 Виды атак и методы защиты 17
2.1 Виды нейросетевых атак и методы защиты от нейросетевых атак .... 17
2.2 Обзор инструментов для создания и для противодействия атакам 23
2.3 Варианты атак на нейросетевые системы для распознавания
дорожных знаков (СРДЗ) и методы защиты СРДЗ 28
3 Разработка нейросетевой модели и описание данных для ее обучения .... 35
3.1 Описание датасета GTSRB 35
3.2 Предобработка данных 35
3.3 Выбор архитектуры нейронной сети 39
3.4 Процесс обучения модели 40
3.5 Оценка качества модели 41
4 Методы нейросетевых атак и выбор методов защиты 43
4.1 Выбор атакующих методов 43
4.2 Реализация атак 43
4.3 Оценка влияния атак на модель 45
4.4 Выбор методов защиты 45
4.5 Реализация методов защиты 47
4.6 Оценка эффективности методов защиты 49
5 Улучшение модели с помощью предсказания атак 50
5.1 Алгоритмический анализ изображений 50
5.2 Глубинный анализ изображений с использованием нейронной сети .. .53
6 Практическая реализация и тестирование системы 56
6.1 Интеграция модели в ПО 56
6.2 Тестирование системы на реальных данных 57
6.3 Оценка производительности и надежности 58
ЗАКЛЮЧЕНИЕ 59
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ 61
ПРИЛОЖЕНИЕ А Листинг программы 63
ПРИЛОЖЕНИЕ Б Презентация 69

Купить

В последние десятилетия нейронные сети и методы глубокого обучения стали одним из ключевых инструментов в области искусственного интеллекта и машинного обучения [1-3]. Они находят широкое применение в различных сферах, таких как обработка изображений, распознавание речи, анализ текстов, медицинская диагностика, автономное вождение и многие другие [4-6]. Одной из важных задач, решаемых с помощью нейронных сетей, является распознавание дорожных знаков [7, 8], что имеет непосредственное применение в системах помощи водителю и автономных транспортных средствах.
Однако, несмотря на значительные успехи в развитии нейронных сетей, остаются нерешенные вопросы, связанные с их безопасностью и устойчивостью к различным видам атак. Вредоносные вмешательства в исходные данные, такие как атаки с использованием состязательных примеров, могут привести к значительным ошибкам в распознавании и классификации изображений [9, 10], что особенно критично в системах, связанных с безопасностью, таких как автономное вождение.
Актуальность исследования обусловлена необходимостью разработки надежных и безопасных систем распознавания дорожных знаков, способных противостоять различным видам атак. Это позволит повысить общую безопасность дорожного движения и снизить риск аварийных ситуаций, вызванных некорректным распознаванием дорожных знаков.
Целью данной магистерской работы является повышение эффективности распознавания нейросетевых атак при обработке дорожных знаков за счет программной реализации видов атак, методов защиты и тестирования в рамках единой системы.
В ходе исследования были решены следующие задачи:
- изучение существующих методов распознавания дорожных знаков и выбор наиболее подходящей архитектуры нейронной сети,
- подбор и предобработка датасета для обучения и тестирования модели,
- обучение нейросетевой модели и оценка её точности на тестовых данных,
- изучение и реализация различных видов атак на модель, включая метод быстрого градиента (FGSM), базовый итеративный метод (BIM) и однопиксельные атаки,
-разработка и применение методов защиты модели от атак, таких как состязательная тренировка и градиентное маскирование,
- повышение надежности нейросетевой модели за счет добавления возможности определять атаки на этапе входа изображения,
- оценка эффективности предложенных методов защиты и сравнение точности модели до и после их применения.
Научная новизна работы заключается в комплексном подходе к разработке нейросетевой модели для распознавания дорожных знаков, включающем анализ её уязвимостей и разработку методов защиты от атак. Практическая значимость работы заключается в возможности применения разработанных методов в реальных системах автономного вождения и помощи водителю, что способствует повышению безопасности дорожного движения.
Таким образом, данное исследование представляет собой важный шаг в направлении создания надежных и безопасных нейросетевых систем, способных эффективно распознавать дорожные знаки и противостоять различным видам атак.

Купить