Введение 4
1. Постановка задачи 6
2. Термины 7
2.1. Графы 7
2.2. Символьное исполнение и анализ программ 9
2.3. Машинное обучение 9
3. Обзор инфраструктур для машинного обучения 11
4. Обзор инфраструктур, использующих символьные машины 13
5. Архитектура 15
6. Реализация 18
6.1. Взаимодействие с символьной машиной 18
6.2. Ускорение обучения 19
6.3. Интеграция модели с символьной машиной 20
6.4. Анализ результатов 21
7. Сравнение с аналогами 23
7.1. Параметры сравнения 23
7.2. Результаты 23
7.3. Обсуждение результатов 24
Заключение 25
Список литературы 26
Тестирование — распространенный способ проверки корректности программного кода. Это дополнительная программная (или программно-аппаратная) инфраструктура, позволяющая проверить приложение на ожидаемое поведение. Однако, как утверждал Дейкстра, тестирование программы может эффективно продемонстрировать наличие ошибок, но неадекватно для демонстрации их отсутствия. Поэтому для проверки кода в критически важных программных компонентах необходим другой, более надежный способ.
Одним из наиболее надежных методов проверки корректности программ является символьное исполнение. Это техника анализа ПО, позволяющая выполнять программу не с конкретными входами, а с их символьным представлением. С помощью эффективных решателей логических уравнений этот подход позволяет перебрать все возможные состояния исполнения программы и проверить каждое из них на соответствие условию корректности. Преимуществом этого метода также является возможность воспроизвести путь символьной машины к состоянию программы, исполнив её с конкретными данными, таким образом создавая тест на поведение, соответствующее пути символьного исполнения к этому состоянию. Успех этого подхода подтверждается множеством инструментов, использующих символьное исполнение для генерации тестов. Целью работы этих инструментов является увеличение тестового покрытия, метрики, сигнализирующей о качестве тестирования программы.
Символьное исполнение сталкивается с проблемой экспоненциального увеличения количества путей, которые нужно исследовать для достижения целевых состояний. Одним из способов решения этой проблемы является оптимизация выбора путей исполнения. Оптимизируя выбор путей, можно сократить количество исследуемых состояний исполнения.
Определить заранее, увеличит ли выбор определенного пути исполнения тестовое покрытие в разумное время, невозможно. Поэтому инструменты, использующие символьное исполнение, полагаются на вручную разработанные стратегии, которые аппроксимируют идеальный алгоритм (или эвристику). Эти эвристики могут направлять исполнение в те части программы, где максимизируется целевая метрика, а не туда, где присутствует уязвимость. В таких случаях, где отношения между данными и целевым признаком слишком сложны для выявления закономерностей вручную, эффективно использовать машинное обучение.
В задаче выбора оптимального пути существующие решения на основе машинного обучения опираются на анализ данных об особенностях состояний исполнения. Так как множество состояний программы и путей между ними представляют собой граф, называемый графом исполнения, новые данные для анализа могут быть предоставлены графовыми нейронными сетями (англ. Graph Neural Networks, GNN). Графовые нейронные сети могут улавливать зависимости между вер-шинами в графах, что можно использовать для разработки стратегии выбора оптимальных путей в графе исполнения, учитывая не только особенности состояний, но и взаимосвязи между ними.
Хотя существующие решения позволяют использовать машинное обучение для создания стратегий выбора оптимального пути, нельзя сказать, что эти решения подходят для внедрения графовых нейронных сетей и их обучения. Таким образом, возникает идея создания собственного набора инструментов для осуществления обучения.
При разработке инфраструктуры для создания стратегии выбора пути с использованием машинного обучения можно выделить несколько основных пунктов. К ним относятся проектирование и реализация алгоритма взаимодействия с символьной машиной во время обучения, рациональное использование вычислительных ресурсов, инструменты внедрения результатов обучения, визуализация и сравнение результатов обучения. В данной работе будут рассмотрены разработанные решения, адресующие вышеописанные пункты.
В ходе данного исследования был разработан и реализован набор инструментов, предназначенный для обучения нейронных сетей выбору оптимального пути для символьного исполнения программ.
1. Спроектирована инфраструктура инструмента для обучения графовых нейронных сетей выбору оптимального пути.
2. Реализован инструмент, позволяющий осуществлять обучение нейронных сетей и валидировать результаты обучения с помощью взаимодействия с символьной машиной.
3. Реализован протокол взаимодействия с символьной машиной V через сервер-обертку, использующий веб-сокеты для передачи сообщений.
4. Создан компонент для сравнения результатов работы различных нейронных сетей как алгоритма выбора оптимального пути исполнения на различных программах.
5. Создан компонент для конвертации нейронных сетей в формат ONNX, с его помощью выполнено внедрение нейронной сети в качестве механизма выбора пути для символьного исполнения в символьную машину Vft.
Проведённое сравнение показало, что существующие инструменты уступают разработанному решению по параметрам, актуальным для исследуемого подхода. Разработанный набор инструментов позволяет использовать различные символьные машины как в качестве окружения для обучения, ускорить процесс обучения посредством параллельной валидации, экспортировать результаты обучения в общепринятый формат, сравнивать стратегии символьных машин.
Исходный код набора инструментов: https://github.com/gsvgit/PySymGym/tree/dev. Аккаунт автора работы на GITHUB:https://github.com/emnigma.
