ВОССТАНОВЛЕНИЕ УПРУГИХ ПАРАМЕТРОВ ОДНОРОДНОГО СЛОЯ МЕТОДОМ НЕЙРОННЫХ СЕТЕЙ
|
ВВЕДЕНИЕ 3
1 Прямые и обратные задачи дифракции на упругом слое 6
2 Нейронные сети 9
2.1 Основные понятия и обозначения 9
2.2 Искусственные нейронные сети 9
2.4 Классификация нейронов 11
2.4.1 Классификация по положению нейронов в топологии сети 11
2.4.2 Классификация по типу функции активации 12
2.5 Классификация нейронных сетей 15
2.5.1 Классификация по типу обрабатываемой информации 16
2.5.2 Классификация по характеру настройки весов 16
2.5.3 Классификация по характеру обучения 17
2.5.4 Классификация по характеру связей 20
2.5.5 Нейронные сети в моделировании физических процессов 20
3 Алгоритмы обучения нейронных сетей 22
3.1 Нормализация данных 22
3.2 Метод обратного распространения ошибки 23
3.3 Г енетический алгоритм 26
4 Применение метода нейронных сетей 29
4.1 Постановка задачи 29
4.2 Нейронная сеть для восстановления скорости волны в слое 29
4.3 Восстановление продольной скорости и плотности 34
4.4 Программный продукт 40
ЗАКЛЮЧЕНИЕ 56
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ 58
ПРИЛОЖЕНИЕ 64
1 Прямые и обратные задачи дифракции на упругом слое 6
2 Нейронные сети 9
2.1 Основные понятия и обозначения 9
2.2 Искусственные нейронные сети 9
2.4 Классификация нейронов 11
2.4.1 Классификация по положению нейронов в топологии сети 11
2.4.2 Классификация по типу функции активации 12
2.5 Классификация нейронных сетей 15
2.5.1 Классификация по типу обрабатываемой информации 16
2.5.2 Классификация по характеру настройки весов 16
2.5.3 Классификация по характеру обучения 17
2.5.4 Классификация по характеру связей 20
2.5.5 Нейронные сети в моделировании физических процессов 20
3 Алгоритмы обучения нейронных сетей 22
3.1 Нормализация данных 22
3.2 Метод обратного распространения ошибки 23
3.3 Г енетический алгоритм 26
4 Применение метода нейронных сетей 29
4.1 Постановка задачи 29
4.2 Нейронная сеть для восстановления скорости волны в слое 29
4.3 Восстановление продольной скорости и плотности 34
4.4 Программный продукт 40
ЗАКЛЮЧЕНИЕ 56
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ 58
ПРИЛОЖЕНИЕ 64
Многие технические задачи тесно связаны с дифракцией звуковых волн. В теории дифракции можно выделить множество исследований, посвященных изучению процессов, которые происходят в однородных и неоднородных средах. Постановка и развитие новых задач в данной области обусловливается, в первую очередь, быстроразвивающимися технологиями и исследованиями в области медицинской диагностики, геофизики, дефектоскопии, шумоизоляции и так далее.
Задача шумоизоляции актуальна не только при рассмотрении строительных материалов, применяемых в современных конструкциях, но и для конструирования автомобилей и других механических средств. Исследования, направленные на минимизацию шума и методикам измерения акустических параметров, представлены в статьях [1,2].
Дефектоскопия позволяет производить анализ исследуемого образца без разрушения данного материала (недеструктивный анализ), а это, в свою очередь, в некоторых случаях может быть основополагающим критерием при изучении явлений в медицине, в криминалистике или в промышленной отрасли.
Возникающие при восстановлении упругих параметров обратные задачи являются плохо обусловленными, и для их решения используются методы регуляризации. Эти методы обеспечивают стабильность решения, но при этом ухудшают точность. Погрешность методов в частотной области зависит от выбора частотного диапазона, используемого в обратной задаче [3,4]. Однако точные критерии выбора частотного диапазона не всегда легко предсказуемы [5].
При решении обратных задач важна любая априорная информация. Такая информация может быть получена, например, при анализе амплитудно-частотных характеристик. Например, прохождение волн через градиентные слои определенных типов [6], фрактальные слои [7] или стратифицированные геологические среды[8]. Также необходимо иметь в виду, что иногда некоторые измеренные величины при различных частотах совпадают для разных слоев [9].
Среди методов решения можно выделить аналитически аппроксимационные методы [10-12] и методы последовательного снятия влияния вышележащих слоёв [13,14]. Чаще всего, задачи восстановления неизвестных параметров решают методами оптимизации, которые минимизируют ошибку между измеренными и вычисленными данными. Также возникают задачи, когда данные являются неполными или искажены шумом [15].
Применяемые методы можно разделить на методы локальной и глобальной оптимизации. Например, методами локальной оптимизации являются градиентные и квази-ньютоновские методы, а также метод Гаусса-Ньютона [16,17]. Эти методы являются быстрыми, но часто сходятся к локальным минимумам, обусловленными нелинейной природой задачи. Поэтому, эти подходы можно рекомендовать, когда известна априорная информация. Для методов глобальной оптимизации не нужна априорная информация, но они требуют большого числа итераций.
Из методов глобальной оптимизации, используемых в обратных задачах акустики, можно выделить метод нейронных сетей [18], генетические алгоритмы[19,20] и оптимизации методом роя частиц [21-25]. Каждый из методов обладает как преимуществами, так и недостатками[26-28]. В силу этого, иногда используют гибридные техники различных методов, чтобы воспользоваться преимуществами каждого из методов [29,30] .
В настоящей работе для восстановления неизвестных упругих параметров использован метод нейронных сетей. Стоит отметить, что на сегодняшний день нейронные сети зарекомендовали себя как мощное и эффективное средство моделирования сложных процессов во многих областях науки [31]. На основании функционирования и принципа работы биологической нейронной сети можно воссоздать модель искусственного нейрона, имеющую программную и аппаратную реализацию. Искусственные нейронные сети (ИНС) завоевывают все большую популярность за счет относительной простоты строения и возможности приспосабливаться к конкретному кругу задач. Следует учесть, что применимость ИНС определяется, в первую очередь, из контекста поставленной задачи.
Обучение ИНС достаточно сложный и трудоемкий процесс. Существует множество различных алгоритмов обучения, имеющих свои плюсы и минусы [32]. Среди алгоритмов, прежде всего, можно выделить метод обратного распространения ошибки, который является градиентным методом и, соответственно, хорошо подходит для задач, имеющих четко выраженный глобальный экстремум. Для класса задач, имеющих множество локальных экстремумов, более предпочтительными являются методы глобальной оптимизации, например, генетический алгоритм [33].
Задача шумоизоляции актуальна не только при рассмотрении строительных материалов, применяемых в современных конструкциях, но и для конструирования автомобилей и других механических средств. Исследования, направленные на минимизацию шума и методикам измерения акустических параметров, представлены в статьях [1,2].
Дефектоскопия позволяет производить анализ исследуемого образца без разрушения данного материала (недеструктивный анализ), а это, в свою очередь, в некоторых случаях может быть основополагающим критерием при изучении явлений в медицине, в криминалистике или в промышленной отрасли.
Возникающие при восстановлении упругих параметров обратные задачи являются плохо обусловленными, и для их решения используются методы регуляризации. Эти методы обеспечивают стабильность решения, но при этом ухудшают точность. Погрешность методов в частотной области зависит от выбора частотного диапазона, используемого в обратной задаче [3,4]. Однако точные критерии выбора частотного диапазона не всегда легко предсказуемы [5].
При решении обратных задач важна любая априорная информация. Такая информация может быть получена, например, при анализе амплитудно-частотных характеристик. Например, прохождение волн через градиентные слои определенных типов [6], фрактальные слои [7] или стратифицированные геологические среды[8]. Также необходимо иметь в виду, что иногда некоторые измеренные величины при различных частотах совпадают для разных слоев [9].
Среди методов решения можно выделить аналитически аппроксимационные методы [10-12] и методы последовательного снятия влияния вышележащих слоёв [13,14]. Чаще всего, задачи восстановления неизвестных параметров решают методами оптимизации, которые минимизируют ошибку между измеренными и вычисленными данными. Также возникают задачи, когда данные являются неполными или искажены шумом [15].
Применяемые методы можно разделить на методы локальной и глобальной оптимизации. Например, методами локальной оптимизации являются градиентные и квази-ньютоновские методы, а также метод Гаусса-Ньютона [16,17]. Эти методы являются быстрыми, но часто сходятся к локальным минимумам, обусловленными нелинейной природой задачи. Поэтому, эти подходы можно рекомендовать, когда известна априорная информация. Для методов глобальной оптимизации не нужна априорная информация, но они требуют большого числа итераций.
Из методов глобальной оптимизации, используемых в обратных задачах акустики, можно выделить метод нейронных сетей [18], генетические алгоритмы[19,20] и оптимизации методом роя частиц [21-25]. Каждый из методов обладает как преимуществами, так и недостатками[26-28]. В силу этого, иногда используют гибридные техники различных методов, чтобы воспользоваться преимуществами каждого из методов [29,30] .
В настоящей работе для восстановления неизвестных упругих параметров использован метод нейронных сетей. Стоит отметить, что на сегодняшний день нейронные сети зарекомендовали себя как мощное и эффективное средство моделирования сложных процессов во многих областях науки [31]. На основании функционирования и принципа работы биологической нейронной сети можно воссоздать модель искусственного нейрона, имеющую программную и аппаратную реализацию. Искусственные нейронные сети (ИНС) завоевывают все большую популярность за счет относительной простоты строения и возможности приспосабливаться к конкретному кругу задач. Следует учесть, что применимость ИНС определяется, в первую очередь, из контекста поставленной задачи.
Обучение ИНС достаточно сложный и трудоемкий процесс. Существует множество различных алгоритмов обучения, имеющих свои плюсы и минусы [32]. Среди алгоритмов, прежде всего, можно выделить метод обратного распространения ошибки, который является градиентным методом и, соответственно, хорошо подходит для задач, имеющих четко выраженный глобальный экстремум. Для класса задач, имеющих множество локальных экстремумов, более предпочтительными являются методы глобальной оптимизации, например, генетический алгоритм [33].
В рамках данной работы был разработан программный продукт для восстановления продольной скорости и плотности однородного слоя методом искусственных нейронных сетей.
В процессе выполнения дипломной работы были решены следующие задачи:
1) Создан программный продукт «Восстановление упругих параметров однородного слоя методом нейронных сетей».
2) Проведены численные эксперименты.
3) Сделаны выводы о преимуществах и недостатках применения тех или иных функций активации и алгоритмов обучения.
4) Написана справка к программе.
Особое внимание уделено численным экспериментам. Сделан вывод, что увеличение количества слоев и нейронов в слоях улучшают результаты восстановления неизвестных параметров. Это обусловлено тем, что с расширением сети увеличивается количество межнейронных связей. Сети с одной и той же функцией активации и методом обучения при изменении количества слоев и нейронов ведут себя неоднозначно. Отдельно исследована зависимость ошибки обучения от числа обучающего множества.
Обучение нейронной сети для восстановления упругих параметров распространения волны в однородном слое целесообразно проводить с помощью генетического алгоритма в случае несложной ИНС. Такой вывод следует из того, что целевая функция (ошибка сети) содержит множество локальных экстремумов.
Второй вполне очевидный вывод состоит в том, что увеличение числа нейронов улучшает приближение искомых значений, и работа сети с усложнением своей структуры (увеличение нейронов) становится более устойчивой.
Третий вывод относительно функций активации свидетельствует, что все рассмотренные в работе функции (кусочно-линейная, сигмоидальная и функция Гаусса) примерно одинаково приближают искомые скорости. Но ИНС, дающие более устойчивые решения, получаются с использованием генетического алгоритма с гауссовой функцией активации.
Восстановление двух параметров: продольной скорости и плотности
предпочтительнее проводить сетью, обученной для восстановления акустической жесткости и волнового числа.
Персептроны с небольшим количеством нейронов с высокой точностью восстанавливают один неизвестный параметр упругого слоя и могут быть рекомендованы, как способ быстрого и качественного анализа.
Восстановление двух неизвестных параметров, например, плотности и скорости распространения упругой волны решают задачу с большой погрешностью. Этот подход может быть использован, как примерная или начальная оценка упругих параметров.
В процессе выполнения дипломной работы были решены следующие задачи:
1) Создан программный продукт «Восстановление упругих параметров однородного слоя методом нейронных сетей».
2) Проведены численные эксперименты.
3) Сделаны выводы о преимуществах и недостатках применения тех или иных функций активации и алгоритмов обучения.
4) Написана справка к программе.
Особое внимание уделено численным экспериментам. Сделан вывод, что увеличение количества слоев и нейронов в слоях улучшают результаты восстановления неизвестных параметров. Это обусловлено тем, что с расширением сети увеличивается количество межнейронных связей. Сети с одной и той же функцией активации и методом обучения при изменении количества слоев и нейронов ведут себя неоднозначно. Отдельно исследована зависимость ошибки обучения от числа обучающего множества.
Обучение нейронной сети для восстановления упругих параметров распространения волны в однородном слое целесообразно проводить с помощью генетического алгоритма в случае несложной ИНС. Такой вывод следует из того, что целевая функция (ошибка сети) содержит множество локальных экстремумов.
Второй вполне очевидный вывод состоит в том, что увеличение числа нейронов улучшает приближение искомых значений, и работа сети с усложнением своей структуры (увеличение нейронов) становится более устойчивой.
Третий вывод относительно функций активации свидетельствует, что все рассмотренные в работе функции (кусочно-линейная, сигмоидальная и функция Гаусса) примерно одинаково приближают искомые скорости. Но ИНС, дающие более устойчивые решения, получаются с использованием генетического алгоритма с гауссовой функцией активации.
Восстановление двух параметров: продольной скорости и плотности
предпочтительнее проводить сетью, обученной для восстановления акустической жесткости и волнового числа.
Персептроны с небольшим количеством нейронов с высокой точностью восстанавливают один неизвестный параметр упругого слоя и могут быть рекомендованы, как способ быстрого и качественного анализа.
Восстановление двух неизвестных параметров, например, плотности и скорости распространения упругой волны решают задачу с большой погрешностью. Этот подход может быть использован, как примерная или начальная оценка упругих параметров.