Тип работы:
Предмет:
Язык работы:


Применение метода максимума энтропии в задачах статистики

Работа №130015

Тип работы

Магистерская диссертация

Предмет

математика и информатика

Объем работы31
Год сдачи2019
Стоимость5500 руб.
ПУБЛИКУЕТСЯ ВПЕРВЫЕ
Просмотрено
46
Не подходит работа?

Узнай цену на написание


1 Введение 2
2 Проблема оценивания неизвестных параметров распределений случайных величин 4
2.1 Основные определения 5
3 Применение принципа максимума энтропии 8
3.1 Формулировка принципа максимальной энтропии . . 9
4 Оценивание неизвестных параметров модифицированного бета-распределения 12
4.1 Решение системы интегральных уравнений 14
4.2 Оценивание параметров 17
5 Результаты и выводы 19
6 Заключение 20
6.1 Численный пример 21
7 Список литературы 22
8 Приложение 23
8.1 Метод сетки 23
8.2 Градиентный метод 28


В наше время трудно переоценить значимость информации, ведь у кого ее больше тот более востребован. Именно поэтому с каждым годом на обработку и добычу информации выделяются огромные средства. Вследствие этого набирают популярность методы и алгоритмы для ее обработки. До 50-х годов прошлого века основное определение энтропии было дано Р.Клазиусом в 1865 году для термодинамических процессов. Однако в 1948 году Клод Шеннон предложил вероятностный подход для актуальной на то время проблемы рациональной передачи информации через зашумленный коммуникационный канал. Его идеи послужили основой для разработки двух основных направлений: теории информации и теории кодирования. Эти области активно развиваются и сейчас, но самое главное, что на основе этих идей он опубликовал две статьи в «Bell System Technical Journal», где и ввел понятия энтропии, как меры случайности. Используя данное понятия энтропии, американский ученый Э.Т. Джейнс сформулировал «принцип максимума энтропии» для решения сложных задач статистики. В настоящее время метод максимума энтропии активно применяют в таких важных областях, как финансы, биометрическая аутентификация, моделирование экстремальных событий. В данной работе будет предложен и показан алгоритм применения метода максимума энтропии к задачам с неполной информацией. При реализации принципа максимума энтропии используется метод множителей Лагранжа, который позволяет перейти от условной оптимизации к безусловной. Данный переход позволяет написать решение задачи оптимизации в параметрическом виде. Результатом работы является алгоритм и программа, разработанная на языке python3, позволяющие получить эффективные оценки параметров бета-распределения, не имея полной информации. Бета-распределение с неполной информацией назовем модифицированным бета-распределением.

Возникли сложности?

Нужна помощь преподавателя?

Помощь в написании работ!


В данной работе проведено исследование о возможности оценивания параметров распределения с неполной информации. В результате работы предложен алгоритм получения такого распределения на основе принципа максимума энтропии с использованием метода множителей Лагранжа. Получены эффективные оценки параметров модифицированного бета-распределения. Решена двумя способами система интегральных уравнений, связывающих параметры плотности модифицированного бета-распределения и эмпирические моменты. Применение методов сетки и градиентного проиллюстрировано на численном примере.


1. Шмыров А.С., Шмыров В.А. Теория вероятностей: учебное посо- бие.2012. стр. 162-180.
2. Боровков А.А. Математическая статистика: Учебник.4-е изд. 2010. Стр.178-200.
3. E.T. Jaynes. Probably theory: The logic of science. 1995. Chapter 11.
4. Боровков А.А. Теория вероятностей. 3-е издание. 1999.
5. Гриднев В.А. Оценивание параметров модифицированного бета- распределения: Вкр. 2017
6. Sulagna Mohanty. Estimation of Parameters of Some Continuous Distribution Functions: Master of Science. 2012
7. Roger Levy. Probabilistic Models in the Study of Language.
Chapter 2. 2012
8. Jaynes ET. Information Theory and Statistical Mechanics.
Phys Rev. 1957;106(4):620-30.
9. Cover TM, Thomas JA. Elements of information theory. 2nd ed. Hoboken, N.J.: Wiley-Interscience; 2006.



Работу высылаем на протяжении 30 минут после оплаты.



Подобные работы


©2025 Cервис помощи студентам в выполнении работ