Тема: Применение метода максимума энтропии в задачах статистики

В наше время трудно переоценить значимость информации, ведь у кого ее больше тот более востребован. Именно поэтому с каждым годом на обработку и добычу информации выделяются огромные средства. Вследствие этого набирают популярность методы и алгоритмы для ее обработки. До 50-х годов прошлого века основное определение энтропии было дано Р.Клазиусом в 1865 году для термодинамических процессов. Однако в 1948 году Клод Шеннон предложил вероятностный подход для актуальной на то время проблемы рациональной передачи информации через зашумленный коммуникационный канал. Его идеи послужили основой для разработки двух основных направлений: теории информации и теории кодирования. Эти области активно развиваются и сейчас, но самое главное, что на основе этих идей он опубликовал две статьи в «Bell System Technical Journal», где и ввел понятия энтропии, как меры случайности. Используя данное понятия энтропии, американский ученый Э.Т. Джейнс сформулировал «принцип максимума энтропии» для решения сложных задач статистики. В настоящее время метод максимума энтропии активно применяют в таких важных областях, как финансы, биометрическая аутентификация, моделирование экстремальных событий. В данной работе будет предложен и показан алгоритм применения метода максимума энтропии к задачам с неполной информацией. При реализации принципа максимума энтропии используется метод множителей Лагранжа, который позволяет перейти от условной оптимизации к безусловной. Данный переход позволяет написать решение задачи оптимизации в параметрическом виде. Результатом работы является алгоритм и программа, разработанная на языке python3, позволяющие получить эффективные оценки параметров бета-распределения, не имея полной информации. Бета-распределение с неполной информацией назовем модифицированным бета-распределением.
Купить

В данной работе проведено исследование о возможности оценивания параметров распределения с неполной информации. В результате работы предложен алгоритм получения такого распределения на основе принципа максимума энтропии с использованием метода множителей Лагранжа. Получены эффективные оценки параметров модифицированного бета-распределения. Решена двумя способами система интегральных уравнений, связывающих параметры плотности модифицированного бета-распределения и эмпирические моменты. Применение методов сетки и градиентного проиллюстрировано на численом примере.
Купить