ВВЕДЕНИЕ 3
1 Последовательная схема обработки данных при анализе временных рядов с
зависимыми случайными величинами 8
2 Точечные оценки для параметров в модели TAR (1) 12
2.1 Результаты построения точечных оценок параметров для TAR(1) 14
3 Неасимптотическая достоверная оценка параметра пороговой
авторегрессии в процессе TAR (1) с неизвестной дисперсией шума 19
3.1 Трехступенчатая последовательная точечная оценка 19
ЗАКЛЮЧЕНИЕ 33
СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ 34
ПРИЛОЖЕНИЕ А Код программы на MATLAB
В последние десятилетия анализ временных рядов (случайных процессов с дискретным временем) производился, в основном, при помощи линейных моделей. Но во многих приложениях, например, в биологии, экономике и финансах, гидрологии, а также в технике, психологии, сельском хозяйстве, физике, химии, медицине и ряде других отраслей науки и техники для временных рядов, как оказалось, характерна кусочная линейность. Хауэлл Тонг предложил описывать такие временные ряды при помощи моделей, которые были названы пороговыми. Он показал, что кусочно линейными дискретными временными рядами может быть описан целый ряд нелинейных эффектов [1].
Модель пороговой авторегрессии (threshold autoregressive model, сокращенно TAR) относится к классу нелинейных авторегрессионных моделей. Основным ее свойством является зависимость параметра авторегрессии от предыдущих значений процесса, в результате чего модель даже первого порядка хорошо описывает процессы с явно асимметричным относительно нуля распределением [2].
Тонг и Лим в работе [3] приводят много примеров, когда пороговые модели не только обеспечивают лучшее время, чем линейные модели, но и демонстрируют строго нелинейное поведение (например, предельные циклы, резонанс скачка, гармонические искажения и т. д.) которые линейные модели не могут дублировать.
Временной ряд - это упорядоченная последовательность значений переменной, которые произошли в равные промежутки времени. Хорошо известно, что анализ временных рядов включает в себя методы анализа данных временных рядов для извлечения значимой статистики и других характеристик набора данных. Еще одна очень широко используемая область, известная как прогнозирование временных рядов или прогнозирование будущих значений на основе данных наблюдений. Чтобы предсказать любую серию данных, может потребоваться информация о значениях параметра совокупности модели. Поскольку параметры неизвестны, важно оценить их по данным наблюдений. Для оценки параметров в литературе доступны два метода: точечная оценка, оценка доверительного интервала [4]. Точечная оценка - это единичное значение, заданное в качестве оценки интересующего параметра совокупности, например, среднего значения некоторой величины. Вместо этого интервальная оценка задает диапазон, в пределах которого оценивается значение параметра. Доверительные интервалы обычно сообщаются в таблицах или графиках вместе с точечными оценками тех же параметров, чтобы показать надежность оценок [5].
Доверительные интервалы были введены в статистику Джоном Нейманом в статье, опубликованной в 1937 году [6]. Однако потребовалось довольно много времени, чтобы доверительные интервалы были точно и регулярно использованы.
В литературе хорошо задокументировано, что методы последовательной выборки обеспечивают полезный способ построения доверительных интервалов или областей для параметров с фиксированным размером и заданной вероятностью охвата. Чоу и Роббинс [7] предложили правило последовательной выборки для построения доверительного интервала фиксированной ширины для неизвестного среднего с заданной вероятностью и разработали его асимптотическую теорию. Это правило выборки называется «процедурой Чоу-Роббинса». Их идеи были использованы для разработки последовательных доверительных областей фиксированного размера для параметров, связанных с зависимыми и независимыми наблюдениями. Независимые, одинаково распределенные наблюдения можно найти в источниках Шриваставе [8], Хану [9], Ю [10], Вудруфе [11] и Чангу и Мартинсеку [12].
Что касается временных рядов, Шрирам [13] разработал точечную и интервальную оценку среднего значения авторегрессионной модели первого порядка. Фахре-Закери и Ли [14], [15] позже рассмотрели последовательную точечную и доверительную оценку фиксированной ширины для среднего значения скалярного или векторнозначного линейного процесса. Последовательные процедуры, касающиеся как точечной оценки, так и наборов достоверности фиксированной точности неизвестных коэффициентов авторегрессии, были рассмотрены Ли [16]. Шрирам [17] предложил правило остановки для построения последовательного доверительного эллипсоида фиксированного размера для параметров в моделях TAR. Шиохама и Танигучи [18] рассмотрели задачи последовательного оценивания функционала спектральной плотности гауссовского стационарного процесса. Недавно Шиохама и Танигучи [19] рассмотрели проблемы последовательной точечной оценки, возникающие в моделях регрессии временных рядов.
Проблема построения доверительного интервала фиксированной ширины с любой заданной точностью при конечном размере выборки может быть достаточно сложной даже для процесса с независимыми наблюдениями. Для случая гауссовских независимых переменных с неизвестной дисперсией Стейн [20] предложил двухэтапную последовательную процедуру построения такого интервала для неизвестного среднего.
Модели случайных процессов, описываемых стохастической разностью и стохастическим дифференциалом, широко используются в задачах оптимального управления и прогнозирования, в финансовой математике, в анализе временных рядов. Для оценки неизвестных параметров используются метод максимального правдоподобия и метод наименьших квадратов. Качество получаемых оценок обычно исследуется в асимптотической постановке, когда количество наблюдений стремится к бесконечности. Задача оценивания с любой заданной точностью параметра процесса авторегрессии первого порядка рассматривалась Борисовым и Коневым в [21]. Предложена последовательная оценка. Выбор момента остановки гарантирует верхнюю границу среднеквадратичной точности. Чтобы построить эту оценку, необходимо знать дисперсию шумов. Отметим, что Лай и Зигмунд [22] предложили аналогичную процедуру, но были исследованы только асимптотические свойства оценки. Последовательная оценка неизвестного параметра процесса диффузионного типа с любой заданной среднеквадратичной точностью описана в работе Новикова [23]. У Дмитриенко и Коневева [24] была введена двухэтапная процедура для построения оценки неизвестного параметра, если дисперсия шума неизвестна. На первом этапе получается верхняя граница дисперсии. Следует отметить, что, если абсолютное значение параметра авторегрессии близко к единице, то оценка Дмитриенко и Конева многократно превышает дисперсию; следовательно, время оценки резко увеличивается. В работе Конева и Воробейчикова [25] была изменена процедура последовательного оценивания Борисова и Конева [21]; это позволяет получить оценку параметра точечной авторегрессии с неасимптотическим гауссовым распределением и построить доверительный интервал фиксированной ширины с любой заданной вероятностью охвата. В отличие от [24], в данной работе используется дополнительный этап для получения оценки неизвестного параметра авторегрессии, а затем улучшается верхняя граница неизвестной дисперсии. Это приводит к сокращению времени оценки по сравнению с работой Дмитриенко и Конева в [24]. Свойства оценок исследованы в асимптотической постановке, так как количество наблюдений стремится к бесконечности. В данной работе строится доверительный интервал фиксированного размера с любой заданной вероятностью покрытия.
Целью работы является исследование модели пороговой авторегрессии с доверительным оцениванием её параметров.
Соответственно задачами работы стали:
1. Построить точечную оценку на основе правила остановки для оценки параметров в модели TAR(1).
2. Смоделировать модель TAR(1) с оценкой параметров.
3. Выполнить моделирование пороговой авторегрессии с неизвестной дисперсией, построить доверительный интервал. Посчитать вероятность попадания истинных значений параметров в доверительную область.
4. Сравнить результаты моделирования при большом количестве реализаций с известной дисперсией и неизвестной.
5. Рассмотреть модель TAR(1) с негауссовскими распределениями шумов.
Таким образом, в данной работе была исследована модель пороговой авторегрессии TAR(1) с использованием гауссовского шума. Была обозначена область применения модели на практике, построены точечные оценки. Также построена модель TAR(1) и вычислены все параметры. Было проведено сравнение результатов моделирования с работой [28].
Проведена трехэтапная процедура для оценки параметров пороговой авторегрессии в TAR(1) и для построения доверительного интервала фиксированной ширины с любой заданной точностью охвата.
Выполнено сравнение результатов моделирования при большом количестве реализаций с известной дисперсией и неизвестной, сделаны выводы. Также рассмотрена модель TAR(1) с негауссовским распределением шумов.
1. Горяйнов В.Б. Оценивание порога в пороговой авторегрессии // Математика и математическое моделирование. - 2017. - № 5. - С. 1-14.
2. Воробейчиков С.Э. Гарантированное оценивание параметров порогового авторегрессионного процесса с условной неоднородностью / С.Э. Воробейчиков, Ю.Б. Буркатовская // Вестник томского государственного университета. Управление, вычислительная техника и информатика. - 2013. - № 2(23). С. 32-41.
3. Tong H. Threshold Autoregression, Limit Cycles and Cyclical Data / H. Tong, K. S. Lim // Journal of the Royal Statistical Society. Series B (Methodological). - 1980. - Vol. 42, № 3. - P. 245-292.
4. Shipra Banik. Estimation of AR(1) parameter with confidence / Shipra Banik , B. M. Golam Kibria // Journal of Statistics: Advances in Theory and Applications. - 2019. - Vol. 21, № 1. - P. 1-21.
5. Confidence interval [Электронный ресурс] // Wikipedia: the free
encyclopedia - Электрон. дан. - [Б. м.], 2021. - URL:
https://en.wikipedia.org/wiki/Confidence_interval(дата обращения: 05.04.2021).
6. Neyman, J. Outline of a theory of statistical estimation based on the classical theory of probability // Philosophical Transactions of the Royal Society of London. Series A, Mathematical and Physical Sciences. - 1937. - Vol. 236, issue 767. - P. 333-380.
7. Chow Y. S. On the asymptotic theory of fixed width sequential confidence intervals for the mean / Y. S. Chow, H. E. Robbins // Ann. Math. Statist. - 1965. - Vol. 36. - P. 457-462.
8. Srivastava M. S. On fixed-width confidence bounds for regression parameters and mean vector // J. Roy. Statist. Soc. Ser. B. - 1967. - Vol. 29. - P. 132-140.
9. Khan R. A. A general method of determining fixed-width confidence intervals // Ann. Math. Statist. - 1969. - Vol. 40. - P. 704-709.
10. Yu K. F. On fixed-width confidence intervals associated with maximum likelihood estimation // Journ. Theor. Probab. - 1989. - Vol. 2. - P. 193-199.
11. Woodroofe, M. Nonlinear Renewal Theory in Sequential Analysis. SIAM, Philadelphia, 1982. - 119 p.
12. Chang, Y. C. I. Fixed size confidence regions for parameters of a logistic regression models / Y. C. I. Chang, A. T. Martinsek // Ann. Statist. - 1992.
- Vol. 20. - P. 1953-1969.
13. Sriram T. N. Sequential estimation of the mean of a first order stationary process // Ann. Statist. - 1987. - Vol. 15. - P. 1079-1090.
14. Fakhre-Zakeri I. Sequential estimation of the mean of a linear process / I. Fakhre-Zakeri, S. Lee // Seq. Anal. - 1992. - Vol. 11. - P. 181-197.
15. Fakhre-Zakeri I. Sequential estimation of the mean vector of a multivariate linear process / I. Fakhre-Zakeri, S. Lee // J. Multivariate Anal. - 1993.- Vol. 47. - P. 196-209.
16. Lee S. Sequential estimation for the parameter of a stationary autoregressive model // Seq. Anal. - 1994. - Vol. 13. - P. 301-317.
17. Sriram, T. N. Fixed size confidence regions for parameters of threshold AR(1) models // J. Statist. Plan. Inf. - 2001. - Vol. 97. - P. 293-304.
18. Shiohama, T. Sequential estimation for a functional of the spectral density of a Gaussian stationary process / T. Shiohama, M. Taniguchi // Ann. Inst. Statist. Math. - 2001. - Vol. 53. - P. 142-158.
19. Shiohama, T. Sequential estimation for time series regression models / T. Shiohama, M. Taniguchi // J. Statist. Plan. Inf. - 2004. - Vol. 123. - P. 295-312.
20. Stein C. A Two-Sample Test for a Linear Hypothesis Whose Power is Independent of the Variance // Ann. Math. Statist. - 1945. - Vol. 16, № 2. - P. 253-258.
21. Borisov V. Z. Sequential estimation of discrete-time process parameters / V. Z. Borisov, V. V. Konev // Automation and Remote Control. - 1977.
- Vol. 38, № 10. - P. 1475-1480.
22. Lai T. L. Fixed Accuracy Estimation of an Autoregressive Parameter / T. L. Lai, D. Siegmund // Annals of Statistics. - 1983. - Vol. 11, № 2. - P. 478-485.
23. Novikov A. Sequential Estimation of Parameters of Processes of Diffusion Type // Math. Notes. - 1972. - Vol. 12, № 2. - P. 627-638.
24. Дмитриенко А. А. О гарантированном оценивании параметров авторегрессии при неизвестной дисперсии помех / А. А. Дмитриенко, В. В. Конев // Автоматика и телемеханика. - 1994. - № 2. С. 87-99.
25. Konev V. V. Non-asymptotic confidence estimation of the parameters in stochastic regression models with Gaussian noises / V. V. Konev, S. E. Vorobeychikov // Sequential Analysis. - 2017. - Vol. 36, № 1. - P. 55-75.
26. Greenwood P. E. Asymptotic minimaxity of a sequential estimator for a first order autoregressive model / P. E. Greenwood, A. N. Shiryaev // Stochastics and Stochastic Reports. - 1992. - Vol. 38. - P. 49-65.
27. Shiryaev A.N. Statistical experiments and decisions / A.N. Shiryaev, V.G. Spokoiny // Asymptotic theory. - WS, 2000.
28. Sriram T. N. Sequential Estimation for Time Series Models / T. N. Sriram, R. Iaci // Sequential Analysis. - 2014. - Vol. 33. - P. 136 - 157.
29. Vorobeychikov S. E. Non-asymptotic Confidence Estimation of the Autoregressive Parameter in AR(1) Process with an Unknown Noise Variance / S. E. Vorobeychikov, Y. B. Burkatovskaya // Austrian Journal of Statistics. - 2019. - Vol. 49, № 4. - P. 19-26.