Оценивание, распознавание и передача информации в стохастических системах в случае совокупности непрерывных и дискретных наблюдений с памятью Рожкова Светлана Владимировна

Содержание к диссертации

Введение

1 Обобщенная скользящая экстраполяция стохастических процессов по совокупности непрерывных и дискретных наблюдений со скользящей памятью 23

1.1 Математические модели процессов 23

1.2 Основное уравнение нелинейной обобщенной скользящей экстраполяции со скользящей памятью 29

1.3 Уравнение для семиинвариантной функции 42

1.4 Синтез экстраполятора в условиях апостериорной гауссовости 50

1.4.1 Некоторые предварительные результаты 52

1.4.2 Уравнение для семиинвариантной функции 55

1.4.3 Синтез экстраполятора 57

1.5 Исследование эффективности дискретного канала с памятью 74

1.6 Выводы 86

2 Непрерывно-дискретное оценивание стохастических процессов в случае наблюдений с памятью при наличии аномальных помех 88

2.1 Постановка задачи 89

2.2 Синтез фильтра-интерполятора-экстраполятора 91

2.3 Анализ свойств фильтра-интерполяра-экстраполятора 102

2.3.1 Оптимальность процедуры исключения аномальных наблюдений 102

2.3.2 Точность оценивания 105

2.4 Резервирование каналов наблюдения 111

2.4.1 Фиксированный момент включения системы с резервированием 112

2.4.2 Произвольный момент включения системы с резервированием 114

2.5 Анализ результатов 117

2.6 Исследование эффективности дискретного канала с памятью 121

2.7 Выводы . 130

Распознавание состояний стохастических систем в случае наблюдений с памятью 132

3.1 Распознавание в стохастических системах при непрерывно-дискретных наблюдениях с фиксированной памятью . 133

3.1.1 Постановка задачи 133

3.1.2 Общие соотношения 134

3.1.3 Случай эффективного вычисления At(9j : 9а) . 138

3.2 Распознавание в стохастических системах при непрерывно-дискретных наблюдениях со скользящей памятью 145

3.2.1 Постановка задачи 145

3.2.2 Общие соотношения 145

3.2.3 Случай эффективного вычисления At(dj : ва) . 148

3.3 Оценивание 154

3.4 Отсутствие обратной связи 156

3.5 Обнаружение аномальных помех 157

3.5.1 Постановка задачи 157

3.5.2 Общие соотношения 158

3.5.3 Случай резервирования каналов наблюдения 162

3.5.4 Эффективность наблюдений с памятью относительно наблюдений без памяти 164

3.6 Выводы 175

Информационный анализ задачи оценивания стохастических процессов 177

4.1 Информационный анализ в совместной задаче фильтрации и интерполяции 178

4.1.1 Постановка задачи 178

4.1.2 Общие соотношения 180

4.1.3 Условно-тауесовский случай 186

4.1.4 Информационная эффективность наблюдений с памятью относительно наблюдений с запаздыванием 192

4.1.5 Непосредственное нахождение I\t [X^X^ZQ^TJQ1] . 199

4.2 Информационный анализ в совместной задаче фильтрации и обобщенной экстраполяции 202

4.2.1 Постановка задачи 202

4.2.2 Общие соотношения 202

4.2.3 Условно-гауссовский случай 208

4.2.4 Информационная эффективность наблюдений с памятью относительно наблюдений без памяти . 214

4.3 О структуре количества информации по Шеннону в совместной задаче фильтрации и экстраполяции 223

4.3.1 Постановка задачи 223

4.3.2 Общие соотношения 224

4.3.3 Условно-гауссовский случай 230

4.4 Выводы 235

Оптимальная передача гауссовского марковского процесса по каналам с памятью и с запаздыванием при наличии бесшумной обратной связи 237

5.1 Каналы с памятью . 242

5.1.1 Постановка задачи 242

5.1.2 Решение. Свойства 242

5.2 Каналы с запаздыванием 252

5.2.1 Постановка задачи 252

5.2.2 Решение. Свойства 252

5.3 Смешанные ситуации 261

5.4 Исследование эффективности оптимальных способов передачи264

5.5 Выводы 279

Заключение 280

• Основное уравнение нелинейной обобщенной скользящей экстраполяции со скользящей памятью
• Оптимальность процедуры исключения аномальных наблюдений
• Случай эффективного вычисления At(9j : 9а) .
• Информационная эффективность наблюдений с памятью относительно наблюдений с запаздыванием

Введение к работе

Актуальность проблемы. Широкий класс встречающихся на практике задач обработки наблюдений [12, 17, 22, 75], управления [11, 16, 24, 78, 82, 108, 128, 137], навигации [11, 106, 118, 125], передачи сообщений [23, 121, 122, 123, 124, 130] сводится к следующей формальной схеме. Имеется в общем случае векторный случайный процесс Xf} содержащий некоторую полезную информацию, либо характеризующий состояние некоторой системы, подверженной случайным возмущениям, и недоступный непосредственному измерению (наблюдению). Имеется в общем случае векторный случайный процесс , который является выходом канала передачи #г, либо выходом измерительного устройства, контролирующего состояние системы, и который доступен непосредственному измерению (наблюдению). Необходимо по реализации г\ = {za; 0 о t} вынести некоторое • решение [ГЕ О] о процессе xt. При этом можно выделить два основных аспекта данной проблемы - статистический и информационный. Статистический аспект заключается в нахождении по наблюдениям z\ оценок процесса Xt и его неизвестных параметров, либо распознавание состояний этого процесса [81, 105, 115, 124]. При этом, в зависимости от соотношения между моментом получения последнего измерения и моментом времени, в который необходимо получить оценку значений процесса, различают три вида оценивания: интерполяция, фильтрация, экстраполяция [100, 102, 103, 104, 105]. Информационный же аспект заключается в нахождении количества информации о значениях хи которое содержится в реализации ZQ, И решение с использованием количества информации задач исследования информационной эффективности каналов передачи информации (каналов наблюдения), оптимальной передачи сигналов, максимизации пропускной способности каналов передачи [35, 81, 101, 156, 161]. В соответствии со сказанным для xt ш и zt будем использовать, в зависимости от рассматриваемых задач, следующие термины: xt - вектор состояния системы, ненаблюдаемый процесс, полезный сигнал; zt - вектор наблюдения, наблюдаемый процесс, принимаемый сигнал. В зависимости от того, что понимается под решением 6[xt; ZQ], для пары процессов {xt; Zt} ставятся следующие задачи.

Задача оценивания. По реализации z\ = {za\ 0 о i) процесса za найти для ха в момент времени а — т оценку fi(r, t) = ц[т, t; zj], как некоторый функционал от реализации z\. При этом: если т t, то fi(r, t) - оценка интерполяции (сглаживания); если г , то \i(г, t) - оценка экстраполяции (прогноза, предсказания); если г = t, то fj,(t) - оценка фильтрации.

Задача распознавания. Имеется несколько типов процесса xt и по реализации z\ нужно вынести решение о том, какой тип процесса Xt реализовался.

Задача передачи информации. Найти количество информации о значениях xt, содержащееся в реализации ZQ, И найти способ передачи сигнала, обеспечивающий передачу максимального количества информации и минимальную ошибку воспроизведения сигнала.

Задача управления. Требуется найти такое управление u{t) = u[t; ZQ], как некоторый функционал от реализации z\ наблюдаемого процесса, чтобы критерий J[x;u], характеризующий качество системы управления, достигал минимального значения.

Начало рассмотрению проблемы оценивания случайных процессов было положено классическими работами А.Н.Колмогорова [92] и Н. Винера (N. Wiener) [194], в которых они независимо друг от друга и следуя различным подходам решили проблему минимизации среднеквадратической ошибки оценок фильтрации и предсказания стационарных случайных процессов в классе линейных фильтров. Следующим фундаментальным вкладом в развитие теории оценивания случайных процессов являются работы Р.Е.Калмана (R.E.Kalman) [167], Р.Е.Калмана и Р.С. Бьюси (R.S. Busy) [168], в которых дается решение задач дискретной и непрерывной линейной фильтрации и предсказания. Некоторые задачи линейной фильтрации, интерполяции (сглаживания) и экстраполяции (прогноза) эффективно решены Дж.С. Медичем (J.S. Medich) [108, 182], Т. Кайлатом (Т. Kailath) и П. Фростом (P.Frost) [163, 164].

Решение практических проблем потребовало рассмотрения задач нелинейного оценивания. Наиболее значительным вкладом в решение задач нелинейного оценивания являются работы Р.Л. Стратоновича [127, 128], Р.Ш. Липцера [100], Р.Ш. Липцера и А.Н. Ширяева [102, 103, 104, 105], Дж.Р. Фишера (J.R. Fisher) и Е.Б. Стира (Е.В. Stear) [157], Дж.М. Ли (G.M. Lee) [178], Б.Д.О. Андерсона (B.D.O. Anderson) [145], Т. Накамизо (Т. Nakamizo) [184], В.М. Вонэма (W.M. Wonham) [24,196], Г. Каллианпура (G. Kallianpur) [81, 166], Г.Д. Кушнера (H.J. Kushner) [170], B.C. Пугачева и И.Н. Синицина [115, 116, 117, 188].

Одно из направлений дальнейшего развития теории оценивания случайных процессов связано с наличием памяти (memory) [162, 180], временных задержек (time-delays) [148, 197, 193], последействия (aftereffect) [89, 90, 91, 169] в математических моделях процессов, что связано с инерционностью систем и каналов наблюдения за состоянием систем, с конечным, а не мгновенным прохождением сигналов по каналам передачи. Решение ряда задач оценивания и управления для подобного класса систем было осуществлено В.Б. Колмановским [88, 89, 90, 91, }69], В.Л. Чаном (W.L. Chan) [153], Р.Х. Куонгом (R.H. Kwong) [173], М.К. Делфором (М.К. Delfour) [154], 3. Вонгом и Д.В.К. Хо (Z. Wang, D.W.C Но) [193], М. Базиным и Р. Мартинес-Зунига (М. Basin, R. Martinez-Zuniga) [148]. Поскольку в части перечисленных работ временные задержки присутствуют в моделях ненаблюдаемых процессов, в другой части - в моделях наблюдаемых процессов, а в некоторых -в моделях обоих процессов, то далее мы будем пользоваться термином "память", обозначая присутствие временных задержек только в моделях наблюдаемых процессов.

Во всех перечисленных выше работах оба процесса xt и zt одновременно являются процессами с непрерывным, либо дискретным временем. Однако на практике распространенной является ситуация, когда вместе с непрерывными наблюдениями могут присутствовать в отдельные моменты времени дискретные наблюдения rj(tm) (т = О,1,2, • • •). Подобным классом систем являются, например, навигационные системы подвижных объектов, в которых непрерывные наблюдения zt формируются из показаний бортовых измерителей, работающих непрерывно во времени, а дискретные r)(tm) - из показаний внешних источников (РЛС, спутники, акустические маяки и пр.), срабатывающих в отдельные моменты времени [106, 118]. Одной из первых работ, исследующих подобную ситуацию, является работа П.И. Кицула [84], которая посвящена обобщению фильтра Калмана на случай непрерывно-дискретных наблюдений. За ней последовало решение ряда задач оценивания и распознавание П.Й. Кицулом [85], Л.Е. Широковым [140] и Н.С. Деминым [46, 47, 48, 49, 50, 51, 52] для случая совокупности непрерывных и дискретных наблюдений.

Новый класс задач порождается ситуацией, когда наблюдаемые процессы Zt и r)(tm) обладают памятью произвольной кратности N относительно ненаблюдаемого процесса, то есть zt и r)(tm) зависят не только от текущих, но и от произвольного числа N прошлых значений хп,хТ2, • - ,XTN процесса xt. Для подобного класса процессов для случая памяти единичной кратности (N — 1) в работах Н.К. Кульмана, В.М. Хаметова [97] и Н.С. Демина [55] рассмотрена задача фильтрации, в [56] -задача экстраполяции, в [62] - задача передачи стохастических сигналов по непрерывно-дискретным каналам. Для случая памяти произвольной кратности N в работах О.Л Абакумовой, Н.С. Демина, Т.В. Сушко [1, 2, 3] рассмотрена задача фильтрации.

Другим актуальным классом задач являются задачи синтеза алгоритмов оценивания процессов в условиях наличия неопределенностей типа неизвестных параметров, либо аномальных помех, связанных с атмосферными, акустическими, искусственными помехами, а также с помехами, возникающими при отказах в измерительных устройствах [36, 37, 76, 83, 113, 121, 138]. Последний случай особенно важен, так как он связан с проблемой конструирования устройств оценивания, функционирующих в автоматическом режиме, которые могли бы выполнять свои функции в условиях нарушений нормального режима работы. В указанных работах в многомерном случае (в случае многоканального приема) рассматривались задачи, когда появление аномальных помех происходит сразу по всем каналам, хотя наиболее интересной и распространенной на практике ситуацией является появление аномальных помех в какой-то части каналов наблюдения. В настоящее время для решения подобных задач сформировалось четыре основных метода - адаптивный [121, 175], условно-оптимальный [115, 116, 117], минимаксный [186, 187] и метод, использующий первоначальное байесовское решение задачи фильтрации. Для случая непрерывно-дискретных наблюдений без памяти подобные задачи рассмотрены с использованием последнего метода в [64, 65, 66].

Таким образом, подводя итог проведенному анализу, можем утверждать, что актуальной проблемой является: а) решение задач оценивания (фильтрации, интерполяции, экстраполяции) и распознавания для случая, когда наблюдаемый процесс представляет собой совокупность непрерывных и дискретных во времени компонент, причем каналы наблюдения обладают памятью произвольной кратности; б) синтез алгоритмов оценивания в случае непрерывно-дискретных наблюдений с памятью произвольной кратности, когда в дискретных наблюдениях присутствуют аномальные помехи, и обнаружение аномальных помех; в) информационный анализ задач фильтрации, интерполяции и экстраполяции в случае непрерывно-дискретных наблюдений с памятью произвольной кратности.

Цель диссертационной работы. 1) На основе теории условных марковских процессов рассмотреть обобщенную скользящую экстраполяцию многомерного процесса с непрерывным временем Xt по совокупности реализаций многомерных процессов с непрерывным zt и дискретным rj(tm) временем, когда наблюдаемые процессы обладают памятью произвольной кратности N 1, т.е. зависят не только от текущих Xt, xtm, но и от произвольного числа N прошлых значений xTk, l;iV, ненаблюдаемого процесса xt в наиболее общей ситуации скользящей памяти и скользящей экстраполяции. Обобщенность задачи экстраполяции понимается в том смысле, что одновременно находятся оценки процесса xt в произвольном числе L будущих моментов времени 5i, • • •, SL.

2) Рассмотреть задачу синтеза и анализа свойств фильтра-интерполятоа-экстраполятора для процессов с непрерывным временем по совокупности реализаций процессов, обладающих памятью произвольной кратности N, когда экстраполяция осуществляется в произвольном числе будущих моментов времени, а в дискретных наблюдениях присутствуют аномальные помехи.

3) Рассмореть решение задачи нахождения шенноновских мер количества информации о значениях ненаблюдаемого процесса xt, которые содержатся в реализациях наблюдаемых процессов Zt, 7](tm), обладающих памятью произвольной кратности N для совместных задач фильтрации - интерполяции и фильтрации - обобщенной экстраполяции, а также для раздельных задач фильтрации, интерполяции, экстраполяции, исследовать структуру этих количеств информации.

4) Рассмотреть решение задачи оптимальной передачи стохастических процессов по непрерывно-дискретным каналам с памятью и с запаздыванием при наличии мгновенной бесшумной обратной связи.

Результаты по решению перечисленных выше задач выносятся на защиту Методы исследования включают в себя методы линейной алгебры, теории случайных процессов, теории обыкновенных и стохастических дифференциальных уравнений, общей теории статистических решений, і теории информации, математической статистики и статистики случайных процессов, математического анализа. Точные результаты формулируются в форме лемм, утверждений, теорем и следствий.

Существует три основных подхода к нахождению оптимальных оценок случайных процессов, суть которых заключается в следующем.

1. Нахождение апостериорных распределений (плотностей) значений ненаблюдаемого процесса с последующим нахождением оптимальной оценки, как первого момента этого распределения [81, 102, 103, 104, 105]. При этом существенным образом используется метод семиинвариантной функции [40, 79, 184].

2. Непосредственное нахождение оптимальной оценки, как апостериорного среднего, в том числе в классе условно-оптимальных оценок, когда решение ищется на некотором классе фильтров [115, 116, 117, 148, 188].

3. Использование принципа дуальности задач оптимального управления л и оптимального оценивания [9, 88, 91, 153].

По видимому наиболее универсальным следует признать первый подход. Во-первых, потому, что наиболее полная апостериорная инфоримация о случайных процессах содержится в апостериорных распределениях, на основе которых могут быть найдены все характеристики этих распределений. Во-вторых, потому, что при решении задач распознавания и передачи информации необходимо знание этих распределений [35, 43, 61, 62, 142, 143]. Поэтому в данной работе в основе всех исследований лежит нахождение совместной апостериорной плотности распределения значений ненаблюдаемого процесса во все моменты времени, присутствующие в постановке задач: в текущий момент времени t\ в прошлые моменты времени ті,Т2, • • • ,TJV, связанные с наличием памяти; в будущие моменты т времени si, 2, • • •, SL, которые являются моментами экстраполяции.

) Научная новизна.

1) Впервые решена задача обобщенной скользящей экстраполяции стохастических процессов по совокупности непрерывных и дискретных наблюдений со скользящей памятью произвольной кратности. Получено основное уравнение нелинейной обобщенной скользящей экстраполяции. В условиях апостериорной гауссовости осуществлен синтез скользящего непрерывно-дискретного фильтра-интерполятора-экстраполятора со скользящей памятью. Проанализированы известные результаты и частные задачи, решения которых следуют как следствия из полученного базового решения.

2) Впервые осуществлен совместный синтез оптимального в среднеквадратическом смысле несмещенного фильтра-интерполятора- экстраполятора в случае непрерывно-дискретных наблюдений с памятью произвольной кратности при наличии аномальных помех. Исследованы свойства полученного решения, касающиеся зависимости точности оценивания от структуры воздействия компонент вектора аномальных помех на компоненты вектора наблюдения и кратности резервирования каналов наблюдения.

3) Впервые решена задача распознавания случайных процессов по непрерывно-дискретным наблюдениям с памятью произвольной кратности и задача обнаружения аномальных помех в дискретных каналах наблюдения. На основе дивергенции по Кульбаку [95] исследовано качество обнаружения в зависимости от структуры воздействия компонент аномальной помехи на компоненты вектора наблюдения и от кратности резервирования каналов наблюдения.

4) Впервые решена задача нахождения шенноновских мер количества информации о значениях ненаблюдаемого процесса, которые содержатся в совокупности реализаций непрерывных и дискретных во времени процессов с памятью произвольной кратности для совместных задач фильтрации - интерполяции, и фильтрации - обобщенной экстраполяции. Исследована структура информационных количеств и информационная эффективность наблюдений с памятью.

5) Впервые решена задача передачи гауссовского марковского процесса диффузионного типа по каналам с памятью и с запаздыванием при наличии мгновенной бесшумной обратной связи. Исследована эффективность оптимальных непрерывно-дискретных способов передачи при фильтрационном, интерполяционном и экстраполяционном приемах.

Теоретическая ценность. Полученные результаты могут служить основой для дальнейших исследований в области решения задач оценивания и распознавания случайных процессов по совокупности непрерывных и дискретных наблюдений с памятью, а также задач оптимальной передачи стохастических сигналов по непрерывно-дискретным каналам с памятью и с запаздыванием.

Практическая ценность. Полученные в диссертации теоретические результаты могут использоваться при разработке систем обработки измерений, систем управления, систем связи, систем передачи информации, навигационных систем и систем управления подвижных объектов, функционирование которых происходит в условиях, имеющих особенности: 1) непрерывно-дискретный во времени характер доступной измерению (наблюдению) или поступающей в каналы передачи информации, например, когда непрерывно во времени поступают сигналы бортовых измерителей, а в отдельные моменты времени - сигналы от внешних источников; 2) наблюдения обладают памятью относительно ненаблюдаемого процесса, т.е. зависят как от текущих, так и от прошлых значений ненаблюдаемого процесса, что связано с инерционностью измерителей, либо с конечным временем прохождения сигналов по каналам передачи информации; 3) в системе присутствуют неопределенности типа аномальных помех.

Апробация. Основные результаты докладывались на следующих конференциях, симпозиумах:

Международная конференция "Всесибирские чтения по математике" (Томск, 1997);

Международная конференция "Научные основы высоких технологий" (Новосибирск, 1997);

III, IV Сибирский Конгресс по прикладной и индустриальной математике "INPRIM" (Новосибирск, 1998; 2000);

II, III, V, VI, VIII Russian-Korean International Symposium of Science and Technology "KORUS" (Томск, 1998; Новосибирск, 1999; Томск, 2001; Новосибирск, 2002; Томск, 2004);

Международная конференция "Актуальные проблемы электронного приборостроения - АПЭП" (Новосибирск, 1998; 2000);

IV, V Всероссийская конференция с международным участием "Новые информационные технологии в исследовании сложных структур" (Томск, 2002; Иркутск, 2004);

II Сибирская научная школа-семинар с международным участием "Проблемы компьютерной безопасности и криптография - SIBECRYPT" (Томск, 2003);

Международный симпозиум по непараметрическим и робастным статистическим методам кибернетики (Томск, 2003);

13h IF AC Symposium on System Identification (Rotterdam, The Netherlands, 2003);

16h IFAC Symposium on Automatic Control in Aerospace (St.Petersburg, Russia, 2004);

16h Symposium on Mathematical Theory of Networks and Systems (Leu-ven, Belgium, 2004).

Публикации. Основное содержание диссертации опубликовано в 51 печатных работах, которые приведены в списке литературы [198-248].

Структура диссертации. Диссертация состоит из введения, пяти глав, заключения, списка литературы и трех приложений общим объемом 336 стр. из которых 257 стр. основного текста.

Нумерация разделов - тройная: первая цифра - номер раздела (главы), вторая цифра - номер пункта (параграфа), третья цифра - номер подпункта (подпараграфа). Нумерация формул - тройная: первая цифра - номер главы, вторая цифра - номер параграфа, третья цифра - номер формулы в параграфе. Нумерация рисунков - двойная: первая цифра -номер главы, вторая цифра - номер рисунка. Нумерация утверждений (теорем, лемм, следствий) двойная: первая цифра - номер главы, вторая цифра - номер соответствующего утверждения.

Краткое содержание диссертации.

Во введении показывается актуальность работы, дается краткий обзор работ других авторов по данной тематике, формулируется цель работы, обосновывается выбор методики исследования, указывается область применения результатов и приводится краткое содержание работы.

В первой главе диссертации рассматривается задача обобщенной скользящей экстраполяции стохастических процессов с непрерывным временем по совокупности непрерывных и дискретных наблюдений со скользящей памятью произвольной кратности. В п. 1.1 приводятся математические модели процессов и их классификация по типу памяти и наличию либо отсутствию бесшумной обратной связи. В п. 1.2 формулируется постановка задачи главы 1. Получено основное уравнение нелинейной обобщенной скользящей экстраполяции со скользящей памятью (ОУНОСЭСП) для совместной апостериорной плотности значений ненаблюдаемого процесса в текущий момент времени, в прошлые моменты времени, связанные с наличием памяти, и в будущие моменты времени, которые являются моментами экстраполяции. В качестве частных случаев из ОУНОСЭСП следуют основные уравнения нелинейной обобщенной скользящей экстраполяции с фиксированной памятью, нелинейной обобщенной обратной экстраполяции со скользящей и фиксированной памятью, а также основные уравнения нелинейной фильтрации со скользящей и фиксированной памятью. В п. 1.3 получено уравнение для семиинвариантной функции совместной апостериорной плотности, из которого следуют уравнения для перечисленных выше частных случаев. В п.1.4 показывается, что эффективный синтез скользящего экстраполятора может быть осуществлен только в условиях апостериорной гауссовости. Получена замкнутая система дифференциально-рекуррентных соотношений, определяющих оптимальный фильтр-интерполятор-экстраполятор в случае скользящей памяти. Из этих общих результатов, как частные случаи, следуют решения следующих задач: а) скользящей экстраполяции с фиксированной памятью; б) обратной экстраполяции со скользящей памятью; в) обратной экстраполяции с фиксированной памятью; г) фильтрации со скользящей и фиксированной памятью. В п. 1.5 проводится исследование эффективности дискретных наблюдений с памятью кратности N = 2 относительно наблюдений с памятью кратности N = 1 на основе задачи обратной экстраполяции с фиксированной памятью. В п.2.6 приводятся выводы по главе 1.

Во второй главе диссертации осуществлен синтез и анализ оптимального в среднеквадратическом смысле несмещенного фильтра-интерполятора-экстраполятора (ОСКСНФИЭ) для процессов с непрерывным временем по непрерывно-дискретным наблюдениям с памятью произвольной кратности, когда в дискретных наблюдениях присутствуют аномальные помехи. В п.2.1 приводятся модели процессов и формулируется постановка задачи главы 2. В п.2.2 осуществлен совместный ОСКСНФИЭ - получена замкнутая система дифференциально-рекуррентных соотношений и доказана нечувствительность ФИЭ к неточному знанию матрицы интенсивности аномальной помехи. В п.2.3 исследуются свойства ФИЭ: оптимальность процедуры исключения аномальных наблюдений, точность оценивания. В п.2.4 результаты п.2.2 и 2.3 обобщаются на случай резервирования дискретных каналов памяти. В п.2.5 анализируются свойства полученного ОСКСНФИЭ, в частности, доказана эквивалентность решенной задачи раздельному решению задач синтеза фильтра, интерполятора и экстраполятора. В п.2.6 проводится исследование эффективности дискретного канала с памятью при наличии аномальных помех на основе задачи обратной экстраполяции с фиксированной памятью. В п.2.7 приводятся выводы по главе 2.

В третьей главе диссертации рассматривается задача распознавания произвольного числа гипотез, когда ненаблюдаемый процесс является процессом с непрерывным временем, а наблюдаемый процесс представляет собой совокупность процессов с непрерывным и дискретным временем с памятью произвольной кратности. Также решается одна важная частная задача распознавания - задача обнаружения аномальных помех в дискретных каналах наблюдения с памятью. В п.3.1 рассматривается задача распознавания в стохастических системах при непрерывно-дискретных наблюдениях с фиксированной памятью произвольной кратности. Приводятся модели процессов и находятся апостериорные вероятности гипотез и отношения правдоподобия. Рассматривается случай, допускающий эффективное вычисление указанных статистик. В п.3.2 результаты п.3.1 обобщаются на случай непрерывно-дискретных наблюдений со скользящей памятью произвольной кратности. В п.3.3 решается задача оценивания, решение которой получается в форме адаптивных по Лаиниотису (D.G. Lainiotis) оценок. В п.3.4 рассматривается случай, когда коэффициенты процессов не зависят от z и решение ищется в моменты времени приема дискретных наблюдений. В п.3.5 исследуется задача обнаружения аномальных помех и качество алгоритма обнаружения на основе дивергенций по Кульбаку. В п.З.б рассматривается эффективность наблюдений с памятью относительно наблюдений без памяти в задаче обнаружения аномальных помех. В п.3.7 приводятся выводы по главе 3.

В четвертой главе рассматривается нахождение шенноновских мер количества информации о значениях ненаблюдаемого процесса, которые содержатся в реализациях наблюдаемых непрерывного и дискретного во времени процессов, обладающих фиксированной памятью произвольной кратности. В п.4.1 рассматривается информационный анализ в совместной задаче фильтрации и интерполяции. Получено уравнение для совместного количества информации в общем и условно-гауссовском случаях. Исследуется вопрос о структуре количества информации по Шеннону в совместной задаче фильтрации и интерполяции. Проведено исследование информационной эффективности наблюдений с памятью в задачах фильтрации и интерполяции. В п.4.2 рассматривается информационный анализ в совместной задаче фильтрации и обобщенной экстраполяции. Получено уравнение для совместного количества информации в общем и условно-гауссовском случаях. Проведено исследование информационной эффективности наблюдений с памятью в задаче экстраполяции. В п.4.3 исследуется вопрос о структуре количества информации по Шеннону в совместной задаче фильтрации и экстраполяции. Получены соответствующие соотношения в общем и условно-гауссовском случаях. В п.4.4 приводятся выводы по главе 4.

В пятой главе диссертации рассматривается задача оптимальной непрерывно-дискретной передачи гауссовского марковского процесса диффузионного типа по каналам с памятью и с запаздыванием при наличии мгновенной бесшумной обратной связи. В п.5.1 рассматриваются каналы с памятью. В п.5.2 рассматриваются каналы с запаздыванием. В п.5.3 рассматриваются смешанные ситуации: непрерывный канал с памятью, а дискретный канал с запаздыванием; непрерывный канал с запаздыванием, а дискретный канал с памятью. В п.5.4 проведено исследование эффективности дискретного канала с памятью относительно дискретного канала с запаздыванием, когда непрерывный канал является каналом передачи с памятью, а также исследование эффективности непрерывного канала с памятью относительно непрерывного канала с запаздыванием, когда дискретный канал является каналом передачи с памятью. В п.5.5 приводятся выводы по главе 5.

В заключении формулируются основные результаты исследования, выносимые на защиту.

В приложение 1 вынесены формальные, но достаточно громоздкие преобразования, связанные с выводом некоторых формул и уравнений.

В приложение 2 вынесены решения дифференциальных уравнений, возникающих при исследовании эффективности наблюдений с памятью относительно наблюдений без памяти в задачах фильтрации, интерполяции и экстраполяции.

В приложении 3 приведены некоторые результаты, существенным образом используемые в диссертации.

Основное уравнение нелинейной обобщенной скользящей экстраполяции со скользящей памятью

Во второй главе диссертации осуществлен синтез и анализ оптимального в среднеквадратическом смысле несмещенного фильтра-интерполятора-экстраполятора (ОСКСНФИЭ) для процессов с непрерывным временем по непрерывно-дискретным наблюдениям с памятью произвольной кратности, когда в дискретных наблюдениях присутствуют аномальные помехи. В п.2.1 приводятся модели процессов и формулируется постановка задачи главы 2. В п.2.2 осуществлен совместный ОСКСНФИЭ - получена замкнутая система дифференциально-рекуррентных соотношений и доказана нечувствительность ФИЭ к неточному знанию матрицы интенсивности аномальной помехи. В п.2.3 исследуются свойства ФИЭ: оптимальность процедуры исключения аномальных наблюдений, точность оценивания. В п.2.4 результаты п.2.2 и 2.3 обобщаются на случай резервирования дискретных каналов памяти. В п.2.5 анализируются свойства полученного ОСКСНФИЭ, в частности, доказана эквивалентность решенной задачи раздельному решению задач синтеза фильтра, интерполятора и экстраполятора. В п.2.6 проводится исследование эффективности дискретного канала с памятью при наличии аномальных помех на основе задачи обратной экстраполяции с фиксированной памятью. В п.2.7 приводятся выводы по главе 2.

В третьей главе диссертации рассматривается задача распознавания произвольного числа гипотез, когда ненаблюдаемый процесс является процессом с непрерывным временем, а наблюдаемый процесс представляет собой совокупность процессов с непрерывным и дискретным временем с памятью произвольной кратности. Также решается одна важная частная задача распознавания - задача обнаружения аномальных помех в дискретных каналах наблюдения с памятью. В п.3.1 рассматривается задача распознавания в стохастических системах при непрерывно-дискретных наблюдениях с фиксированной памятью произвольной кратности. Приводятся модели процессов и находятся апостериорные вероятности гипотез и отношения правдоподобия. Рассматривается случай, допускающий эффективное вычисление указанных статистик. В п.3.2 результаты п.3.1 обобщаются на случай непрерывно-дискретных наблюдений со скользящей памятью произвольной кратности. В п.3.3 решается задача оценивания, решение которой получается в форме адаптивных по Лаиниотису (D.G. Lainiotis) оценок. В п.3.4 рассматривается случай, когда коэффициенты процессов не зависят от z и решение ищется в моменты времени приема дискретных наблюдений. В п.3.5 исследуется задача обнаружения аномальных помех и качество алгоритма обнаружения на основе дивергенций по Кульбаку. В п.З.б рассматривается эффективность наблюдений с памятью относительно наблюдений без памяти в задаче обнаружения аномальных помех. В п.3.7 приводятся выводы по главе 3.

В четвертой главе рассматривается нахождение шенноновских мер количества информации о значениях ненаблюдаемого процесса, которые содержатся в реализациях наблюдаемых непрерывного и дискретного во времени процессов, обладающих фиксированной памятью произвольной кратности. В п.4.1 рассматривается информационный анализ в совместной задаче фильтрации и интерполяции. Получено уравнение для совместного количества информации в общем и условно-гауссовском случаях. Исследуется вопрос о структуре количества информации по Шеннону в совместной задаче фильтрации и интерполяции. Проведено исследование информационной эффективности наблюдений с памятью в задачах фильтрации и интерполяции. В п.4.2 рассматривается информационный анализ в совместной задаче фильтрации и обобщенной экстраполяции. Получено уравнение для совместного количества информации в общем и условно-гауссовском случаях. Проведено исследование информационной эффективности наблюдений с памятью в задаче экстраполяции. В п.4.3 исследуется вопрос о структуре количества информации по Шеннону в совместной задаче фильтрации и экстраполяции. Получены соответствующие соотношения в общем и условно-гауссовском случаях. В п.4.4 приводятся выводы по главе 4.

В пятой главе диссертации рассматривается задача оптимальной непрерывно-дискретной передачи гауссовского марковского процесса диффузионного типа по каналам с памятью и с запаздыванием при наличии мгновенной бесшумной обратной связи. В п.5.1 рассматриваются каналы с памятью. В п.5.2 рассматриваются каналы с запаздыванием. В п.5.3 рассматриваются смешанные ситуации: непрерывный канал с памятью, а дискретный канал с запаздыванием; непрерывный канал с запаздыванием, а дискретный канал с памятью. В п.5.4 проведено исследование эффективности дискретного канала с памятью относительно дискретного канала с запаздыванием, когда непрерывный канал является каналом передачи с памятью, а также исследование эффективности непрерывного канала с памятью относительно непрерывного канала с запаздыванием, когда дискретный канал является каналом передачи с памятью. В п.5.5 приводятся выводы по главе 5.

В заключении формулируются основные результаты исследования, выносимые на защиту. В приложение 1 вынесены формальные, но достаточно громоздкие преобразования, связанные с выводом некоторых формул и уравнений. В приложение 2 вынесены решения дифференциальных уравнений, возникающих при исследовании эффективности наблюдений с памятью относительно наблюдений без памяти в задачах фильтрации, интерполяции и экстраполяции. В приложении 3 приведены некоторые результаты, существенным образом используемые в диссертации.

Оптимальность процедуры исключения аномальных наблюдений

В первой главе рассматривается задача обобщенной экстраполяции многомерного процесса с непрерывным временем xt по совокупности реализаций непрерывных z\ — {za\ О а t} и дискретных г] непрерывным Zt и дискретным 7]{tm) временем, когда наблюдаемые процессы зависят не только от текущих Xt, xtm, но и от произвольного числа N прошлых значений Xt k, % — const, к — 1; iV, ненаблюдаемого процесса ха, т.е. имеем случай каналов наблюдения со скользящей памятью произвольной кратности N. При этом коэффициенты соотношений, определяющих zt и r}(tm), предполагаются зависящими от zt, т.е. наблюдения обладают бесшумной обратной связью относительно процесса

1) Получено основное уравнение нелинейной обобщенной скользящей экстраполяции со скользящей памятью (ОУНОСЭСП) (Теорема 1.1), определяющее совместную апостериорную плотность p\ ,t+TL(X i XN ,XL) значений ненаблюдаемого процесса xt в момент окончания наблюдений t, в моменты времени t — Ц к = l;iV, характеризующие память, и в будущие моменты времени t + Ті, І = 1;L, являющиеся моментами экстраполяции (прогноза, предсказания) процесса xt. В качестве частных случаев из ОУНОСЭСП следуют основное уравнение нелинейной обобщенной скользящей экстраполяции с фиксированной памятью (Следствие 1.1) и основные уравнения нелинейной обобщенной обратной экстраполяции со скользящей памятью (Следствие 1.2) и с фиксированной памятью (Следствие 1.3).

2) В условиях апостериорной гауссовости на основе ОУНОСЭСП с использованием метода семиинвариантной функции осуществлен синтез фильтра-интерполятора-экстраполятора, определяющего оптимальные в среднеквадратическом смысле оценки фильтрации fi{t), интерполяции fi(t — t k,t), к = 1;N, экстраполяции [i(t + Ti,t), I = 1; L (Теорема 1.5). Из этих общих результатов, как частные случаи, следуют решения следующих задач: а) скользящей экстраполяции с фиксированной памятью; б) обратной экстраполяции со. скользящей памятью; в) обратной экстраполяции с фиксированной памятью.

3) С использованием общих результатов решена задача исследования эффективности дискретных каналов с памятью в задаче экстраполяции стационарного гауссовского марковского процесса диффузионного типа (процесс Орнстейна-Уленбека) для случая присутствия непрерывных наблюдений без памяти. Проведенное исследование показало, что наблюдения с памятью могут как улучшать, так и ухудшать точность оценок экстраполяции относительно наблюдений с памятью меньшей кратности, что определяется как глубиной памяти, так и свойствами ненаблюдаемого процесса xt. Был проведен количественный и качественный анализ поведения введенной меры эффективности, а также получена формула для эффективной глубины памяти. 2 Непрерывно-дискретное оценивание стохастических процессов в случае наблюдений с памятью при наличии аномальных помех

В стохастических системах калмановского типа [168], которые получили широкое применение в теории управления [73], навигации [118, 125], передачи информации [122], актуальными являются задачи синтеза алгоритмов оценивания, управления и обнаружения изменений свойств системы [83, 113, 121] в условиях наличия неопределенностей типа неизвестных параметров либо аномальных возмущений с неполной априорной информацией. В настоящее время для решения подобных задач сформировалось три основных конструктивных метода - адаптивный [121, 175], условно-оптимальный [116] и минимаксный [14]. Новизна рассматриваемой задачи заключается в следующем: 1) оценивание процесса с непрерывным временем осуществляется по совокупности реализаций процессов с непрерывным и дискретным временем, в отличие от ситуаций, когда наблюдаются только дискретный либо только непрерывный по времени процессы [186, 187]; 2) наблюдения обладают памятью произвольной кратности относительно ненаблюдаемого процесса; 3) экстраполяция понимается в обобщенном смысле, когда находятся оценки одновременно в произвольном числе будущих моментов времени [69]; 4) полностью отсутствует априорная информация о среднем аномальном помехи, причем ее компоненты действуют не по всем компонентам наблюдаемого процесса; 5) решение ищется на классе алгоритмов, который определяется байесовским решением, полученным в предыдущей главе, в отличии от стандартного условно-оптимального подхода, когда класс оценивателей определяется априорными данными [14, 116, 186, 187].

В данной главе осуществлен синтез и анализ оптимального в среднеквадратическом смысле несмещенного фильтра-интерполятора-экстраполятора (ОСКСНФИЭ) для процессов с непрерывным временем по совокупности реализаций процессов с непрерывным и дискретным временем, которые зависят не только от текущих, но и от произвольного числа прошлых значений ненаблюдаемого процесса, когда экстраполяция осуществляется в произвольном числе будущих моментов времени, а в дискретных наблюдениях присутствуют аномальные помехи. Основные результаты главы опубликованы в [198,199, 200, 201, 203, 210, 211, 213, 215, 214, 217, 219, 221, 222, 224, 227, 239, 240].

Случай эффективного вычисления At(9j : 9а) .

Во второй главе рассматривается непрерывно-дискретное оценивание стохастических процессов с непрерывным временем по совокупности реализаций процессов с непрерывным и дискретным временем, которые зависят не только от текущих, но и от произвольного числа прошлых значений ненаблюдаемого процесса, когда экстраполяция осуществляется в произвольном числе будущих моментов времени, а в дискретных наблюдениях присутствуют аномальные помехи. 1) Осуществлен совместный синтез оптимального в среднеквадра-тическом смысле несмещенного фильтра-интерполятора-экстраполя-тора (Теорема 2.1) - ОСКСНФИЭ. 2) Доказана нечувствительность ОСКСНФИЭ к неточному знанию матрицы интенсивности аномальной помехи (Теорема 2.2). 3) Процедура исключения аномальных компонент вектора наблюдения, объясняющая свойство нечувствительности ОСКСНФИЭ к неточному знанию матрицы интенсивности аномальной помехи, является оптимальной в классе линейных ОСКСНФИЭ в случае неизвестного математического ожидания аномальной помехи (Теорема 2.3). 4) Добавление аномальных компонент вектора наблюдения к уже имеющимся аномальным компонентам не улучшает качество оценивания (Теоремы 2.4, 2.5). 5) Добавление в канале наблюдения идеального резервного блока без аномальных помех может лишь улучшить качество оценивания (Теоремы 2.6, 2.7). 6) Свойства ФИЭ, отмеченные выше, справедливы и для раздельных задач фильтрации, интерполяции и экстраполяции (п.п. 2.5. IV, VIII, X, XI, XIII). 7) Рассмотренный пример проиллюстрировал, что в конкретных задачах увеличение числа аномальных каналов только ухудшает, а наличие идеального резервного канала только улучшает качество оценивания, причем наличие памяти может как усиливать, так и ослаблять эти свойства. Распознавание состояний стохастических систем в случае наблюдений с памятью В задаче распознавания отношение правдоподобия в классе нерандомизированных байесовских стратегий является достаточной статистикой для построения решающих правил [122, 158, 183, 189]. Поэтому нахождение отношения правдоподобия является базовой задачей в решении данной проблемы. Современный этап в теории синтеза алгоритмов обработки стахостических процессов берет начало с работ [167, 168]. В системах калмановского типа основным математическим объектом является пара процессов {%t ,yt} с непрерывным либо дискретным временем, где Xt является ненаблюдаемым процессом, a yt - наблюдаемым процессом. Для случая, когда xt и yt являются процессами с дискретным временем я xt - гауссовский процесс, проблема нахождения отношения правдоподобия в задаче обнаружения, которая является частным случаем задачи распознавания, рассматривалась в [122, 181, 190]. Для случая, когда xt и yt являются процессами с непрерывным временем иі(- гауссовский процесс, проблема нахождения отношения правдоподобия в задаче обнаружения рассматривалась в [122, 165]. Проблема нахождения отношения правдоподобия в общей задаче распознавания рассматривалась в [195] для случая, когда Xt и yt являются процессами с дискретным временем, и в [160] для случая, когда xt и yt являются процессами с непрерывным временем. Проблема нахождения отношения правдоподобия, когда у% = y(t,tm) = {zt,7](tm)}, то есть наблюдаемый процесс представляет собой совокупность процессов с непрерывным zt и дискретным r)(tm) временем, посвящена работа [50].

В данной главе задача распознавания произвольного числа гипотез обобщается на случай, когда ненаблюдаемый процесс xt является процессом с непрерывным временем, а наблюдаемый процесс представляет собой совокупность процессов с непрерывным zt и дискретным T](tm) временем с памятью произвольной кратности, а также решается одна важная частная задача распознавания - задача обнаружения аномальных помех в дискретных каналах наблюдения с памятью. Совместно с [1, 2, 69] и Главами 1 и 2 данная глава дает решения широкого класса задач синтеза оптимальных алгоритмов обработки стохастических процессов с непрерывным временем по совокупности непрерывных и дискретных наблюдений с памятью произвольной кратности.

Информационная эффективность наблюдений с памятью относительно наблюдений с запаздыванием

В пятой главе рассматривается задача оптимальной непрерывно-дискретной передачи гауссовского марковского процесса диффузионного типа по каналам с памятью и с запаздыванием при наличии мгновенной бесшумной обратной связи. 1) Решена задача оптимальной непрерывно-дискретной передачи диффузионного гауссовского марковского сигнала по каналам с памятью при наличии бесшумной обратной связи (Теоремы 5.1-5.3). 2) Решена задача оптимальной непрерывно-дискретной передачи диффузионного гауссовского марковского сигнала по каналам с запаздыванием при наличии бесшумной обратной связи (Теоремы 5.4, 5.5). 3) Решена задача оптимальной непрерывно-дискретной передачи диффузионного гауссовского марковского сигнала по непрерывному каналу с памятью и дискретному каналу с запаздыванием, а также по непрерывному каналу с запаздыванием и дискретному каналу с памятью при наличии бесшумной обратной связи (Следствия 5.2, 5.3). 4) Проведено исследование эффективности дискретного канала с памятью относительно дискретного канала с запаздыванием, когда непрерывный канал является каналом передачи с памятью (Утверждения 5.1-5.4). 5) Проведено исследование эффективности непрерывного канала с памятью относительно непрерывного канала с запаздыванием, когда дискретный канал является каналом передачи с памятью (Утверждения 5.5-5.7). Основные научные положения, выносимые на защиту, сводятся к следующему. Для случая совокупности непрерывных и дискретных во времени наблюдений с памятью произвольной кратности N: 1. Получено основное уравнение нелинейной обобщенной скользящей экстраполяции со скользящей памятью (ОУНОСЭСП), определяющее совместную апостериорную плотность p\_t tt+Tl (х; х ; xL) значений ненаблюдаемого процесса xt в момент окончания наблюдений t, в моменты времени t — Ц, к = l;iV, характеризующие память, и в будущие моменты времени t + Ті, І = 1;L, являющиеся моментами экстраполяции (прогноза, предсказания) процесса xt. Сформулированы частные результаты, следующие из ОУНОСЭСП как следствия. 2. В условиях апостериорной гауссовости на основе ОУНОСЭСП с использованием метода семиинвариантной функции осуществлен синтез фильтра-интерполятора-экстраполятора, определяющего оптимальные в среднеквадратическом смысле оценки фильтрации \х(t), интерполяции fi(t — t\,t), к = 1; N, экстраполяции /i(t + Ті, t), I = 1; L. Сформулированы частные результаты, следующие из этого общего результата. 3. Осуществлен совместный синтез оптимального в среднеквадратическом смысле несмещенного фильтра-интерполятора-экстраполятора в случае непрерывно-дискретных наблюдений с памятью произвольной кратности, когда в дискретных наблюдениях присутствуют аномальные помехи, и исследованы его свойства. 4. Получено решение проблемы нахождения апостериорных вероятностей гипотез и отношений правдоподобия в общей задаче распознавания произвольного числа гипотез по совокупности непрерывных и дискретных наблюдений как для случая фиксированной, так и для случая скользящей памяти произвольной кратности. 5. Решена задача обнаружения аномальных помех с заданной структурой воздействия ее компонент на компоненты вектора наблюдения и исследованы потенциальные свойства алгоритма относительно нижних границ вероятностей ложного обнаружения и пропуска аномальной помехи. 6. Получено уравнение для совместного количества информации PTt [xt, XT IZOI Ц] текущем xt и прошлых х значениях ненаблюдаемого процесса в общем и условно-гауссовском случаях, т.е. с информационной точки зрения рассмотрена совместная задача непрерывно-дискретной фильтрации и интерполяции в случае непрерывно-дискретных наблюдений с фиксированной памятью произвольной кратности. 7. Получено уравнение для совместного количества информации ІІ[хі,Хд;гІ,г]] о текущем xt и будущих х% = {xSl,- ,xSL} значениях ненаблюдаемого процесса в общем и условно-гауссовском случаях, т.е. с информационной точки зрения рассмотрена совместная задача непрерывно-дискретной фильтрации и обобщенной экстраполяции в случае непрерывно-дискретных наблюдений с фиксированной памятью произвольной кратности. 8. Решена задача оптимальной непрерывно-дискретной передачи диффузионного гауссовского марковского сигнала по каналам с памятью и с запаздыванием при наличии мгновенной бесшумной обратной связи и проведено исследование эффективности оптимальных способов передачи. 9. С использованием общих результатов решены задачи исследования эффективности наблюдений с памятью относительно наблюдений без памяти и наблюдений с памятью относительно наблюдений с запаздыванием в задачах фильтрации, интерполяции, экстраполяции, обнаружения аномальных помех, информационной эффективности наблюдений и оптимальной передачи.