Случайные функции. Случайные процессы и их характеристики

1. ПОНЯТИЕ СЛУЧАЙНОЙ ФУНКЦИИ

До определенных пор теория вероятностей ограничивалась понятием случайных величин. Их использование позволяет выполнять статические расчеты, учитывающие случайные факторы. Однако механические системы подвергаются также разнообразным динамическим, то есть изменяющимся во времени воздействиям случайного характера. К ним относятся, в частности, вибрационные и ударные воздействия при движении транспортных средств, аэродинамические силы, вызванные атмосферной турбулентностью, сейсмические силы, нагрузки, обусловленные случайными отклонениями от номинальных режимов работы машин.

Случайные динамические явления изучаются при анализе тенденций в экономике (например, изменения курса акций или валюты). Работа в условиях случайных возмущений характерна для систем управления разнообразными динамическими объектами.

Для анализа подобных явлений используется понятие случайной функции . Случайной функцией X (t ) называется такая функция аргумента t , значение которой при любом t является случайной величиной. Если аргумент принимает дискретные значения t 1 , t 2 , …, t k то говорят о случайной последовательности X 1 , X 2 ,…, X k , где X i = X (t i ).

Во многих практических задачах неслучайный аргумент t имеет смысл времени, при этом случайную функцию называют случайным процессом , а случайную последовательность – временным рядом . Вместе с тем, аргумент случайной функции может иметь и иной смысл. Например, речь может идти о рельефе местности Z (x , y ), где аргументами являются координаты местности x и y , а роль случайной функции играет высота над уровнем моря z. В дальнейшем, для определенности, имея в виду приложения случайных функций к исследованию динамических систем, будем говорить о случайных процессах.

Предположим, что при исследовании случайного процесса X (t ) произведено n независимых опытов, и получены реализации

представляющие собой n детерминированных функций. Соответствующее семейство кривых в определенной мере характеризует свойства случайного процесса. Так, на рис.1.1а представлены реализации случайного процесса с постоянными средним уровнем и разбросом значений возле среднего, на рис. 1.1б – реализации случайного процесса с постоянным средним и изменяющимся разбросом, на рис. 1.1в – реализации случайного процесса с изменяющимися во времени средним и разбросом.

Рис.1.1. Типичные реализации случайных процессов

На рис. 1.2 показаны реализации двух случайных процессов, имеющих одинаковый средний уровень и разброс, но различающихся плавностью. Реализации случайного процесса на рис. 1.2а имеют высокочастотный характер, а на рис. 1.2б – низкочастотный.

Рис. 1.2. Высокочастотный и низкочастотный случайные процессы

Таким образом, X (t ) можно рассматривать и как совокупность всевозможных реализаций, которая подчиняется определенным вероятностным закономерностям. Как и для случайных величин, исчерпывающую характеристику этих закономерностей дают функции или плотности распределения. Случайный процесс считается заданным, если заданы все многомерные законы распределения случайных величин X (t i ), X (t 2 ), …, X (t n ) для любых значений t 1 , t 2 , …, t n из области изменения аргумента t . Речь идет, в частности, об одномерной плотности распределения , двумерной плотности распределения и т.д. .

Для упрощения анализа в большинстве случаев ограничиваются моментными характеристиками, причем чаще всего используют моменты первого и второго порядков. Для характеристики среднего уровня случайного процесса служит математическое ожидание

. (1.1)

Для характеристики амплитуды отклонений случайного процесса от среднего уровня служит дисперсия

Для характеристики изменчивости (плавности) случайного процесса служит корреляционная (автокорреляционная) функция

(1.3)

Как следует из (1.3), корреляционная функция представляет собой ковариацию случайных величин X (t 1) и X (t 2). Ковариация же, как известно из курса теории вероятностей, характеризует взаимозависимость между X (t 1) и X (t 2).

В рамках корреляционной теории случайных функций, которая оперирует лишь моментами первого и второго порядков, могут быть решены многие технические задачи. В частности, могут быть определены априорная, а также условная вероятности выхода случайного процесса за пределы заданных границ. Вместе с тем, некоторые важные в практическом плане задачи не решаются средствами корреляционной теории и требуют использования многомерных плотностей распределения. К таким задачам относится, например, расчет среднего времени нахождения случайного процесса выше или ниже заданной границы.

2. ТИПЫ СЛУЧАЙНЫХ ПРОЦЕССОВ

2.1. Квазидетерминированные случайные процессы

До сих пор мы изучали только скалярные или векторные случайные величины, каждая из которых в результате опыта принимает одно определенное значение, скалярное или векторное, соответственно. Однако в приложениях приходится встречаться еще с такими случайными величинами, значения которых в каждом данном опыте изменяются в зависимости от времени или каких-нибудь других аргументов. Каждая такая случайная величина принимает в результате опыта бесчисленное (в общем случае несчетное) множество значений - по одному для каждого значения аргумента или для каждой совокупности значений аргументов. Так, например, в результате измерения непрерывно изменяющейся величины мы получаем функцию, определяющую закон изменения результата измерения со временем в процессе измерения. Эта функция имеет одно вполне определенное значение для каждого момента времени в интервале, в течение которого производится измерение. Повторяя измерение, казалось бы в одинаковых условиях, мы будем получать вследствие неточности измерительных приборов различные функции. Таким образом, результат измерения непрерывно изменяющейся величины является такой случайной величиной, которая в каждом данном опыте представляет собой определенную функцию времени, а в различных опытах, произведенных как будто бы в совершенно одинаковых условиях, представляет собой различные функции времени. Подобные случайные величины представляют собой случайные функции. Результат одновременного измерения нескольких непрерывно изменяющихся величин (например, координат какого-либо движущегося объекта) может служить примером векторной случайной функции, т. е. совокупности нескольких случайных функций.

Случайной функцией называется функция, значение которой при каждом данном значении аргумента (или нескольких аргументов)

является случайной величиной. В результате опыта случайная функция может принимать различные конкретные формы. Всякая функция, которой может оказаться равной случайная функция в результате опыта, называется реализацией случайной функции (или возможным значением случайной функции). В соответствии с принятым в настоящей книге правилом обозначения случайных величин и их возможных значений мы будем обозначать случайные функции большими буквами латинского алфавита, например Реализации случайных функций будем обозначать соответствующими малыми буквами, например х, у и т. д.

Аргумент случайной функции или совокупность всех ее аргументов будем обозначать буквой или буквой 5 и писать, как обычно принято, в скобках за обозначением самой функции, например Если аргумент случайной функции представляет собой совокупность скалярных переменных, то его можно рассматривать как -мерный вектор. Таким образом, аргументами случайных функций в излагаемой дальше теории могут быть произвольные скалярные или векторные величины

Случайную функцию можно также рассматривать как бесконечную (в общем случае несчетную) совокупность случайных величин, зависящую от одного или нескольких непрерывно изменяющихся параметров Каждому данному значению параметра (или параметров) соответствует одна случайная величина Вместе все случайные величины определяют случайную функцию Такая трактовка случайной функции показывает, что случайная функция как объект математического исследования значительно сложнее обычной случайной величины, а именно равноценна бесконечному (в общем случае несчетному) множеству случайных величин.

В физических и технических приложениях часто приходится рассматривать случайные функции времени. Такие случайные функции обычно называются случайными или стохастическими процессами. Соответственно теория случайных функций одной независимой переменной часто называется теорией случайных (стохастических) процессов. Примером случайной функции времени может служить ошибка измерения непрерывно изменяющейся величины. На рис. 18 приведена запись ошибки измерения угловой координаты самолета радиолокатором, заимствованная из .

В физике часто приходится рассматривать случайные функции координат точки пространства. Пространство с заданным в нем распределением значений некоторой величины называется полем данной величины. Случайная функция координат точки пространства приводит

(кликните для просмотра скана)

в соответствие каждой точке пространства некоторую случайную величину. Вследствие этого, изучая случайную функцию координат точки пространства, можно говорить о случайном поле. Поэтому теорию случайных функций координат точки пространства часто называют теорией случайных полей. Примером случайного поля может служить поле вектора скорости ветра в установившейся турбулентной атмосфере. В общем случае неустановившейся атмосферы вектор скорости ветра является случайной функцией координат точки пространства и времени.

Так как при каждом данном значении аргумента значение случайной функции является обычной скалярной случайной величиной, то полной вероятностной характеристикой этого значения является его закон распределения. Этот закон распределения называется одномерным законом распределения случайной функции Одномерный закон распределения случайной функции в общем случае зависит от как от параметра и может быть задан одномерной плотностью вероятности Одномерный закон распределения случайной функции является достаточной характеристикой случайной функции для тех задач, в которых значения случайной функции при различных значениях аргумента рассматриваются изолированно друг от друга. Для решения задач, в которых приходится рассматривать совместно значения случайной функции при двух или большем числе значений аргумента, необходимо ввести совместные законы распределения значений случайной функции при нескольких значениях аргумента.

Двумерным законом распределения случайной функции называется совместный закон распределения ее значений при двух произвольно взятых значениях аргумента Вообще -мерным законом распределения случайной функции называется закон распределения совокупности ее значений при произвольно взятых значениях аргумента Мы будем характеризовать -мерный закон распределения случайной функции ее -мерной плотностью вероятности которая в общем случае зависит от значений аргумента как от параметров.

Зная двумерную плотность вероятности случайной функции, можно определить ее одномерную плотность вероятности по формуле (15.8). В результате получим соотношение

Вообще, зная -мерную плотность вероятности случайной функции, можно определить все ее плотности вероятности чисел измерений, меньших чем пользуясь формулой (15.17). В результате

Таким образом, задавая -мерную плотность вероятности случайной функции, мы тем самым задаем и все ее плотности вероятности меньших чисел измерений. Закон распределения случайной функции большего числа измерений является более полной характеристикой случайной функции, чем любой закон распределения меньшего числа измерений. Однако закон распределения любого конечного числа измерений не может служить в общем случае исчерпывающей характеристикой случайной функции, так как знание -мерного закона распределения в общем случае недостаточно для определения законов распределения больших, чем чисел измерений. Лишь в частных случаях закон распределения конечного числа измерений может служить исчерпывающей характеристикой случайной функции. В общем случае для полной характеристики случайной функции необходимо задать всю последовательность ее законов распределения, т. е. плотности вероятности для всех значений

Если значения случайной функции при любых различных значениях аргумента являются независимыми случайными величинами, то -мерная плотность вероятности случайной функции согласно формуле (16.9) и определению независимости случайных величин (§ 16), при любом выражается через ее одномерную плотность вероятности формулой

Эта формула показывает, что исчерпывающей характеристикой случайной функции с независимыми значениями является ее одномерный закон распределения.

Примером случайных функций, исчерпывающей характеристикой которых являются двумерные законы распределения, могут служить марковские случайные процессы. Марковским случайным процессом, или случайным процессом без последствия, называется случайная функция скалярной переменной значения которой при значениях переменной при любом образуют простую цепь Маркова . Согласно определению простой цепи Маркова,

данному в § 47, условный закон распределения значения случайной функции зависит только от значения случайной величины и не зависит от значений случайных величин Поэтому, применяя последовательно общую формулу (16.17), получим для -мерной плотности вероятности марковского случайного процесса формулу

Но условная плотность вероятности на основании формулы (16.6) равна:

Формулы (48.4) и (48.5) дают:

Формулы (48.1) и (48.6) показывают, что -мерная плотность вероятности марковского случайного процесса при любом может быть определена, если известна его двумерная плотность вероятности. Следовательно, двумерный закон распределения является исчерпывающей характеристикой марковского случайного процесса.

Вторым примером случайных функций, для которых исчерпывающей характеристикой является двумерный закон распределения, могут служить нормально распределенные случайные функции. Мы будем считать, что случайная функция распределена нормально, если совокупность ее значений при любом и при любых из области изменения аргумента образует нормально распределенный случайный вектор. В § 23 мы видели, что -мерный нормальный закон распределения полностью определяется математическими ожиданиями, дисперсиями и корреляционными моментами случайных величин. Но математические ожидания и дисперсии случайных величин вполне определяются одномерным законом распределения случайной функции а их корреляционные моменты - двумерным законом распределения случайной функции Следовательно, двумерный закон распределения нормально распределенной случайной функции вполне определяет ее -мерный закон распределения при любом таким образом, является исчерпывающей ее характеристикой.

Несколько более общей, чем случайная функция с независимыми значениями, является случайная функция с некоррелированными значениями. Однако случайная функция с некоррелированными значениями в общем случае не может быть полностью охарактеризована никаким конечномерным законом распределения. Несмотря на это,

случайные функции с некоррелированными значениями играют большую роль в прикладной теории случайных функций.

Легко понять, что интеграл от случайной функции с некоррелированными (в частном случае независимыми) значениями представляет собой случайную функцию с некоррелированными (соответственно независимыми) приращениями на неперекрывающихся областях изменения аргумента. В § 54 будет показано, что интеграл от случайной функции с некоррелированными значениями имеет конечную дисперсию только в том случае, если дисперсия этой случайной функции бесконечна. Вследствие этого особенно важными для приложений являются случайные функции с некоррелированными значениями и бесконечной дисперсией, называемые обычно белыми шумами. Мы будем называть белым шумом любую случайную функцию с некоррелированными значениями, имеющую бесконечную дисперсию и конечную дисперсию интеграла от нее по любэй конечной области изменения аргумента. В основе этого термина лежат физические представления, связанные с быстро изменяющимися величинами, значения которых, разделенные очень малыми промежутками времени, практически независимы. Мы увидим дальше, что при разложении таких случайных функций на элементарные гармонические колебания гармоники всех частот оказываются одинаковыми по интенсивности. Эта аналогия с белым светом и послужила причиной того, что такие случайные функции называются белыми шумами. Это название удобно распространить на все случайные функции, обладающие перечисленными свойствами, независимо от физической (или математической) природы их аргументов.

Белый шум в чистом виде в природе не существует. Как мы увидим в § 74, для реализации белого шума необходима бесконечная мощность. Поэтому понятие белого шума является математической абстракцией, удобной для построения теории. Практически же можно говорить лишь о большей или меньшей степени приближения к белому шуму, о том, что минимальный промежуток времени, разделяющий значения случайной функции, которые можно считать практически некоррелированными, достаточно мал для того, чтобы его можно было не учитывать.

Очевидно, что вместо того, чтобы характеризовать случайную функцию последовательностью ее законов распределения различных чисел измерений, можно характеризовать ее одномерным законом распределения и последовательностью условных законов распределения, которые можно задать соответствующими условными плотностями вероятности

Совершенно так же, как был определен двумерный закон распределения случайной функции, определяется двумерный закон распределения двух случайных функций Двумерным законом распределения случайных функций называется закон распределения двумерного случайного вектора, составляющими которого

являются значение случайной функции при данном значении аргумента и значение случайной функции при данном значении аргумента Аналогично определяются совместные законы распределения других чисел измерений двух или нескольких случайных функций.

Исчерпывающей характеристикой случайной функции является ее вероятностная мера, определение которой было дано в § 14 для любых случайных объектов, в том числе и для случайных функций. Вероятностную меру случайной функции можно определить, если известны ее законы распределения всех чисел измерений. Выделим сначала из множества всех возможных реализаций случайной функции X множество всех реализаций, значения которых в точках принадлежат данным числовым множествам Согласно определению вероятностной меры значение вероятностной меры случайной функции X, соответствующее множеству ее реализаций, определится формулой

Эта формула определяет вероятностную меру случайной функции X для всех множеств рассмотренного типа при любых и при любом выборе числовых множеств Поставим теперь в соответствие каждому значению аргумента случайной функции X некоторое числовое множество и рассмотрим множество А всех реализаций случайной функции значения которых при всех принадлежат соответствующим множествам Для того чтобы определить значение вероятностной меры случайной функции X для такого множества ее реализаций, поставим в соответствие каждому целому положительному разбиение области изменения аргумента случайной функции X на ячеек таким образом, чтобы размеры всех ячеек стремились к нулю при . В каждой ячейке разбиения выберем произвольную точку так, чтобы множество точек содержало все точки соответствующие предыдущим разбиениям. Обозначим через множество реализаций случайной функции X, значения которых в точках принадлежат соответственно множествам Тогда получим последовательность множеств реализаций случайной функции X, каждое из которых включает все последующие множества. Предположим, что произведение всех множеств (т. е. множество реализаций случайной функции X, принадлежащих всем множествам совпадает с исходным множеством реализаций А, если не считать некоторых исключительных реализаций, имеющих нулевую суммарную вероятность появления, при любом выборе такого множества реализаций А. Это предположение накладывает определенные ограничения на характер возможных реализаций случайной функции . А именно, необходимо, чтобы любое множество ее реализаций можно было определить с любой степенью точности, накладывая на них ограничения в конечном числе достаточно близких друг к другу точек. Полагая в формуле (48.7)

найдем значения вероятностной меры случайной функции для множеств Числа образуют монотонную невозрастающую последовательность неотрицательных чисел. Следовательно, существует предел

который и является значением вероятностной меры случайной функции X для рассматриваемого множества ее реализаций А.

Формулы (48.7) и (48.8) определяют вероятностную меру случайной функции для всех цилиндрических множеств реализаций. Этого достаточно для того, чтобы определить ее для любых множеств реализаций .

Для случайной функции можно также определить функционал распределения, который является естественным обобщением функции распределения случайной величины. В соответствии с определением функции распределения (14.13) функционалом распределения случайной функции X называется вероятность выполнения неравенства при всех значениях аргумента

где произвольно заданная функция. Величина является функционалом, так как она зависит от вида функции Очевидно, что функционал распределения случайной функции представляет собой значение ее вероятностной меры, соответствующее множеству всех реализаций, значения которых при каждом принадлежат соответствующему полубесконечному интервалу Поэтому на основании (48.8) и (48.7) функционал распределения случайной функции X выражается формулой

Вероятностная мера и функционал распределения случайной функции пока не имеют большого практического значения, вследствие того, что методы вычисления интегралов типа (18.12) для произвольно заданной вероятностной меры в настоящее время еще очень мало разработаны .

Совершенно аналогично можно обобщить понятие характеристической функции на случайные функции. Рассматривая случайную функцию как совокупность бесконечного множества случайных величин зависящую от непрерывно изменяющегося параметра и обобщая определение характеристической функции -мерного случайного вектора (28.1), мы должны будем распространить сумму в показателе степени на все возможные значения непрерывно изменяющегося параметра При этом вместо придется взять и заменить сумму интегралом. В результате получим определение характеристического функционала действительной случайной функции

где интеграл распространяется на всю область изменения аргумента Характеристический функционал случайной функции зависит от функции (т. е. от значений этой функции при всех значениях аргумента

Характеристический функционал является исчерпывающей характеристикой случайной функции Действительно, задавая функцию к как линейную комбинацию импульсных -функций:

получим на основании свойств -функции:

Сравнивая это выражение с (28.1), приходим к заключению, что величина представляет собой характеристическую функцию -мерного случайного вектора с составляющими Поэтому, применяя формулу (28.14), можно определить -мерную плотность вероятности случайной функции при любом значении Таким образом, если задан характеристический функционал случайной функции то его значения при частных видах функции определяют все законы распределения случайной функции.

Можно дать более общее определение характеристического функционала. Для этого необходимо предварительно дать определение линейного функционала. Линейным функционалом называется такая величина, которая зависит от функции и удовлетворяет условию

где произвольные постоянные, а произвольные функции. Интеграл в показателе в формуле (48.11), очевидно, является линейным функционалом от случайной функции Сумма в показателе формулы (48.13) также является линейным функционалом от случайной функции Линейный функционал от функции можно сокращенно обозначать опуская скобки и обозначение аргумента функции х.

Обобщая определение (48.11), можно определить характеристический функционал случайной функции формулой

где А - произвольный линейный функционал. Задавая в формуле (48.15), линейный функционал А в виде интеграла или суммы, получим формулы (48.11) и (48.13) как частные случаи формулы (48.15). Формула (48.15) определяет характеристический функционал и в том случае, когда аргумент случайной функции X является вектором, одни составляющие которого представляют собой непрерывно изменяющиеся переменные, а другие составляющие являются дискретными переменными, в то время как формула (48.11) определяет характеристический функционал только в частном случае, когда все составляющие вектора являются непрерывно изменяющимися переменными.

Если характеристический функционал случайной функции X определяется формулой

где - некоторые функции, а индексы у линейных функционалов А указывают, к функциям каких аргументов они применяются, то характеристические функции всех чисел измерений случайной функции А

будут нормальными и, следовательно, случайная функция X распределена нормально. Таким образом, формула (48.16) определяет характеристический функционал нормально распределенной случайной функции. Эта формула является очевидным обобщением формулы (28.18) для характеристической функции нормально распределенного случайного вектора.

Пример 1. Найти плотности вероятности случайной функции скалярной независимой переменной с независимыми приращениями, если при ее значение равно нулю, а ее приращение на любом интервале распределено нормально и имеет математическое ожидание, равное нулю, и дисперсию

В данном случае значение случайной функции X при любом равно сумме ее значения при (равного нулю) и ее приращения на интервале Следовательно, одномерная плотность вероятности случайной функции X определяется формулой

Рассматриваемая случайная функция, очевидно, представляет собой марковский случайный процесс, так как ее приращение на любом интервале не зависит от ее значений вне этого интервала и, следовательно, ее значение в конце интервала связано лишь с ее значением в начале интервала и не имеет непосредственной статистической связи с ее значениями в точках, предшествующих началу интервала. Вследствие этого для определения всех плотностей вероятности случайной функции X в данном случае достаточно найти условную плотность вероятности ее значения в конце любого интервала относительно ее значения в начале интервала. Эта условная плотность вероятности, очевидно, выражается формулой

Пусть над случайной функцией X(t) проведено п независимых опытов (наблюдений) и в результате получено п реализаций случайной функции (рис. 15.4.1).

Рис. 15.4.1

Требуется найти оценки для характеристик случайной функции: ее математического ожидания m x (t), дисперсии D x (t) и корреляционной функции K x (t,t).

Для этого рассмотрим ряд сечений случайной функции для моментов времени

и зарегистрируем значения, принятые функцией X(t) в эти моменты времени. Каждому из моментов /, t 2 , ..., t m будет соответствовать п значений случайной функции.

Значения /, I, t m обычно задаются равноотстоящими; величина интервала между соседними значениями выбирается в зависимости от вида экспериментальных кривых так, чтобы по выбранным точкам можно было восстановить основной ход кривых. Часто бывает так, что интервал между соседними значениями t задается независимо от задач обработки частотой работы регистрирующего прибора (например, темпом киноаппарата).

Зарегистрированные значения X(t) заносятся в таблицу, каждая строка которой соответствует определенной реализации, а число столбцов равно числу опорных значений аргумента (табл. 15.4.1).

Таблица 15.4.1

		X 2 (?2)		x 2 U k )		X 2 {ti)		x 2 (J m)
								%i (tm)
		X„{t 2)		X„(tk)		X„ (?,)

В таблице 15.4.1 в /-Й строке помещены значения случайной функции, наблюденной в /-й реализации (/-м опыте) при значениях аргумента, / 2 , ..., t m . Символом Xj(4) обозначено значение, соответствующее /-й реализации в момент t k .

Полученный материал представляет собой не что иное, как результаты п опытов над системой т случайных величин

и обрабатывается совершенно аналогично (см. подраздел 14.3). Прежде всего находятся оценки для математических ожиданий по формуле

затем - для дисперсий

и, наконец, для корреляционных моментов

В ряде случаев бывает удобно при вычислении оценок для дисперсий и корреляционных моментов воспользоваться связью между начальными и центральными моментами и вычислять их по формулам:

При пользовании последними вариантами формул, чтобы избежать разности близких чисел, рекомендуется заранее перенести начало отсчета по оси ординат поближе к математическому ожиданию.

После того, как эти характеристики вычислены, можно, пользуясь рядом значений m x (t {),m x (t 2), m x (t m), построить зависимость m x (t) (рис. 15.4.1). Аналогично строится зависимость О х (/). Функция двух аргументов K x (t,t") воспроизводится по ее значениям в прямоугольной сетке точек. В случае надобности все эти функции аппроксимируются какими-либо аналитическими выражениями.

15.5. Методы определения характеристик преобразованных случайных функций по характеристикам исходных случайных функций

В предыдущем подразделе мы познакомились с методом непосредственного определения характеристик случайной функции из опыта. Такой метод применяется далеко не всегда. Во-первых, постановка специальных опытов, предназначенных для исследования интересующих нас случайных функций, может оказаться весьма сложной и дорогостоящей.

Во-вторых, часто нам требуется исследовать случайные функции, характеризующие ошибки приборов, прицельных приспособлений, систем управления и т.д., еще не существующих, а только проектируемых или разрабатываемых. При этом обычно исследование этих ошибок и предпринимается именно для того, чтобы рационально выбрать конструктивные параметры системы так, чтобы они приводили к минимальным ошибкам.

Ясно, что при этом непосредственное исследование случайных функций, характеризующих работу системы, нецелесообразно, а в ряде случаев вообще невозможно. В таких случаях в качестве основных рабочих методов применяются не прямые, а косвенные методы исследования случайных функций. Подобными косвенными методами мы уже пользовались при исследовании случайных величин: ряд глав нашего курса -10,11,12 - был посвящен нахождению законов распределения и числовых характеристик случайных величин косвенно, по законам распределения и числовым характеристикам других случайных величин, с ними связанных. Пользуясь совершенно аналогичными методами, можно определять характеристики случайных функций косвенно, по характеристикам других случайных функций, с ними связанных. Развитие таких косвенных методов и составляет главное содержание прикладной теории случайных функций.

Задача косвенного исследования случайных функций на практике обычно возникает в следующей форме.

Рис. 15.5.1

Имеется некоторая динамическая система А; под «динамической системой» мы понимаем любой прибор, прицел, счетно-решающий механизм, систему автоматического управления и т.п. Эта система может быть механической, электрической или содержать любые другие элементы. Работу системы будем представлять себе следующим образом: на вход системы непрерывно поступают какие-то входные данные; система перерабатывает их и непрерывно выдает некоторый результат. Условимся называть поступающие на вход системы данные «воздействием», а выдаваемый результат «реакцией» системы на это воздействие. В качестве воздействий могут фигурировать изменяющиеся напряжения, угловые и линейные координаты каких-либо объектов, сигналы или команды, подаваемые на систему управления, и т.п. Равным образом и реакция системы может вырабатываться в той или иной форме: в виде напряжений, угловых перемещений и т.д. Например, для прицела воздушной стрельбы воздействием является угловая координата движущейся цели, непрерывно измеряемая в процессе слежения, реакцией - угол упреждения. Рассмотрим самый простой случай: когда на вход системы А подается только одно воздействие, представляющее собой функцию времени х(/); реакция системы на это воздействие есть другая функция времени у (/). Схема работы системы А условно изображена на рис. 15.5.1. Будем говорить, что система А осуществляет над входным воздействием некоторое преобразование, в результате которого функция x(f) преобразуется в другую функцию у (/). Запишем это преобразование символически в виде:

Преобразование А может быть любого вида и любой сложности. В наиболее простых случаях это, например, умножение на заданный множитель (усилители, множительные механизмы), дифференцирование или интегрирование (дифференцирующие или интегрирующие устройства). Однако на практике системы, осуществляющие в чистом виде такие простейшие преобразования, почти не встречаются; как правило, работа системы описывается дифференциальными уравнениями, и преобразование А сводится к решению дифференциального уравнения, связывающего воздействие х (/) с реакцией у (I).

При исследовании динамической системы в первую очередь решается основная задача: по заданному воздействию x(t) определить реакцию системы y(t). Однако для полного исследования системы и оценки ее технических качеств такой элементарный подход является недостаточным. В действительности воздействие х(/) никогда не поступает на вход системы в чистом виде; оно всегда искажено некоторыми случайными ошибками (возмущениями), в результате которых на систему фактически воздействует не заданная функция x(t), а случайная функция X(t) соответственно этому система вырабатывает в качестве реакции случайную функцию Y(t), также отличающуюся от теоретической реакции у (/) (рис. 15.5.2).

Рис. 15.5.2

Естественно возникает вопрос: насколько велики будут случайные искажения реакции системы при наличии случайных возмущений на ее входе? И далее: как следует выбрать параметры системы для того, чтобы эти искажения были минимальными?

Решение подобных задач не может быть получено методами классической теории вероятностей; единственным подходящим математическим аппаратом для этой цели является аппарат теории случайных функций.

Из двух поставленных выше задач, естественно, более простой является первая - прямая - задача. Сформулируем ее следующим образом.

На вход динамической системы А поступает случайная функция Х(1 ); система подвергает ее известному преобразованию, в результате чего на выходе системы появляется случайная функция:

Известны характеристики случайной функции X(t): математическое ожидание и корреляционная функция. Требуется найти аналогичные характеристики случайной функции Y(t). Короче, по заданным характеристикам случайной функции на входе динамической системы найти характеристики случайной функции на выходе.

Поставленная задача может быть решена совершенно точно в одном частном, но весьма важном для практики случае: когда преобразование А принадлежит к классу так называемых линейных преобразований и соответственно система А принадлежит к классу линейных систем.

Во всех предыдущих параграфах этой главы предполагалось, что управляющие и возмущающие воздействия являются определенными функциями времени. Однако для систем автоматического управления, работающих в реальных условиях, характерно, что эти воздействия носят случайный характер и принципиально непредсказуемы.

Рассмотрим, например, работу следящей системы, управляющей антенной радиолокатора. Для этой системы управляющим воздействием является положение цели, а возмущающими воздействиями можно считать ветровые нагрузки на антенну, отклонения луча от направления на цель из-за рефракции в атмосфере, собственные шумы в усилительном тракте системы, помехи от источников питания и т. п. Все эти процессы обусловлены множеством взаимодействующих причин и носят настолько сложный характер, что их нельзя представить какой-либо заданной функцией времени. То же самое можно сказать и относительно управляющего воздействия. На практике его нельзя считать типовым, например ступенчатым, линейно-растущим, синусоидальным или каким-либо регулярным сигналом. Реально цель маневрирует, поэтому ее положение в любой последующий момент не может быть точно предсказано. На этом маневрирование накладывается постоянное блуждание отражающей точки по корпусу цели.

Таким образом, сигналы управления и возмущения в реальных условиях являются случайными процессами. Случайным, или стохастическим процессом

называют такую функцию времени которая при каждом значении аргумента является случайной величиной. Если вместо времени употребляют другую независимую переменную, то используют термин случайная функция. При многократном воспроизведении условий протекания случайного процесса последний принимает каждый раз различные конкретные значения. Эти значения как функции времени называют реализациями случайного процесса. Типичный вид нескольких реализаций стохастического процесса ошибки угловой координаты цели, отслеживаемой радиолокационной станцией, представлен на рис. XIII. 14.

Математическое описание случайного процесса. При фиксированном значении аргумента случайный процесс является случайной величиной, полное описание которой дает функция распределения

т. е. вероятность того, что в данный момент случайная величина примет значение, меньшее Как известно из теории вероятностей, вместо функции распределения часто удобнее пользоваться плотностью вероятности, являющейся ее производной (в обобщенном смысле):

Если зафиксировать два момента времени то значения случайного процесса образуют систему двух случайных величин или двумерный случайный вектор. Для его полного описания требуется знать двумерную функцию распределения

Рис. ХIII.14. Стохастический процесс ошибки измерения угловой координаты цели, отслеживаемой радиолокационной станцией

или двумерную плотность

которые зависят от как от параметров.

Для более подробного описания случайного процесса в произвольные моменты времени аналогично вводятся функции распределения и плотности более высоких порядков. Таким образом, полное статистическое описание случайной функции (процесса) даетесконечная последовательность ее функций распределения:

или последовательность их производных

Каждый из членов этих последовательностей имеет обычные свойства функций распределения или соответственно плотностей. Кроме того, каждый следующий член последовательности определяет все предыдущие. Например, если положить то

аналогичные формулы имеем и для любых других моментов времени.

Это условие называют условием согласованности семейства функций распределения. Справедливо также условие симметрии:

В общем случае плотности или функции распределения более высокого порядка не определяются плотностями или функциями более низких порядков.

Однако часто полезно рассматривать так называемый абсолютно случайный процесс, значения которого независимы в совокупности для любых Для такого процесса плотность распределения любого порядка определяется через одномерную:

Такой процесс является математическим упрощением, поскольку при достаточно близких значениях значения любого реального процесса близки, и, следовательно, зависимы. Другим крайним случаем является вырожденный, или сингулярный процесс, определяемый одной или несколькими случайными величинами; например,

где - случайная величина; - известные константы. Такой процесс становится полностью известным, если можно измерить его в какой-либо момент времени. В более общем случае сингулярный случайный процесс характеризуется совокупностью случайных величин например,

где - обычные (детерминированные функции времени).

Рис. XIII.15. Возможные реализации двух случайных функций: а - с высокочастотными составляющими; б - с низкочастотными составляющими

Моментные функции. В практических задачах обычно пользуются более простыми характеристиками случайных процессов - моментными функциями. Моментом первого порядка или математическим ожиданием процесса называют выражение

Если эту функцию рассматривать в зависимости от то около среднего значения функции будут группироваться все реализации случайного процесса (рис. XIII.15).

Математические ожидания более высоких степеней носятназвания начальных моментов порядка

Случайная функция имеет нулевое среднее значение и называется центрированной. Центральным моментом -порядка процесса называется математическое ожидание степени центрированного процесса

Меру рассеяния значений случайного процесса относительно математического ожидания его определяет момент второго порядка, называемый чаще дисперсией:

Однако характеристики случайного процесса, основанные на первой плотности не отражают изменения реализаций во времени. Например, два процесса с одной и той же первой плотностью (рис. XIII. 15, а и б) различаются по скорости изменения реализаций, т. е. по степени взаимосвязи между двумя значениями, принимаемыми в одной реализации в различные моменты времени. Для описания временной внутренней структуры случайных процессов используют корреляционную функцию

Эту функцию часто называют также автокорреляционной, или ковариацией, она играет основную роль в теории случайных процессов.

Легко показать, что корреляционная функция симметрична относительно своих аргументов а при ее значение равно дисперсии случайного процесса . В самом деле,

Для характеристики точности систем автоматического регулирования удобно использовать нецентрированную корреляционную функцию:

называемую также вторым начальным моментом процесса.

Связь между устанавливается следующими преобразованиями:

При средний квадрат процесса будет

В системах автоматического регулирования часто действует несколько случайных возмущающих или управляющих сигналов, независимых или взаимосвязанных. Мерой взаимосвязи двух случайных процессов служит взаимная корреляционная функция

где - совместная плотность вероятности для независимых процессов

Для взаимной корреляционной функции справедливо равенство

Теория случайных процессов, в которой используются лишь моменты первого и второго порядков называется корреляционной теорией. Она была создана основополагающими работами А. Н. Колмогорова , Д. Я. Хинчина , Н. Вииера. Большой вклад в ее развитие внесли советские ученые В. С. Пугачев , В. В. Солодовников и др.

Стационарные случайные процессы. При рассмотрении различных случайных процессов выделяют группу процессов, статистические свойства которых не изменяются при сдвиге во времени. Такие процессы называются стационарными. Рассматривая множество реализаций случайного процесса, приведенного на рис. XIII. 14, можно предположить, что в данном случае начало отсчета времени может быть выбрано произвольно, т. е. налицо стационарный процесс. Напротив, на рис. XIII. 15, очевидно, имеем примеры нестационарных процессов.

Исследование систем, случайные процессы в которых стационарны, значительно проще, чем исследование систем с нестационарными процессами. Однако процессы во многих системах регулирования можно приближенно рассматривать как стационарные. Это имеет большое прикладное значение в теории стационарных случайных процессов.

По определению стационарного случайного процесса его математическое ожидание должно быть постоянно при сдвиге аргумента на любой тервал Т:

а корреляционная функция удовлетворяет соотношению

Полагая находим, что корреляционная функция стационарного процесса зависит только от разности отсчетов

Эргодические свойства случайных процессов. Если мы имеем совокупность, или, как говорят, ансамбль реализаций, то математическое ожидание и корреляционная функция получаются усреднением по ансамблю реализаций случайного процесса, т. е. «поперек» процесса в одном или соответственно двух его сечениях. Интересно рассмотреть также результаты усреднения реализаций стационарного процесса по времени вдоль оси на интервале , определив эту операцию естественным образом:

Эта величина различна для разных реализаций случайного процесса и сама является случайной. Можно показать, что ее математическое ожидание для стационарного процесса равно . В то же время дисперсия этой величины, как показывают непосредственные расчеты,

Рис. XIII.16. Структурная схема коррелятора

Условия эргодичности процесса по , сформулированные В. С. Пугачевым , содержат более высокие моменты случайного процесса и здесь не приводятся.

Свойства эргодичности случайных процессов позволяют заменить усреднение по множеству реализаций, практически редко осуществимое, усреднением по времени, взятым по одной реализации, когда Т велико..

Не все стационарные процессы имеют эргодические свойства. Например, процесс, все реализации которого есть случайные величины, не изменяющиеся во времени, как легко убедиться, неэргодичен. Отсюда следует, что физический смысл эргодичности заключается в «хорошей перемешиваемости» реализаций случайного процесса. Поскольку это имеет место практически во всех приложениях, в дальнейшем будем предполагать рассматриваемые процессы эргодическими.

Для таких процессов можно экспериментально определить среднее значение и корреляционную функцию процесса с помощью специальных приборов - корреляторов. Принцип действия корреляторов ясен из рис. XIII.16.

Подавая на вход коррелятора единичный сигнал, на его выходе при достаточно большом времени интегрирования Т будем иметь среднее значение процесса х, приблизительно совпадающее с его математическим ожиданием Если же то в результате будем иметь второй начальный момент по которому легко определить и корреляционную функцию.

Мы имели много случаев убедиться в том, какое большое значение в теории вероятностей имеют основные числовые характеристики случайных величин: математическое ожидание и дисперсия - для одной случайной величины, математические ожидания и корреляционная матрица - для системы случайных величин. Искусство пользоваться числовыми характеристиками, оставляя по возможности в стороне законы распределения, - основа прикладной теории вероятностей. Аппарат числовых характеристик представляет собой весьма гибкий и мощный аппарат, позволяющий сравнительно просто решать многие практические задачи.

Совершенно аналогичным аппаратом пользуются и в теории случайных функций. Для случайных функций также вводятся простейшие основные характеристики, аналогичные числовым характеристикам случайных величин, и устанавливаются правила действий с этими характеристиками. Такой аппарат оказывается достаточным для решения многих практических задач.

В отличие от числовых характеристик случайных величин, предоставляющих собой определенные числа, характеристики случайных функций представляют собой в общем случае не числа, а функции.

Математическое ожидание случайной функции определяется следующим образом. Рассмотрим сечение случайной функции при фиксированном . В этом сечении мы имеем обычную случайную величину; определим ее математическое ожидание. Очевидно, в общем случае оно зависит от , т. е. представляет собой некоторую функцию :

. (15.3.1)

Таким образом, математическим ожиданием случайной функции называется неслучайная функция , которая при каждом значении аргумента равна математическому ожиданию соответствующего сечения случайной функции.

По смыслу математическое ожидание случайной функции есть некоторая средняя функция, около которой различным образом варьируются конкретные реализации случайной функции.

На рис. 15.3.1 тонкими линиями показаны реализации случайной функции, жирной линией - ее математическое ожидание.

Аналогичным образом определяется дисперсия случайной функции.

Дисперсией случайной функции называется неслучайная функция , значение которой для каждого равно дисперсии соответствующего сечения случайной функции:

. (15.3.2)

Дисперсия случайной функции при каждом характеризует разброс возможных реализаций случайной функции относительно среднего, иными словами, «степень случайности» случайной функции.

Очевидно, есть неотрицательная функция. Извлекая из нее квадратный корень, получим функцию - среднее квадратическое отклонение случайной функции:

. (15.3.3)

Математическое ожидание и дисперсия представляют собой весьма важные характеристики случайной функции; однако для описания основных особенностей случайной функции этих характеристик недостаточно. Чтобы убедиться в этом, рассмотрим две случайные функции и , наглядно изображенные семействами реализаций на рис. 15.3.2 и 15.3.3.

У случайных функций и примерно одинаковые математические ожидания и дисперсии; однако характер этих случайных функций резко различен. Для случайной функции (рис. 15.3.2) характерно плавное, постепенное изменение. Если, например, в точке случайная функция приняла значение, заметно превышающее среднее, то весьма вероятно, что и в точке она также примет значение больше среднего. Для случайной функции характерна ярко выраженная зависимость между ее значениями при различных . Напротив, случайная функция (рис. 15.3.3) имеет резко колебательный характер с неправильными, беспорядочными колебаниями. Для такой случайной функции характерно быстрое затухание зависимости между ее значениями по мере увеличения расстояния по между ними.

Очевидно, внутренняя структура обоих случайных процессов совершенно различна, но это различие не улавливается ни математическим ожиданием, ни дисперсией; для его описания необходимо вести специальную характеристику. Эта характеристика называется корреляционной функцией (иначе - автокорреляционной функцией). Корреляционная функция характеризует степень зависимости между сечениями случайной функции, относящимися к различным .

Пусть имеется случайная функция (рис. 15.3.4); рассмотрим два ее сечения, относящихся к различным моментам: и , т. е. две случайные величины и . Очевидно, что при близких значениях и величины и связаны тесной зависимостью: если величина приняла какое-то значение, то и величина с большой вероятностью примет значение, близкое к нему. Очевидно также, что при увеличении интервала между сечениями , зависимость величин и вообще должна убывать.

Степень зависимости величин и может быть в значительной мере охарактеризована их корреляционным моментом; очевидно, он является функцией двух аргументов и . Эта функция и называется корреляционной функцией.

Таким образом, корреляционной функцией случайной функции называется неслучайная функция двух аргументов , которая при каждой паре значений , равна корреляционному моменту соответствующих сечений случайной функции:

, (15.3.4)

, .

Вернемся к примерам случайных функций и (рис. 15.3.2 и 15.3.3). Мы видим теперь, что при одинаковых математических ожиданиях и дисперсиях случайные функции и имеют совершенно различные корреляционные функции. Корреляционная функция случайной функции медленно убывает по мере увеличения промежутка ; напротив, корреляционная функция случайной функции быстро убывает с увеличением этого промежутка.

Выясним, во что обращается корреляционная функция , когда ее аргументы совпадают. Полагая , имеем:

, (15.3.5)

т. е. при корреляционная функция обращается в дисперсию случайной функции.

Таким образом, необходимость в дисперсии как отдельной характеристике случайной функции отпадает: в качестве основных характеристик случайной функции достаточно рассматривать ее математическое ожидание и корреляционную функцию.

Так как корреляционный момент двух случайных величин и не зависит от последовательности, в которой эти величины рассматриваются, то корреляционная функция симметрична относительно своих аргументов, т. е. не меняется при перемене аргументов местами:

. (15.3.6)

Если изобразить корреляционную функцию в виде поверхности, то эта поверхность будет симметрична относительно вертикальной плоскости , проходящей через биссектрису угла (рис. 15.3.5).

Заметим, что свойства корреляционной функции естественно вытекают из свойств корреляционной матрицы системы случайных величин. Действительно, заменим приближенно случайную функцию системой случайных величин . При увеличении и соответственном уменьшении промежутков между аргументами корреляционная матрица системы, представляющая собой таблицу о двух входах, в пределе переходит в функцию двух непрерывно изменяющихся аргументов, обладающую аналогичными свойствами. Свойство симметричности корреляционной матрицы относительно главной диагонали переходит в свойство симметричности корреляционной функции (15.3.6). По главной диагонали корреляционной матрицы стоят дисперсии случайных величин; аналогично при корреляционная функция обращается в дисперсию .

На практике, если требуется построить корреляционную функцию случайной функции , обычно поступают следующим образом: задаются рядом равноотстоящих значений аргумента и строят корреляционную матрицу полученной системы случайных величин. Эта матрица есть не что иное, как таблица значений корреляционной функции для прямоугольной сетки значений аргументов на плоскости . Далее, путем интерполирования или аппроксимации можно построить функцию двух аргументов .

Вместо корреляционной функции можно пользоваться нормированной корреляционной функцией:

, (15.3.7)

которая представляет собой коэффициент корреляции величин , . Нормированная корреляционная функция аналогична нормированной корреляционной матрице системы случайных величин. При нормированная корреляционная функция равна единице.