Случайные процессы

Имелся ряд импульсов к возникновению нового раздела теории вероятностей. Считается, что основной из них дала физика. Напомним, что в 1827 году шотландский ботаник Р.Броун (1773-1858) обнаружил под микроскопом хаотическое движение частиц цветочной пыльцы в воде.

Рис. 1. Броуновское движение.

Среди важных предпосылок создания теории случайных процессов следует назвать "цепную зависимость", введенную А.А.Марковым (1856-1922) в 1906 году. Удивительно, что построенная модель случайных величин, получившая название цепи Маркова, возникла при изучении им расположения комбинаций гласных и согласных букв в тексте романа "Евгений Онегин" и лишь позднее была использована и обобщена в ряде физических исследований. На сегодняшний день создана мощная теория марковских процессов, имеющая разнообразные применения, в частности, в биологии. Интерес представляет и теория марковских случайных полей, возникшая на основе теории марковских процессов. Марковские цепи и поля находят приложения и при распознавании образов. Упомянем также широко известный метод Монте-Карло марковских цепей (английская аббревиатура MCMC). Укажем на книги Е.Б.Дынкина, Ю.А.Розанова, Р.Киндермана, Н.Бремо, Г.Винклера.

Кроме того, Ф.Лундбергом (1876-1965) в его диссертации (1903) была введена модель, описывающая деятельность страховой компании. В этой работе впервые возник так называемый пуаcсоновский процесс, который позднее стал использоваться при изучении радиоактивного распада. В теории страхования ныне широко известны модели Крамера – Лундберга и Спарре Андерсена. Процессы с "дискретным вмешательством случая" и идеи, восходящие к классическим задачам "геометрических вероятностей" (например, о "случайном бросании" на плоскость точки или иглы) привели позднее к созданию теории точечных случайных процессов (см., например, монографию Д.Штояна и Г.Штояна). Отметим также модель Гальтона – Ватсона, относящуюся к анализу вымирания аристократических фамилий в Великобритании. Эта модель сформировалась в 1873 году в ходе переписки Ф.Гальтона (1822-1911) и Г.Ватсона (1827-1903), приведшей к "теореме вырождения". Она послужила основой для развития во второй половине XX века теории ветвящихся процессов, изучающей эволюцию семейств рождающихся и гибнущих частиц, а также взаимодействия частиц различных типов. Укажем на труды А.Н.Колмогорова, Н.А.Дмитриева (1924-2000), Б.А.Севастьянова, Р.Беллмана (1920-1984), Т.Харриса (1919-2005), П.Ягерса и их последователей.

Выдающуюся роль в создании общей теории случайных процессов сыграли статьи А.Н.Колмогорова "Об аналитических методах в теории вероятностей" (1931) и А.Я.Хинчина "Теория корреляции стационарных стохастических процессов" (1934). Однако прочный фундамент для теории случайных процессов (и всей теории вероятностей) был заложен лишь в 1933 году благодаря аксиоматике Колмогорова.

Случайный процесс – это семейство случайных величин , заданных на некотором вероятностном пространстве и некотором промежутке. Параметр t интерпретируется как время. Таким образом, X(t) представляет собой состояние (исследуемой) "системы" в момент t. Точнее говоря, случайный процесс – это функция X=X(,t) переменных и такая, что X(,t) является случайной величиной при каждом . При фиксированном ω функция X(ω,) называется траекторией (или реализацией) процесса. Обычно аргумент ω опускают и пишут X(t).

Разумеется, можно рассматривать случайный процесс, заданный на каком-либо вероятностном пространстве и произвольном параметрическом множестве T. Если и d>1, то говорят о случайном поле. Возможны и дальнейшие обобщения, например, исследуются процессы, у которых величины X(t) принимают значения в абстрактном пространстве S, снабженном -алгеброй (при каждом величина X(t) является -измеримой). Наряду с термином случайный процесс (определенный на некотором множестве T) как синоним используется термин случайная функция.

Классическая теорема Колмогорова дает условия, при которых на некотором пространстве существует случайный процесс c заданными конечномерными распределениями, т.е. мерами, представляющими собой законы распределения векторов , где и .

Случайный процесс , где называется цепью Маркова, если величины при всех принимают значения в конечном или счетном множестве S (точки которого удобно отождествить с их номерами) и выполнено следующее соотношение. Для всех и

когда

Смысл данного определения состоит в том, что поведение «системы» в момент времени при заданных состояниях в предшествующие моменты времени зависит только от ее состояния в последний момент s, предшествующий t. Обычно рассматриваются цепи Маркова с дискретным или непрерывным временем, т.е. когда соответственно или Конечномерные распределения марковской цепи задаются двумя объектами – переходными вероятностями

где , и начальным распределением ,

Заметим, что динамика случайных явлений фактически присутствовала и в ряде классических задач, вовлекавших рассмотрение последовательности случайных величин . Достаточно упомянуть первую предельную теорему теории вероятностей – закон больших чисел, установленный Бернулли¹ в 1713 году. Эта теорема в современном изложении утверждает, что по вероятности при для последовательности независимых случайных величин, принимающих значения 1 и 0 соответственно с вероятностями p и 1-p (0<p<1). Другими словами, при каждом ε >0 выполнено соотношение

Тем самым "частота" появления "успехов" (т.е. единиц) сходится в указанном смысле с ростом n к вероятности "успеха" в отдельном испытании.

Развитие этого направления привело в теории случайных процессов к рождению эргодической теории. В этой связи достаточно упомянуть эргодическую теорему Биркгофа – Хинчина и субэргодическую теорему Кингмана – Лиггетта. Например, с помощью последней теоремы устанавливается теорема Фюрстенберга – Кестена, утверждающая следующее. Пусть – стационарная последовательность -матриц с положительными элементами, логарифм которых интегрируем по мере P. Тогда найдется случайная величина Y такая, что для матричных элементов при всех имеем



Стационарность² означает инвариантность конечномерных распределений указанной последовательности относительно сдвигов в пространстве индексов .

Выдающийся вклад в эргодическую теорию внесен Я.Г.Синаем и его школой.

Здесь же упомянем интенсивно развивающуюся область изучения случайных операторов и их спектров. Более того, оказалось, что изучение спектров бесконечных случайных матриц имеет непосредственное отношение к знаменитой гипотезе Римана о нулях ζ-функции.

Теория случайных процессов бурно развивалась в XX-м веке. Возникли обширные новые направления этой теории. Например, исследования А.К.Эрланга (1878-1929), связанные с изучением загрузки телефонных сетей, привели к формированию теории массового обслуживания ("теории очередей"). В этой области выделяются работы Б.В.Гнеденко (1912-1995), И.Н.Коваленко, Ю.К.Беляева и А.Д.Соловьева (1927-2001). Ныне эта теория охватывает новые области исследований, например, транспортные сети.

Введение К.Ито (1915-2008) стохастического интеграла, называемого ныне интегралом Ито, привело к созданию стохастического исчисления и мощной теории стохастических дифференциальных уравнений. Например, уравнение Ланжевена для скорости V=V(t) движения частицы в жидкости может быть записано в виде
dV(t)= a V(t)dt + b dW(t) , t≥ 0,
где a и b – числовые коэффициенты, характеризующие массу частицы и вязкость среды, а W=W(t) – винеровский процесс (броуновское движение). Поразительный факт заключается в том, что почти все (по мере P) траектории винеровского процесса не дифференцируемы ни в одной точке ! Поэтому приведенное уравнение следует понимать как формальную запись некоторого интегрального соотношения, вовлекающего интеграл Ито. Для привлечения внимания читателей к этой области исследований отметим, что методы стохастического анализа позволили решить сложные и важные задачи выделения сигнала на фоне шума. Более того, отметим, что ныне на передний край выходят исследования стохастических дифференциальных уравнений в частных производных.

Отдельного упоминания заслуживают разнообразные задачи оптимального управления случайными процессами. Например, задачи нахождения (в определенном смысле) оптимальных режимов функционирования сложных систем.

Теория гиббсовских случайных полей, заложенная в 60-е годы прошлого века в работах Р.Л.Добрушина (1929-1995), О.Лэнфорда и Д.Рюэля, позволила, например, интерпретировать фазовые переходы состояний вещества. Теория автомодельных процессов, инициированная А.Н.Колмогоровым в 40-е годы XX-го столетия, обеспечила прогресс в изучении турбулентности. Оказалось, что автомодельность свойственна многим физическим процессам. Дальнейшее развитие этой теории "фрактальности" связано с работами Б.Мандельброта и его последователей.

Отдельно отметим, что возникли новые разделы математической статистики, относящиеся к изучению случайных процессов (в частности, прогноз и интерполяция). В этой связи укажем на исследования У.Гренандера, И.А.Ибрагимова и Р.З.Хасьминского.

Важную роль в современных условиях играет и моделирование (на компьютере) случайных процессов и полей.

Можно сказать, что сейчас существует целый ряд самостоятельных направлений исследований в теории случайных процессов, некоторые из них были упомянуты выше. Как правило, выделяются достаточно широкие классы случайных процессов и для их изучения используется соответствующий набор методов.

По семействам независимых случайных величин (более общим образом, случайных элементов), которые существуют в силу теоремы Ломницкого - Улама¹, возможно строить новые случайные функции. Так, например, определяются процессы восстановления. Напомним, что если – независимые одинаково распределенные положительные величины, то простейший процесс восстановления задается формулой

где и сумма по пустому множеству индексов (т.е. когда ) считается равной нулю. Если "поломки" некоторого устройства происходят в случайные моменты , и мгновенно производится устранение этих поломок, то Y(t) дает общее число восстановлений за время от 0 до t. Заметим, что анализ траекторий сумм независимых случайных величин (иначе говоря, случайных блужданий) нашел применения в теории полимеров. Большой интерес представляют также случайные блуждания в случайной среде.

Важный класс образуют процессы с независимыми приращениями. В этот класс входят броуновское движение (называемое также винеровским процессом) и пуассоновский процесс. В связи с задачами стохастической финансовой математики большое значение приобрели также процессы Леви.

Обширный и хорошо изученный класс составляют гауссовские процессы. Действительный гауссовский процесс – это процесс, имеющий гауссовскими все конечномерные распределения, т.е. при любом и произвольных вектор является гауссовским. Другими словами, характеристическая функция этого вектора имеет вид

где (,) – скалярное произведение в , –1, вектор и -матрица симметрична и обладает свойством неотрицательной определенности ( и Заметим, что компоненты гауссовского вектора независимы в том и только том случае, когда при всех Броуновское движение является гауссовским процессом.

Множество глубоких результатов относится к изучению траекторий гауссовских процессов (и полей). Например, найдены необходимые и достаточные условия непрерывности траекторий. Исследованы такие важные задачи, как нахождение асимптотики вероятности выброса процесса за высокий уровень u (когда ).

Рис. 2. Реализация гауссовского случайного поля.

В XX-м веке наряду с марковской зависимостью появились и другие важные определения, приводящие к новым классам процессов. Достаточно напомнить определение процессов, представляющих собой мартингалы (имеются также субмартингалы и супермартингалы). Этот класс задается с помощью фильтрации, т.е. семейства -алгебр , где , обладающих свойством "возрастания":при всех , для которых Действительный случайный процесс называется мартингалом относительно фильтрации , если величина X(t) является -измеримой при любом и для всех таких, что . Здесь обозначает условное математическое ожидание относительно -алгебры . Оказалось, что класс мартингалов (и более общий класс семимартингалов) играет важнейшую роль в теории стохастических дифференциальных уравнений.

Во второй половине XX-го века стали исследоваться процессы и поля с перемешиванием, а начиная с 70-х годов - процессы и поля, обладающие различными формами положительной или отрицательной зависимости. Часто положительную зависимость называют ассоциированностью. В физической литературе используются близкие условия, носящие название ФКЖ-неравенств¹. Такие неравенства и их аналоги оказались полезными в задачах теории перколяции (или просачивания). Простейший вариант такой задачи был сформулирован в 1957 году С.Бродбентом и Дж.Хаммерсли (1920-2004). Поместим пористый камень в емкость с водой. С какой вероятностью вода попадет в заданную точку этого камня? Формализуется задача следующим образом. Представим себе камень как множество "широких" и "узких" каналов. Удобно рассматривать камень как решетку (при d=3) и считать каналами ребра, соединяющие соседние вершины (для которых |x-y|=1, где и ). Пусть каждое ребро является открытым ("широким") с вероятностью p и закрытым ("узким") с вероятностью 1-p, причем все ребра открываются или закрываются независимо друг от друга (0<p<1). Спрашивается, при каких p на решетке возникает бесконечный путь из открытых каналов (имеются и другие формулировки). Доказывается, что ответ на поставленный вопрос зависит от того, больше или меньше p некоторой критической вероятности . Дальнейшему развитию этой проблематики посвящены, например, книги Г.Кестена и Дж.Гримметта.

Во второй половине прошлого века были установлены глубокие взаимосвязи между изучением процессов (полей), заданных на дискретных и непрерывных параметрических множествах, а также исследованы распределения процессов в различных функциональных пространствах. Огромный вклад в эту область функциональных предельных теорем внесли А.Н.Колмогоров, Ю.В.Прохоров, А.В.Скороход, В.Штрассен, А.А.Боровков, А.Н.Ширяев, Ж.Жакод и другие ученые.

Новые проблемы, требующие развития теории случайных процессов и полей, возникают в биологии и медицине. Усилия многих математиков направлены также на развитие актуарной и стохастической финансовой математики.

Интересно, что вероятностные идеи используются в различных математических областях. Например, в комплексном анализе хорошо известно уравнение Левнера. А именно, рассмотрим односвязную область и простую непрерывную кривую γ в D, начинающуюся на D. По теореме Римана конформно изоморфно D. Пусть D – единичный диск, – должным образом нормированный изоморфизм. Для уравнение Левнера имеет вид

где ζ(t) – некоторая функция. Эволюция Шрамма -- Левнера означает выбор Здесь W – винеровский процесс и – некоторая константа. Удобно вместо использовать обратное отображение , а также переход от диска к верхней полуплоскости, тогда возникает уравнение

Выяснилось, что с помощью этого уравнения можно находить критические показатели перколяции на определенных решетках.

Известно, что крупные достижения в науке возникают на стыке нескольких областей. Отметим, что в 2006 году А.Ю.Окунькову была присуждена премия Филдса "за достижения, соединяющие теорию вероятностей, теорию представлений и алгебраическую геометрию". В 2010 году С.К.Смирнов был удостоен премии Филдса за работы по теории перколяции и исследование скейлинговых пределов в моделях статистической физики.

Рис. 3. Филдсовская медаль.

Даже на простых примерах, рассмотренных в столь краткой заметке, мы видим, что часто новое рождается в недрах старого и со временем вырастает в отдельную область исследований. К сожалению, нет возможности отметить даже все основные направления исследований современной теории случайных процессов, а тем более изложить замечательные результаты целого ряда выдающихся ученых. Мы не останавливаемся и на достижениях сотрудников кафедры теории вероятностей механико-математического факультета МГУ, поскольку они отражены на их индивидуальных страницах. Список литературы содержит лишь некоторые учебники, содержащие материал по теории случайных процессов.
ЛИТЕРАТУРА
[1] А.А.Боровков. Теория вероятностей. М.: УРСС, 1999.

[2] А.В.Булинский, А.Н.Ширяев. Теория случайных процессов. ФИЗМАТЛИТ, 2005.

[3] А.Д.Вентцель. Курс случайных процессов. М.: Наука, 1996.

[4] Б.В.Гнеденко. Курс теории вероятностей. М.: Наука, 1988.

[5] Ю.В.Прохоров, Ю.А.Розанов. Теория вероятностей: Основные понятия. Предельные теоремы. Случайные процессы. М.: Наука, 1987.

[6] Ю.А.Розанов. Введение в теорию случайных процессов. М.:Наука, 1982.

[7] В.Н.Тутубалин. Теория вероятностей и случайных процессов. М.: изд-во МГУ, 1992.

[8] В.Феллер. Введение в теорию вероятностей, т. 1,2. М. Мир, 1984.

[9] А.Н.Ширяев. Вероятность, т. 1,2. М. МЦНМО, 2007.

[10] O.Kallenberg. Foundations of Modern Probability, Springer, 1997.

[11] L.B.Koralov, Y.G.Sinai. Theory of Probability and Random Processes. Springer, 2007.

[12] N.V.Krylov. Introduction to the Theory of Random Processes. AMS, 2002.