А.Н.Соболевский

Конкретная теория вероятностей

Записки лекций

Zipped postscript

Предлагаемый односеместровый вводный курс теории вероятностей основан на курсе, который автор читает с 2006~г. на физическом факультете МГУ им М. В. Ломоносова студентам кафедры квантовой статистики и теории поля.

Курс предназначен для раннего овладения наиболее употребительными моделями и понятиями теории вероятностей на <<физическом>> уровне строгости. Аппарат теории меры не используется, доказательства (или, в отдельных случаях, их наброски) проведены в степени общности, минимально необходимой для прояснения сути дела, и дополнены разбором типичных примеров и контрпримеров. Подчеркнут вычислительный аспект теории.

Для понимания курса необходимо владение линейной алгеброй, вещественным и комплексным анализом в объеме первых трех семестров университетского курса для студентов физических специальностей. Курс предназначен для физиков, но может быть интересен и слушателю-математику как набор неявных задач на доказательство или развернутых мотивировок строгих теоретико-вероятностных построений.

Курс рассчитан на 14 лекций, примерно соответствующих отдельным абзацам программы.

Программа курса

Случайные величины и распределения вероятности: [Дискретные случайные величины] случайная величина и ее распределение вероятности; математическое ожидание и моменты; совместное распределение пары случайных величин, маргинальные и условные распределения; производящие функции распределения и моментов; примеры распределений, связанных с последовательностью независимых испытаний: биномиальное, геометрическое, пуассоново.; [Непрерывные случайные величины] непрерывные, атомарные, сингулярные распределения; кумулятивная функция распределения и функция плотности вероятности; математическое ожидание и моменты; формула замены переменных; совместное распределение пары величин и условные плотности; характеристическая функция, характеристический показатель и кумулянты; примеры непрерывных распределений (показательное, нормальное, логарифмически нормальное, Коши).; [Случайные векторы] многомерная кумулятивная функция распределения; матрица ковариации, коэффициенты корреляции, главные компоненты; независимость в совокупности; контрпример С.Н.Бернштейна; кумулянты и кластерное разложение; многомерное распределение Гаусса.
Асимптотические теоремы теории вероятностей: [Закон больших чисел и сходимость по вероятности] последовательность независимых, одинаково распределенных случайных величин; неравенство Чебышёва; закон больших чисел; сходимость по вероятности последовательности случайных величин; сходимость кумулятивных функций распределения и характеристических функций.; [Центральная предельная теорема] вывод центральной предельной теоремы методом характеристических функций в случае конечной дисперсии; контрпример - распределение Коши; распределения Леви-Парето как пределы распределений с «тяжелыми хвостами».; [Экстремальные значения] нарушение закона больших чисел в случае «тяжелых хвостов»; порядковые статистики и их кумулятивные функции распределения; типичное наибольшее значение и предельная теорема Фишера-Типпета-Гнеденко; распределения, устойчивые относительно сложения и максимизации; устойчивость и универсальность.; [Большие уклонения] случайное блуждание по целым точкам; типичные траектории и их статистический вес; теорема Шеннона и принцип больших уклонений в схеме Бернулли с конечным числом исходов; принцип больших уклонений для суммы непрерывных величин (вывод методом стационарной фазы); функция Крамера и преобразование Лежандра.
Информация и статистический вывод: [Правдоподобие, энтропия и информация] пространство элементарных событий, разбиения и алгебры событий; вероятностная мера и условные вероятности; энтропия как мера неопределенности по Хартли и Шеннону; условная энтропия и взаимная информация; формулы полной вероятности и Байеса, правдоподобие; задача различения распределений и относительная энтропия (информационное отклонение); функция правдоподобия, энтропия и информационное отклонение в непрерывном случае; информация по Фишеру.; [Оценивание параметров] генеральная совокупность, параметры, статистики, оценки; метод выборочного распределения; состоятельность и несмещенность; неравенства Рао-Крамера и эффективность оценок; оценки максимального правдоподобия.; [Проверка гипотез] критерии согласия (хи-квадрат, G-тест, критерий Колмогорова-Смирнова); выбор из двух простых гипотез, ошибки I и II рода; критерий отношения правдоподобия.
Цепи Маркова: [Конечные цепи Маркова] вероятности перехода и стохастические матрицы; маргинальное распределение вероятности; случайное блуждание на графе, поток вероятности; стационарное распределение; частные случаи симметричной матрицы и детального равновесия; классификация состояний конечной цепи Маркова; стационарные распределения и поглощающие классы.; [Существование стационарного распределения] принцип сжимающих отображений для положительной стохастической матрицы; неприводимость, цикличность, перемешивание; стационарное распределение неприводимой ациклической цепи Маркова; скорость сходимости и спектр матрицы перехода; теорема Крылова-Боголюбова.; [Случайное блуждание и броуновское движение] случайное блуждание и его непрерывный предел; асимметричное случайное блуждание, дрейф и диффузия; уравнение Фоккера-Планка; блуждание в непроницаемых и поглощающих границах; момент первого достижения.; [Цепь Маркова в непрерывном времени и процесс Пуассона] характеристическое свойство показательного распределения; процесс Пуассона, телеграфный процесс, процесс скачков; уравнение марковской эволюции; «(H)-теорема» для цепи Маркова с детальным равновесием.