На главную страницу НМУ
А.Н.Соболевский
Конкретная теория вероятностей
Записки лекций
Zipped postscript
[Записки лекций (284K)]
Предлагаемый односеместровый вводный курс теории вероятностей основан
на курсе, который автор читает с 2006~г. на физическом факультете МГУ
им М. В. Ломоносова студентам кафедры квантовой статистики и теории
поля.
Курс предназначен для раннего овладения наиболее употребительными
моделями и понятиями теории вероятностей на <<физическом>> уровне
строгости. Аппарат теории меры не используется, доказательства
(или, в отдельных случаях, их наброски) проведены в степени
общности, минимально необходимой для прояснения сути дела, и
дополнены разбором типичных примеров и контрпримеров. Подчеркнут
вычислительный аспект теории.
Для понимания курса необходимо владение линейной алгеброй,
вещественным и комплексным анализом в объеме первых трех семестров
университетского курса для студентов физических специальностей.
Курс предназначен для физиков, но может быть интересен и
слушателю-математику как набор неявных задач на доказательство или
развернутых мотивировок строгих теоретико-вероятностных построений.
Курс рассчитан на 14 лекций, примерно соответствующих отдельным
абзацам программы.
Программа курса
- Случайные величины и распределения вероятности
- [Дискретные случайные величины]
случайная величина и ее распределение вероятности; математическое
ожидание и моменты; совместное распределение пары случайных
величин, маргинальные и условные распределения; производящие
функции распределения и моментов; примеры распределений, связанных с
последовательностью независимых испытаний: биномиальное,
геометрическое, пуассоново.
- [Непрерывные случайные величины]
непрерывные, атомарные, сингулярные распределения; кумулятивная
функция распределения и функция плотности вероятности;
математическое ожидание и моменты; формула замены переменных;
совместное распределение пары величин и условные плотности;
характеристическая функция, характеристический показатель и
кумулянты; примеры непрерывных распределений (показательное,
нормальное, логарифмически нормальное, Коши).
- [Случайные векторы]
многомерная кумулятивная функция распределения; матрица
ковариации, коэффициенты корреляции, главные компоненты;
независимость в совокупности; контрпример С.Н.Бернштейна;
кумулянты и кластерное разложение; многомерное распределение
Гаусса.
- Асимптотические теоремы теории вероятностей
- [Закон больших чисел и сходимость по вероятности]
последовательность независимых, одинаково распределенных
случайных величин; неравенство Чебышёва; закон больших чисел;
сходимость по вероятности последовательности случайных величин;
сходимость кумулятивных функций распределения и
характеристических функций.
- [Центральная предельная теорема]
вывод центральной предельной теоремы методом характеристических
функций в случае конечной дисперсии; контрпример - распределение
Коши; распределения Леви-Парето как пределы распределений с
«тяжелыми хвостами».
- [Экстремальные значения]
нарушение закона больших чисел в случае «тяжелых хвостов»;
порядковые статистики и их кумулятивные функции распределения;
типичное наибольшее значение и предельная теорема
Фишера-Типпета-Гнеденко; распределения, устойчивые относительно
сложения и максимизации; устойчивость и универсальность.
- [Большие уклонения]
случайное блуждание по целым точкам; типичные траектории и их
статистический вес; теорема Шеннона и принцип больших уклонений в
схеме Бернулли с конечным числом исходов; принцип больших
уклонений для суммы непрерывных величин (вывод методом
стационарной фазы); функция Крамера и преобразование Лежандра.
- Информация и статистический вывод
- [Правдоподобие, энтропия и информация]
пространство элементарных событий, разбиения и алгебры событий;
вероятностная мера и условные вероятности; энтропия как мера
неопределенности по Хартли и Шеннону; условная энтропия и взаимная
информация; формулы полной вероятности и Байеса, правдоподобие;
задача различения распределений и относительная энтропия
(информационное отклонение); функция правдоподобия, энтропия и
информационное отклонение в непрерывном случае; информация по
Фишеру.
- [Оценивание параметров]
генеральная совокупность, параметры, статистики, оценки; метод
выборочного распределения; состоятельность и несмещенность;
неравенства Рао-Крамера и эффективность оценок; оценки
максимального правдоподобия.
- [Проверка гипотез]
критерии согласия (хи-квадрат, G-тест, критерий
Колмогорова-Смирнова); выбор из двух простых гипотез, ошибки I и
II рода; критерий отношения правдоподобия.
- Цепи Маркова
- [Конечные цепи Маркова]
вероятности перехода и стохастические матрицы; маргинальное
распределение вероятности; случайное блуждание на графе, поток
вероятности; стационарное распределение; частные случаи
симметричной матрицы и детального равновесия; классификация
состояний конечной цепи Маркова; стационарные распределения и
поглощающие классы.
- [Существование стационарного распределения]
принцип сжимающих отображений для положительной стохастической
матрицы; неприводимость, цикличность, перемешивание; стационарное
распределение неприводимой ациклической цепи Маркова; скорость
сходимости и спектр матрицы перехода; теорема Крылова-Боголюбова.
- [Случайное блуждание и броуновское движение]
случайное блуждание и его непрерывный предел; асимметричное
случайное блуждание, дрейф и диффузия; уравнение Фоккера-Планка;
блуждание в непроницаемых и поглощающих границах; момент первого
достижения.
- [Цепь Маркова в непрерывном времени и процесс Пуассона]
характеристическое свойство показательного распределения; процесс
Пуассона, телеграфный процесс, процесс скачков; уравнение
марковской эволюции; «(H)-теорема» для цепи Маркова с
детальным равновесием.
