- •Лекция № 3 Введение. Классификация событий. Действия над событиями
- •2. События. Классификация событий. Пространство элементарных событий
- •4. Практические занятия
- •Лекция№5:Условная вероятность. Формула полной вероятности и формула Байеса. Независимые случайные события
- •1.1 Распределение Релея
- •1 Система двух случайных величин
- •1.Введение
- •4. Практические занятия
- •2.Элементы теории множеств.
- •2.1 Определение множества. Мощность множества. Подмножества.
- •2.2 Множества и подмножества.
- •2.3 Способы задания множеств. Универсальное множество.
- •2.4 Операции над множествами.
- •Практическое занятие №2
- •Тема: Основные понятия комбинаторики.
- •2. Перестановки, размещения.
- •3. Сочетания.
- •4. Разбиение на группы:
- •1. Введение
- •3. Алгебра событий
- •1. Введение
- •2. События. Классификация событий. Пространство элементарных событий
- •Примеры.
- •3. Алгебра событий
- •События Вi образуют полную группу событий, если
- •Особый интерес представляют полные группы несовместимых событий
- •План лекции:
- •2. Классический способ задания вероятностей.
- •3. Статистическая вероятность
- •4. Геометрическая вероятность.
- •Лекция№5
- •2. Формула полной вероятности.
- •3. Формула Байеса (теорема гипотез).
- •4. Независимые случайные события.
- •Контрольные вопросы и тесты
- •2 Закон распределения случайной величины.
- •3. Функция распределения
- •4. Плотность распределения случайной величины
- •Практическое занятие №1
- •1.Математическое ожидание , мода и медиана случайной величины
- •2. Моменты. Дисперсия. Среднее квадратическое отклонение.
- •3. Моменты высших порядков
- •Математическое ожидание, мода и медиана случайной величины
- •2. Моменты. Дисперсия. Среднее квадратическое отклонение.
- •3. Моменты высших порядков
- •Практическое занятие №1
- •5. Контрольные вопросы и задания
- •1. Биномиальное распределение
- •2. Распределение Пуассона
- •3. Простейший поток событий
- •1. Испытания (схема) Бернулли. Биномиальное распределение
- •Если ставить вопрос о появлении события а k-раз в n испытаниях в произвольном порядке, то событие представимо в виде
- •2. Распределение Пуассона.
- •3. Простейший поток событий
- •Задача 4
- •Задача 5
- •Задача 6
- •Практическое занятие № 2
- •5. Контрольные вопросы
- •1.1 Равномерное распределение вероятностей
- •1.2 Показательное (экспоненциальное) распределение
- •1.3 Нормальное распределение
- •Задача 1
- •Решение
- •Решение
- •Задача 4
- •Задача 6
- •Практическое занятие №2
- •2. Рекомендуемые фрагменты программ
- •1.1 Распределение Релея
- •1.1 Распределение Релея
- •1.2 Распределение Максвелла
- •1.3 Логарифмическое нормальное распределение
- •2. Функция случайной величины.
- •Практическое занятие №1
- •3. Рекомендации к выполнению.
- •Практическое занятие №2
- •Задача3
- •1 Система двух случайных величин
- •1 Система двух случайных величин
- •1.2 Плотность распределения двух случайных величин
- •1.3 Условные функция распределения и плотность распределения
- •1.4 Корреляция двух случайных величин
- •Аналогично имеем
- •2. Система произвольного числа случайных величин
- •Задача1
- •Практическое занятие №2 Тема: Исследование системы двух случайных величин
- •Так как под интегралом в (1) находится неотрицательная величина, то, выбросив из интервала интегрирования отрезок ав, мы значение интеграла не увеличим, т.Е.
- •2. Характеристические функции
- •Для дискретной случайной величины х с законом распределения
- •Свойства характеристической функции
- •3. Центральная предельная теорема
- •2. Числовые характеристики выборки
- •2.1. Выборочное среднее
- •Выборочная дисперсия
- •3. Статистический ряд. Статистическая функция распределения
- •4. Статистическая совокупность. Гистограмма
- •1. Оценка параметров
- •2. Метод наибольшего правдоподобия для нахождения оценок
- •3. Метод наименьших квадратов
3. Метод наименьших квадратов
Применим метод наибольшего правдоподобия для обработки экспериментальных данных. Предположим, что между физической величиной t (например, временем) и измеряемой y (сигналом) существует функциональная зависимость
y = (t).
Вид этой зависимости необходимо определить из опыта. Положим, что в результате опыта мы получили ряд экспериментальных точек и построили график зависимости у от t. Экспериментальные точки всегда имеют ошибки измерения. Возникает вопрос, как по экспериментальным данным наилучшим образом воспроизвести зависимость у от t? Если провести интерполяционную кривую, то есть кривую, точно проходящую через экспериментальные точки, то это в силу ошибок измерения будет не самым лучшим решением. В случае, когда известна тенденция этой зависимости, другими словами вид кривой, то задача упрощается. Тогда возникает задача сглаживания - построение кривой таким образом, чтобы уклонение(в каком-то смысле) от экспериментальных точек кривой было минимальным.
Очень часто бывает так, что, зная вид кривой, из опыта требуется установить только некоторые параметры зависимости. Например, известно, что зависимость есть линейная y = at + b, а неизвестные величины а и b надлежит определить из экспериментальных данных y1= y(t1), y2= y(t2), ... ,yn= y(tn). В общем случае функция у = (t, a, b, ...) может содержать много параметров (а,b, ...). Требуется выбрать эти параметры так, чтобы кривая у = (t, a, b, ...) в каком-то смысле наилучшим образом отображала зависимость, полученную опытным путем. Для этого рассмотрим следующую модель.
Имеются наблюдения (экспериментальные данные) y1, y2, ... ,yn точных величин (t1, a, b, ...) (t2, a, b, ...), ... , (tn, a, b, ...). Тогда величина i = yi - (ti, a, b, ...) является ошибкой наблюдения. Относительно ошибок будем полагать, что i - независимые случайные величины с математическим ожиданием равным нулю (центрированные) и одинаковой дисперсией 2 подчинены нормальному закону распределения. Функция правдоподобия в этом случае будет иметь вид
и достигает своего максимального значения путем выбора параметров а, b ... лишь тогда, когда функция
достигнет минимального значения. Если измерения неравноценны, что эквивалентно наличию разных дисперсий i2 ошибок i , то, исходя из функции правдоподобия, необходимо минимизировать функцию
.
Величина здесь играет роль весовых множителей. Этот метод отыскания параметров носит название метода наименьших квадратов.
Для нахождения минимального значения последней функции нужно решить систему уравнений
количество уравнений которой равно количеству параметров а, b, ... .
Пример. В качестве примера рассмотрим упомянутую линейную зависимость при равноценных измерениях:
у = аt + b ( (ti ;a, b) = at + b).
В этом случае нам нужно минимизировать функцию
Приравнивая к нулю частные производные от этой функции по а и b, получаем систему двух уравнений с двумя неизвестными
Решая эту систему относительно а и b, после простых преобразований получим следующую линейную зависимость
где
Контрольные вопросы:
Дайте определение оценки параметра.
Обоснуйте, почему оценки параметров являются случайными величинами.
Какими свойствами должны обладать оценки параметров, чтобы их можно было использовать практически?
Приведите определение состоятельной оценки.
Приведите определение эффективной оценки.
Что означает «несмещенность оценки»?
Покажите, что используемые оценки математического ожидания и дисперсии являются несмещенными.
Назначение метода наименьших квадратов и его алгоритм.
Назначение метода наибольшего правдоподобия.
В каких случаях нельзя воспользоваться методом наибольшего правдоподобия?
Електронне навчальне видання
Конспект лекций з дисципліни
Вища математика (спеціальні розділи)
для студентів усіх форми навчання
напряму 6.050903 „Телекомунікації”
Упорядник МЕЛЬНІКОВА Любов Іванівна
Відповідальний випусковий В.В. Поповський
Авторська редакція