Содержание
-
Основы математической статистики
Горшков А.В. pptcloud.ru
-
Курс «Основы статистики » для студентов факультета «Связи с общественностью» рассчитан на то, чтобы дать представление об основных задачах, методах и подходах статистики, ее основах. Предполагается, что студенты знают основы курса высшей математики (элементы математического анализа: теория предела, производная, интегралы, в том числе несобственные) в пределах курса высшей математики для студентов гуманитарных факультетов университетов. Курс состоит из двух частей. Первая - элементы теории вероятностей. Вторая - основы математической статистики. Первая часть необходима для более глубокого и полного понимания основных задач и методов статистики. Объем курса 36 часов лекций. Отчетность – зачет.
-
литература
Шолохович Ф.А. Высшая математика в кратком изложении. Екатеринбург, УрГУ, 2003 Турецкий В.Я. Высшая математика. Екатеринбург, 1997. Гмурман В.Е. Теория вероятностей и математическая статистика. М.: Высшая Школа, 2001, 479 с. Гмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике. Учебное пособие для студентов вузов. М.: "Высшая Школа", 1999. Математическая статистика позволяет обрабатывать результаты опытов, измерений и т.д. Математическая статистика использует методы теории вероятности. Теория вероятностей определяет законы случайности.
-
Шкалы измерений
Номинальная.Позволяет различать предметы, например по цвету Дихотомическая. Ранговая.Позволяет упорядочить предметы Интервальная Относительнаяноль соответствует полному отсутствию свойства (качества)
-
Случайные события
Событие называется детерминированным, если в результате опыта оно происходит или не происходит наверняка. В детерминированном случае мы точно знаем, что данная причина приведет к единственному, вполне определенному следствию. Событие называется случайным, если в результате опыта мы не можем заранее предсказать - произойдет событие или нет. При этом предполагается, что опыт можно повторять неограниченное число раз при неизменных условиях. События, исход которых нельзя предсказать, но и невозможно повторять многократно, называютсянеопределенными.
-
События Aи Bназываются несовместными, если появление одного исключает появление другого. Событие Bследует из события A, если событие B происходит всегда, когда произошло событиеA . Это обозначается тем же символом, что и подмножество:AÌB . Будем говорить о равенстве двух событий A и B, если из A следует B и из B следует A. Событие называется невозможным, если оно не может произойти никогда при данных условиях. Событие называется достоверным, если оно происходит всегда при данных условиях.
-
Пусть случайный эксперимент проводится раз n, и событие A произошло m раз. Тогда говорят, что относительная частота событияA естьn(A)=m/n . Частота события связана с его вероятностью.Относительную частоту называют еще эмпирическойвероятностьюпотому, что по частоте события мы оцениваем возможность его появления в будущем. Для любого случайного события A 0£Pn(A) £1n - количество случайных экспериментов.
-
Алгебра событий
Суммой двух событий A иB называется событие A+B, состоящее в том, что произошло событиеA или событие B. В данном случае "или" употребляется в не исключающем значении: А или B означает, что произошло событие A, или событие B или оба этих события одновременно. Коммутативность и ассоциативность позволяют складывать любое число событий в любом порядке. Свойство: из события A следует сумма этого события с любым бытием B : Сложение событий удовлетворяет коммутативному и ассоциативному законам:
-
Произведением двух событий A и B называется событие , состоящее в том, что события A и B произошли одновременно. Умножение событий так же, как и сложение, коммутативно и ассоциативно: Свойство: из события AB следуют событие A и событие B и Сложение и умножение событий удовлетворяют двум дистрибутивным законам.
-
Две теоремы о вероятности суммы событий и произведении
1. Если события несовместны, то вероятность суммы событий равна сумме вероятностей: P(A+B) = P(A) + P(B) 2. Если события независимы, то вероятность произведения событий равна произведению вероятностей: P(A B) = P(A) P(B) Обобщение этих теорем докажем позже.
-
Примеры. 1. Подбрасываем кубик. Всего исходов 6. Какова вероятность, что выпадет четное число? Благоприятны исходы 2, 4, 6. Всего 3. 3/6 2. Какова вероятность, что при первом броске выпадет 3, во втором 4? 3. Какова вероятность, что выпадет 3 или 5? Здесь вероятность суммы несовместных событий. P=1/3 4. Стрелок стреляет по мишени 4 раза. Вероятность попадания в одном выстреле 0.8. Считаем, что у него хорошие нервы – каждый следующий выстрел не зависит от предыдущего. Какова вероятность, что он промахнется ровно 1 раз? Здесь вероятность произведения событий:P(3)=1/6, P(4)=1/6
-
Решение. Могут произойти следующие события: А1 промах в 1 выстреле, А2 промах во 2, А3 - в 3,или А4 - в 4. Следовательно, событие, состоящее в одном промахе, можно представить как сумму событий А= А1 + А2 +А3 +А4. Но события очевидно, несовместны и P(А)= P(А1) + P(А2 )+P(А3) +P(А4). – вероятность суммы событий равна сумме вероятностей. Но каждое событие Аi состоит в том, что одновременно, в одной серии выстрелов, произошли 4 события, причем эти события независимы по условию: Аi= Аi1Аi2Аi3Аi4. Но вероятность произведения независимых событий равна произведению вероятностей. Нужно найти вероятность промаха. В одном выстреле стрелок может либо попасть, либо промахнуться. Следовательно, эти события образуют полный набор и они несовместны. Но тогда вероятность промаха 1-0.8=0.2. P(Аi)=P(Аi1)P(Аi2)P(Аi3)P(Аi4.)=0.8*0.8*0.8*0.2=0.1024. Всего 0.4096
-
Разностью событий A и B называется событие A - B, состоящее в том, что произошло событие A и не произошло событие B. Событие B называется противоположным событию A , если оно состоит в том, что не произошло событиеA Элементарные исходы1. не представимы в виде суммы двух других 2. попарно несовместны 3. никакие другие исходы в результате опыта произойти не могутСобытия образуют полный набор, если они несовместны, а их сумма есть достоверное событие. Полный набор исходов называют также пространством элементарных исходов и обозначают обычно буквой W.
-
Комбинаторика
Число расстановок Число сочетаний Например, число перестановок из 6 предметов 1х2х3х4х5х6=120. Число расстановок из 6 предметов на 4 места 120/(6-4)!=120/2!=120/2=60. Число сочетаний из 6 предметов по 4 120/(4!(6-4)!)=120/(4!2!)=5х6/2=15 Число перестановок
-
Например, число перестановок из 6 предметов 1х2х3х4х5х6=720. Число сочетаний из 6 предметов по 4
-
Классическое определение
Свойства вероятности. I. Для любого случайного события А 0£P(A) £1 2. Пусть события A и B несовместны. Тогда P(A+B)=P(A)+P(B) Например: бросание кубика. Всего исходов 6, число исходов, благоприятных выпадению четного числа – 3. P(A)=1/2 Вероятностью Р(А) события называется отношение числа благоприятных исходов m(А) к общему числу несовместных равновозможных исходов:
-
Пример. В корзине 15 шаров. Из низ 5 белых и 10 черных. Какова вероятность вытащить 3 белых шара? Какова вероятность вытащить 3 черных шара? Общее число исходов – число сочетаний из 15 по 3: Число благоприятных исходов - число сочетаний из 10 по 3 Вероятность события 120/455=0,2637
-
Пример. Из колоды в 36 карт вытаскиваем 4. Какова вероятность, что среди них 2 короля? Решаем по классической схеме. Сокращаем 36! и 32!: по определению 36!=36*35*34*33*32! тогда Считаем число благоприятных исходов: каждой паре королей нужно добавить пару «не королей» Общее число равновозможных исходов определяем с помощью комбинаторики.
-
Вероятность суммы событий
Даны два события A и B. Подсчитаем вероятность суммы событий по классической схеме. m(A) – число исходов, благоприятных только событию A. m(B) – число исходов, благоприятных только событию B. m(AB) – число исходов, благоприятных событию A и событию B. Тогда сумме событий благоприятно m(A)+ m(B)+ m(AB) исходови вероятность суммы событий равна N – общее число исходов. С другой стороны (1) (2)
-
Отсюда находим формулу вероятности суммы событий Пример. Два стрелка независимо стреляют по мишени. Первый попадает с вероятностью 0.8, второй 0.7. Какова вероятность, что попадет хотя бы один? Используем полученную формулу: 0.8+0.7-0.8*0.7=0.94 Вычтем из (2) выражение (1)
-
Условная вероятность
Пусть известно, что в результате эксперимента произошлособытие B. Зная это, мы хотим подсчитать вероятность некоторого событияA. Такую вероятность(при условии, что произошло событие B) называют условной вероятностью события Aи обозначают P(A|B). Число исходов, благоприятных B обозначим через m(B). Условная вероятность равна Если разделить числитель и знаменатель на общее число исходов N, мы придем к формуле
-
Свойства условной вероятности.1. P(A|A)=1 . 2. Если BÌA, тоP(A|B)=1. 3. Для любого события B с ненулевой вероятностью P(W|B)=1, P(0|B)=0 .4. Если события B1и B2несовместны, тоP(A|(B1+B2))=P(A|B1)+P(A|B2)5. Теорема умножения P(AB)=P(A|B)P(B).Определение независимости событий.Говорят, что событие А не зависит от события В, если P(A|B)=P(A).
-
Формула полной вероятности
Теорема.Пусть события B1, B2, . . .,Bn попарно несовместны и событие A содержится в их сумме: AÌB1+B2+…+Bn. Умножим это соотношение на событие A. Тогда в левой части получим A2=A, в правой A(B1+B2+…+Bn) и A=A(B1+B2+…+Bn) Вложение перешло в равенство. Вычислим вероятность от обеих частей P(A)=P(AB1)+P(AB2)+…+P(ABn) Вероятности произведений заменим P(AB1)=P(A|B1)P(B1) Тогда вероятность события A можно вычислить по следующей формуле: P(A)=P(A|B1)P(B1)+ P(A|B2)P(B2)+…+ P(A|Bn)P(Bn)
-
Пример. Имеется 3 группы корзин. Корзин типа B1 – 5 Корзин типа B2– 3 Корзин типа B3 – 2 В каждой корзине типа B1 10 белых 5 черных шаров. В каждой корзине типа B2 5 белых 10 черных шаров. В каждой корзине типа B3 10 белых 15 черных шаров. Какова вероятность из выбранной наугад корзины выбрать белый шар? Решение. Вероятность выбрать белый шар из B1 P(A|B1)=10/15 Вероятность выбрать белый шар из B2 P(A|B2)=5/15 Вероятность выбрать белый шар из B3 P(A|B3)=10/25 Вероятность выбрать корзину первой группы P(B1)=5/10 Вероятность выбрать корзину второй группы P(B2)=3/10 Вероятность выбрать корзину третьей группы P(B3)=2/10 Подставляем числа в формулу
-
Формула Байеса Теорема.Пусть события B1, B2, . . .,Bn попарно несовместны и событиеA содержится в их сумме: AÌB1+B2+…+Bn. Тогда при k=1,2,…,n справедлива формула
-
Пример Те же самые условия. Случайно извлечен белый шар. Какова вероятность, что он извлечен из первой группы корзин? Т.е. Мы фактически хотим найти вероятность P(B1|A). Решение. P(A)=0.513333 (из предыдущей задачи) P(B1)=5/10, P(A|B1)=10/15. После подстановки получим
-
Схема испытаний Бернулли
Пусть в результате некоторого случайного испытания можетпроизойти или не произойти определенное событие А. Если событие произошло, будем называть испытание успешным, а само событие – успехом. Испытание повторяется n раз. При этом соблюдаются следующие условия: вероятность успеха P(A)=p в каждом испытании одна и та же; результат любого испытания не зависит от исходов предыдущих испытаний. Такая последовательность испытаний с двумя исходами (успех/ неуспех) называется последовательностью независимых испытаний Бернулли или – схемой испытаний Бернулли.
-
Формула Бернулли вероятности k успехов в n независимых испытаниях. В серии из n испытаний должно одновременно произойти k успехов и n-k - «неуспехов». Вероятность успеха p, «неуспеха» q=1-p, так как для одного испытания события «успех/неуспех» образуют полную набор. Но тогда вероятность одной серии равна Сколько может быть различных серий? Очевидно, сколькими способами мы можем расставить k успехов на n мест. Это число расстановок. Но все успехи одинаковы. Следовательно, число серий равно числу сочетаний из n по k. Серии между собой, очевидно, несовместны, так как отличаются положением хотя бы одного успеха. Следовательно, вероятность суммы равна сумме вероятностей:
-
Пример. Подбрасываем 10 раз кубик. Какова вероятность, что пятерка выпадет ровно 4 раза? Решение. Схема испытаний Бернулли. p=1/6, q=1-1/6=5/6.
-
Задача 2. Какова вероятность, что число успехов будет от k1до k2? Очевидно, что цепочки с числом успехов k1, k1+1,…,k2 представляют собой несовместные события. Но тогда вероятность суммы равна сумме вероятностей и Пример. Какова вероятность, что из 10 бросаний монеты орел выпадет от 4 до 6 раз? Решение. Очевидно, что события выпал орел 4 раза, 5 раз, 6 раз несовместны. Следовательно, вероятность суммы равна сумме вероятностей:
-
Локальная теорема ЛапласаЕсли вероятность p появления события A в каждом испытании постоянна и отлична от нуля и единицы, то вероятность того, что событие А появится в n испытаниях ровно k раз, приближенноравна
где
-
Интегральная теорема Лапласа
Если вероятность p появления события A в каждом испытании постоянна и отлична от нуля и единицы, то вероятность того, что событие А появится в n испытаниях от k1 до k2 раз, приближенно равна где
-
Для вычислений по формуле имеются таблицы. В таблицах приведены значения функции для положительных значений аргумента. Значения для отрицательных значений аргумента вычисляютсяпоформуле На рисунке приведены графики функций Ф(x) (черным цветом) и подынтегральной функции (красным цветом)
-
Если -x1=x2=x, то справедлива формула
-
Пример 1. Какова вероятность, что из 100 подбрасываний кубика четверка выпадет ровно 30 раз. n=100, m=30,p=1/6, q=1-1/6=5/6
-
Пример 2. Какова вероятность, что из 100 подбрасываний кубика 4 выпадет от m1=15 до m2=25 раз.
-
Задача 3 . Сколько раз нужно подбросить кубик, чтобы частота отличалась от вероятности не более чем на 0.005 с вероятностью 0.9? Решение. Основная формула. В нашем случае p=1/6, , g=0.9. Роль x1, x2теоремы Лапласа играют Из теоремы Лапласа
-
Подставив числа, получим уравнение относительно n По таблице ищем значение аргумента функции Лапласа такое, что ее значение равно 0.95. Это 1.65. Отсюда находим n n=15125
-
Конечная случайная величина
Часто исход случайного эксперимента выражается некоторым числом. Когда каждому элементарному исходу случайного эксперимента мы ставим в соответствиенекоторое числоxk, то мы определяем на множестве событий некоторую числовую функцию. Набор чисел может быть конечным или бесконечным: это зависит от количества элементарных исходов эксперимента. Неформально говоря, такое число, принимающее случайные значения, и называется случайной величиной. Например. Подбрасываем монетку. Поставим в соответствие «орлу» - 1 , «решке» - 0. Можно наоборот: «орлу» - 0 , «решке» - 1. А можно симметрично: «орлу» - -1 , «решке» - 1. Каждой грани кубика ставим в соответствие число очков, которое нарисовано на грани. Картам, в зависимости от игры назначают то или иное число очков.
-
Случайная величина, принимающая конечное число значений, называется конечнойслучайной величиной. Пусть пространство элементарных исходов конечно:W={w1,w2,...,wn}. Вероятность P любого случайного события, связанного с данным экспериментом, полностью определяется набором неотрицательных чисел pi=P(wi), i=1,2,…,n, таких, что p1+p2+…+pn=1.
-
Такое вероятностное пространство можно представить с помощью таблицы Функцию x(w), заданную на конечном числе аргументов, также задаем табличным способом: Будем предполагать, что все числа xk различны. Случайная величина принимает значение xk, если произошел исход wk, вероятность которого равна pk Точнее: вероятность события{x(wk)=xk} равна pk Конечная случайная величина полностью определяется своими значениями и их вероятностями.
-
Поэтому таблица часто отождествляется с самой случайной величиной и называется законом распределения конечной случайной величины. Часто закон распределения записывают короче Например: поставим в соответствие выпаданию орла 1, а решке –1. Можно иначе: орлу –0, решке 1. Возможны иные варианты.
-
Совместное распределение случайных величин
Пусть заданы две конечные случайные величины: Событие{x=xi}{h=yj} состоит в том, что одновременно случайная величина x принимает значение xi , а случайная величина h – значение yj. Назовем вероятности таких событий совместными вероятностями и обозначим их через pij:
-
Таблица совместного распределения случайных величин
-
Две конечные случайные величины называются независимыми, если события {x=xi}и{h=yj} независимы при всех i=1,2,. . .,m и j=1,2, .., n . В противном случае случайные величины зависимы. Для независимых случайных величин совместное распределение строится по известным распределениям величин x и h: Пусть заданы две конечные случайные величины:
-
Произведением этих случайных величин называется случайная величина xh, значениями которой являются всевозможные произведения xiyj с теми же вероятностями pij. Пусть заданы две конечные независимые случайные величины: Их суммой называется случайная величинаx+h, значениями которой являются всевозможные суммы с совместными вероятностями Такие случайные величины называются биномиальными. Вычислим закон распределения x + h. Возможные значения суммы: 0- принимается с вероятностью q2, значение 1 – принимает в двух случаях с вероятностями pq и значение 2 – с вероятностью p2.
-
В результате получим таблицу Этот результат можно обобщить на любое число слагаемых. Теорема. Пусть x1, x2, . . . , xn независимые бернулливые случайные величины. Тогда их сумма есть биномиальная случайная величина Иная трактовка: если xk– число успехов в k-ом испытании, то число успехов в n испытаниях есть их сумма.
-
Математическое ожидание
Математическим ожиданием конечной случайной величины называется число Понятие математического ожидания упрощенно можно представить иначе. Пусть z1, z2, z3,…, zk- результаты некоторого испытания, описываемого случайной величиной x. Среднее значение случайной величины за большое число k испытаний будет
-
Например, при бросании кубика вероятность выпадения каждой грани равна 1/6. Тогда математическое ожидание числа очков равно Среди этих значений соберем все равные x1, x2,…. В результате получится Но отношение есть частота появления значения xj. А частота при большом числе опытов близка к вероятности. В итоге получаем формулу из определения.
-
Математическое ожидание обладает следующими свойствами. 1. Математическое ожидание постоянной равно ей самой: 2.Если случайная величина принимает только неотрицательные значения, то 3. Константу можно выносить за знак математического ожидания: 4. Математическое ожидание суммы (разности) случайных величин равно сумме (разности) их математических ожиданий:
-
5. Для любой случайной величины справедливо равенство Операция вычитания математического ожидания из случайной величины называется центрированием 6. Математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий Математическое ожидание биномиальной случайной величины. Числовое значение величины – кол-во успехов в серии испытаний. Одно испытание можно рассматривать как серию из одного испытания. Назначим успеху числовое значение 1, а неуспеху – 0. Следовательно, математическое ожидание в одном опыте равно p. Представим серию опытов как сумму отдельных испытаний. Тогда по свойству математического ожидания M=np.
-
Дисперсия
Дисперсией конечной случайной величиныx называетсячисло по определению математического ожидания, дисперсия вычисляется по следующей формуле Дисперсию иногда обозначают как s2(x) или называется среднеквадратичным отклонением или стандартным отклонением случайной величины
-
Свойства дисперсии Дисперсия любой случайной величины неотрицательнаDx>0 При этом Dx=0тогда и только тогда, когдаслучайнаявеличина постоянна. 2. Константа выносится из-под знака дисперсии с квадратом 3. Сдвиг на константу не меняет дисперсии: 4. Дисперсия суммы независимых случайных величин равна сумме их дисперсий: (x иhнезависимы)
-
5. Дисперсия равна "среднему квадрата минус квадрат среднего": Дисперсия биномиальной случайной величины. Вычисление проведем по той же схеме, что и для математического ожидания. Биномиальная случайная величина есть сумма n независимых бернуллиевых величин. Но тогда используем формулу дисперсии суммы: Но и
-
Случайная величина называется стандартизованной (по отношению кx) или просто стандартизациейx Стандартизованная случайная величина имеет нулевое математическое ожидание и единичную дисперсию. Пример. Дисперсия при бросании кубика. Математическое ожидание 3.5.Считаем математическое ожидание квадрата случайной величины: Среднее квадратичное отклонение Таблица стандартизованных значений
-
Задача. Проводится лотерея. Разыгрывается 50 билетов по 1 рублю. Известно, что среди билетов 1 выигрывает 30 руб., 2 – по 10 руб. Приобретено 2 билета. Вычислить математическое ожидание чистого дохода.
-
Коэффициент корреляции
Ковариацией двух случайных величинx и h (или ковариацией междуx и h) называется число Из определения следуютнекоторые простые свойства ковариации 2. Ковариаиия коммутативна: 1. 3. Ковариация суммы случайных величин 4. Ковариация случайной величины с собой
-
Следующее свойство важно при оценке степенизависимости двух случайных величин. 5. Если случайные величины xи h независимы, то их ковариация равна нулю. Для независимых величин x и h их центрированные величины также независимы. Поэтому Ковариация стандартизованных величин называется коэффициентом, корреляции между случайными величинамиx и h Предполагается, что случайные величины x и h имеют ненулевые дисперсии
-
свойства коэффициента корреляции: 2. Коэффициенты корреляции между x иhи между их стандартизациями совпадают 1. 3. Коэффициент корреляции всегда по модулю меньше 1 4. Еслиx и h независимы, то 5. Коэффициент корреляции равен+1 или -1тогда и только тогда, когда случайные величины линейно зависимы:
-
Примеры. Даны таблицы распределения. Найти коэффициенты корреляции Вычислительная формула
-
Mx=0, Dx=2, MY=1, DY=2 MXY=-2, R=-1 Mx=0, Dx=2, MY=3.8, DY=3.46 MXY=2.6, R=0.9884 Mx=0, Dx=2, MY=2, DY=2.8 MXY=0, R=0 Mx=0, Dx=2, MY=1, DY=0.4 MXY=0.4, R=0.4472
-
Функция распределения
Функция действительной переменной называется функцией распределения случайной величиныx . Свойства функции распределения 1. 2. 3. При любом х выполняется неравенство. Это справедливо, поскольку функция распределения есть вероятность 4. Функция распределения есть неубывающая функция.
-
6. Функция распределения непрерывна слева, то есть Случайная величина x называется непрерывной случайной величиной, если существует функция такая, что Функцияназывается плотностьювероятности или плотностью распределения случайной величиныx 5. Присобытиестремится к невозможному и вероятность соответственно, стремится к нулю. При событие становится достоверным
-
7. Для любой непрерывной случайной величины 8. Функция распределения непрерывной случайной величин имеет вид
-
Функция неотрицательна при всехx 2.Условие нормировки. Справедливо равенство Свойства плотности функции распределения 3. В точках непрерывности плотность вероятности равна производной функции распределения:
-
Математическим ожиданием непрерывной случайной величины называется число (если соответствующий интеграл существует). Дисперсия вычисляется через интеграл: (если интеграл существует).
-
Квантилью случайной величиныx порядкаp называется число xp такое, что вероятность события{x
-
Биномиальное распределение
где Распределение Пуассона. Получается как предельное при очень большом числе испытаний маловероятных событий.
-
Равномерное распределение
График равномерного на отрезке (a,b) распределения представлен на рисунке. Значение C определяется из условия нормировки.
-
Распределение Гаусса
Говорят, что случайная величинаx, распределена по нормальному закону (имеет нормальное распределение) с параметрамиm и s, (s>0) если она имеет плотность распределения На рисунке представлены графики стандартного (при m=0 и s=1)нормального распределения Гаусса (черный) и его плотности (красный)
-
Графики плотности нормального распределения при различных значениях дисперсии
-
Свойства нормального распределения
график симметричен относительно прямой x=m; функция достигает максимума в точке x=m; график приближается к нулю при возрастании |x| Нормальное распределение обозначают N(m,s). Нормальное распределение с параметрамиm=0, s=1называется стандартным нормальным распределением и задается плотностью
-
Функция распределения стандартной нормальной случайной величины обозначается через Пусть x~N(m,s). Тогда квантиль xp случайной величины x связана с квантилью стандартного нормального распределения следующим соотношением:
-
Законы больших чиселТеорема Бернулли
Пусть mn ‑ число успехов в п испытаниях Бернулли, p - вероятность успеха в единичном испытании. Тогда относительная частота успеха сходится по вероятности к вероятности р. Другими словами, для любого выполняется предельное соотношение
-
Центральная предельная теорема Ляпунова
Пусть случайные величины X1, X2, …, Xnнезависимы, одинаково распределены с математическим ожиданием M и конечной дисперсией s2. Тогда справедливо предельное соотношение Теорема Чебышева Если X1,X2,…,Xn,… - попарно независимые случайные величины, причем дисперсии их равномерно ограничены, то как бы мало ни было , вероятность неравенства Сколь угодно близка к единице, если n достаточно велико.
-
Статистика
Генеральной совокупностью называется вся совокупность исследуемых объектов Выборочной совокупностью или просто выборкой называют совокупность случайно отобранных из генеральной совокупности объектов Объемом совокупности называют число объектов этой совокупности Способы формирования выборочной совокупности Повторный – после измерений объект возвращают в генеральную совокупность Бесповторный – после измерений объект в генеральную совокупность не возвращается Выборка должна быть репрезентативной - представительной. Для этого объекты из генеральной совокупности должны отбираться случайно.
-
Простой случайный отбор – объекты извлекают по одному из всей генеральной совокупности Типический отбор - объекты отбирают не из всей генеральной совокупности, а из каждой ее «типической части» Механический отбор – генеральную совокупность делят механически на несколько групп и из каждой группы отбирают один объект Серийный отбор – объекты из генеральной совокупности отбирают не по одному, а сериями, которые подвергают сплошному обследованию. На практике, как правило, используется смешанная схема.
-
Выборка и ее обработка
Упорядочивание. Элементы выборки располагаются в порядке возрастания. Частотный анализ. Пусть выборка содержит k различных значений . , причем zi встречается ni (i=1,2,…,k) Число ni называют частотой элемента zi , Совокупность пар (zi, ni) называют статистическим рядом выборки. Часто его представляют в виде таблицы – в первой строке zi, во второй ni. Величина ni= ni/n называется относительной частотой Накопленная частота значения zi равна n1+n2+…+ni. Относительная накопленная частота n1+n2+…+ni
-
Группировка. При большом объеме выборки ее элементы объединяют в группы, представляя результаты опытов в виде группированного статистического ряда. Для этого интервал, содержащий все значения выборки, разбивается на k интервалов. Для выборки большого объема число интервалов определяется по формуле Стерджесса Удобнее всего разбивать на равные интервалы. При этом считается, что правая граница интервала принадлежит следующему интервалу. Последний интервал включает правую границу. После этого подсчитываются частоты – количество ni элементов выборки, попавших в i-й интервал. Получающийся статистический ряд в первой строке содержит середины интервалов группировки zi, а во второй строке -частоты ni, попадания в соответствующий интервал. Наряду с частотами подсчитываются относительные частоты ni, накопленные частоты и накопленные относительные частоты. Результаты обычно сводятся в таблицу частот группированной выборки, а процесс формирования такой таблицы называется частотной табуляцией выборки.
-
Пример
Дана выборка 0,0473 0,0543 0,0561 0,0989 0,1107 0,1112 0,1204 0,1647 0,2030 0,2138 0,2147 0,2463 0,2725 0,2734 0,3029 0,3222 0,3389 0,3841 0,3909 0,4037 0,4071 0,4173 0,4238 0,4308 0,4451 0,5382 0,5454 0,5472 0,6124 0,6320 0,6417 0,6776 0,6908 0,7399 0,7715 0,7853 0,8038 0,8174 0,8201 0,8287 0,8693 0,8704 0,8704 0,8718 0,8965 0,9025 0,9130 0,9366 0,9629 Она содержит 49 чисел в отрезке [0,1]. Все числа различны.
-
Проведем группировку. Разобьем отрезок на 10 полуинтервалов [0,0.1),[0.1,0.2),…[0.8,0.9),[0.9,1.0]. Подсчитаем, сколько элементов выборки попало в каждый интервал и получим статистический ряд 0.05 0.15 0.25 0.35 0.45 0.55 0.65 0.75 0.85 0.95 4 4 6 5 6 3 5 3 9 4 Обработку этого примера продолжим в дальнейшем.
-
Эмпирическая функция распределения
Каждой выборке можно поставить в соответствие конечную случайную величину, принимающую эти значения с равными вероятностями 1/n Это распределение называется выборочным, или эмпирическим, распределением. Как и для любой конечной случайной величины, для эмпирической случайной величины можно построить ступенчатую функцию распределения; она называется выборочной функцией распределения. Кроме того, можно вычислить все числовые характеристики выборочной случайной величины xn- математическое ожидание, дисперсию, СКО, медиану и т.д.
-
Все эти величины снабжаются определением "выборочный": выборочное математическое ожидание (его обычно называют выборочным средним), выборочная дисперсия, выборочная медиана и т.д. Например, выборочное среднее (его обозначают через) есть не что иное как среднее арифметическое значений выборки Соответственно выборочная дисперсия s2 равна
-
Оценки параметров распределенияТочечные оценки
Будем предполагать, что имеется выборка из генеральной совокупности с функцией распределения.Для удобства опустим индексx в обозначении функции распределения. Пусть функция распределения на самом деле зависит от неизвестного параметраq : . Одна из главных задач математической статистики - оценить значение параметра , имея в распоряжении только выборку. Например, нам известно, что генеральная совокупность распределена по биномиальному закону при 10 испытаниях. Неизвестным параметром в этом случае является вероятность p успеха в единичном испытании. Иногда требуется оценить несколько параметров. Например, требуется оценить математическое ожидание т идисперсию s2 нормально распределенной генеральной совокупности; у равномерного распределения - границы отрезка [а, b] и т.д.
-
Оценка является случайной величиной Оценка называется несмещенной, если при любом объеме выборки n ее математическое ожидание совпадает с истинным значением параметра Разность называется смещением оценки . Несмещенная оценка имеет нулевое смещение. Оценкой (точечной оценкой) параметраназывается произвольная функция от значений выборки . Точечная оценка – число. Индекс п в обозначении оценки напоминает, что она получена по выборке объема n, «звездочка» показывает, что это не истинное значение параметра, а его оценка. Произвольную функцию от выборки называют еще статистикой.
-
Оценка называется состоятельной, если при увеличении объема выборки вероятность того, что оценка мало отличается от истинного значения, приближается к единице. Если- несмещенная оценка параметра и ее дисперсия стремится к нулю при, то данная оценка является состоятельной . Для несмещенных оценок () этот показатель равен дисперсии оценки. Если и две несмещенные оценки параметра и , то говорят, что первая оценка эффективнее второй. Качество оценки характеризуют средним квадратом ошибки
-
Несмещенная оценка называется наиболее эффективной (или просто эффективной), если она имеет минимальную дисперсию среди всех несмещенных оценок данного параметра. Теорема Бернулли.Пусть ‑ число успехов в п испытаниях Бернулли, p - вероятность успеха в единичном испытании. Тогда относительная частота успеха сходится по вероятности к вероятности р: Или в терминах статистики: относительная частота есть состоятельная оценка вероятности. Оценка является также и несмещенной
-
ОЦЕНКА ФУНКЦИИ РАСПРЕДЕЛЕНИЯ
Пусть в нашем распоряжении имеется выборка из генеральной совокупности с функцией распределения F(x). Функция распределения эмпирической случайной величины есть вероятность события: Пусть среди значений выборки имеетсяmn(x) чисел, меньших данного числа х. Тогда, очевидно, Покажем, что выборочная функция распределения есть оценка функции распределения генеральной совокупности. Зададимся числом x; и применим схему Бернулли. Будем считать успехом событие, состоящее в том, что выборочное значениеменьше x.
-
Поскольку каждое значение из выборки есть случайная величина с функцией распределения, то вероятность успеха равнаp=F(x). Число успехов равноmn(x), а относительная частота успеха равна mn(x)/nи совпадает с выборочной функцией распределения. Следовательно, выборочная функция распределения представляет собой относительную частоту успеха, а функция распределения генеральной совокупности - вероятность успеха. Из предыдущего нам известно, что относительная частота есть несмещенная состоятельная оценка вероятности. Значит, выборочная функция распределения действительно является несмещенной, состоятельной и эффективной оценкой функции распределения:
-
Гистограмма
Для оценки плотности распределения генеральной совокупности используется специальный график - гистограмма На рисунке представлена гистограмма, построенная по примеру, рассмотренному ранее.
-
Полигон
Если соединить отрезками середины верхних сторон прямоугольников гистограммы, получится еще одно графическое представление для плотности распределения – полигон. На рисунке представлен полигон, построенный на основе примера.
-
Точечная оценка математического ожидания
Выборочное среднее дает несмещенную и состоятельную оценку математического ожидания Найдем математическое ожидание оценки : Для проверки состоятельности этой оценки найдем ее дисперсию, обозначив дисперсию генеральной совокупности через s2
-
Точечная оценка дисперсии
Оценкой дисперсии является выборочная дисперсия Вычислим математическое ожидание выборочной дисперсии. Для этого преобразуем выражение для s2 (через М обозначено математическое ожидание генеральной совокупности):
-
Рассмотрим сумму из второго слагаемого в квадратных скобках: в итоге получаем Тогда математическое ожидание выборочной дисперсии будет В итоге
-
Приведенное выражение дает состоятельную несмещенную оценку дисперсии генеральной совокупности Для вычисления выборочной дисперсии можно вывести более удобную формулу Если домножить выборочную дисперсию s2 на дробь то получится несмещенная оценка
-
Пример s2=0,34944-0,517352= 0,081791 S2=49 s2 /48=0,083495
-
Выборочные мода, медиана, квантили
Выборочные мода, медиана и квантиль легко определяются по упорядоченной, но не сгруппированной выборке. Медиана – середина вариационного ряда. Справа и слева располагается одинаковое число значений выборки. Мода– наиболее часто встречающееся значение выборки. Квантиль – левее должно располагаться кол-во значений, соответствующее индексу квантили. Например, для квантили x0.8 Левее должно располагаться 80% значений выборки. В нашем примере: мода=0.85, медиана= 0,4451, x0..8= 0,8287 – левее должно располагаться 49*0.8=39.2 39 значений выборки.
-
Интервальные оценки
Интервальная оценка – некоторый интервал [a,b].По заданной выборке мы должны найти a(x1,x2,…,xn)и b(x1,x2,…,xn) такие, чтобы накрывали неизвестное значение параметра J с заданной вероятностьюg – уровнем значимости. Уровень значимости выбирается в зависимости от необходимой точности решения задачи. Обычно 0.9 – 0.99. Считается 0.9 – средняя точность, 0.99 – высокая, 0.999 – очень высокая. Часто доверительный интервал строится симметричным относительно точечной оценки. В дальнейшем будем предполагать, что выборка {x1,x2,…,xn} получена из нормально распределенной генеральной совокупности: xi~N(m,s) и при различных условиях требуется найти доверительные интервалы для параметров m и s2.
-
Доверительный интервал математического ожидания
Случай 1. Считаем, что известна дисперсия генеральной совокупности s2. Строим симметричный относительно выборочного среднего интервал (2) Если все xiраспределены по нормальному закону, то выборочное среднее тоже имеет нормальное распределение и После стандартизации (1)
-
Мы должны найти такое число D, что вероятность попадания разности в отрезок (-D, D) равна заданному числуg. Разделим обе части неравенства (2) на дисперсию выборочного среднего . В результате получим Обозначим для краткости Статистика U(1) должна попадать в интервал (-d,d) с вероятностью g. Вероятность попадания случайной величины в интервал равна Вспомнив свойства нормального распределения, получим где функция нормального распределения (3)
-
Геометрически. Площадь под графиком плотности распределения равна вероятности попадания в отрезок. Следовательно, нужно построить симметричный отрезок, такой, что площадь над ним равна заданному числу g. Общая площадь хвостов 1-g. Площадь одного (1-g)/2. Напомним, корень уравнения (3) называется квантилем распределения с индексом (1+g)/2. Следовательно, и
-
Распределение
Пусть x1,x2, . . .,xk независимые случайные величины, распределенные по стандартному нормальному закону x1,x2, . . .,xk~N(0,1). Говорят, что сумма квадратов этих величин распределена по закону c2 с k степенями свободы. Обозначают c2~ x1,x2, . . .,xk . Запись x~ c2(k) означает, что случайная величина x распределена по закону c2(k) с k степенями свободы. На рисунке представлены графики распределения c2(k) с различным числом степеней свободы.
-
Свойства распределения c2 . Случайная величина имеет нулевую плотность распределения приx£0. При большом числе степеней свободы k распределение c2(k) близко к нормальному. Математическое ожидание случайной величины, распределенной по закону k степенями свободы, равно k:Mc2(k)=k
-
Доверительный интервал для дисперсии
Отрезок доверительного интервала выберем так, чтобы площади под графиком правее и левее были равны, т.е. равны вероятности попадания справа и слева. Теорема. Случайная величина распределена по закону
-
После преобразования неравенства найдем интервал для Из рисунка видно, что положение отрезка определяется квантилями и . На основании теоремы получим
-
Распределение Стьюдента
Пусть случайная величина распределена по стандартному нормальному закону:. Разделим на корень из (то есть из случайной величины, распределенной по закону с k степенями свободы, деленной на k). Полученная случайная величина имеет распределение Стьюдента с k степенями свободы. Данная случайная величина и соответствующий закон распределения обозначаются через : На рисунке красным выделено нормальное распределение, черным – распределение Стьюдента.
-
Свойства распределения Стьюдента
Распределение Стьюдента симметрично, причем Mt(k) = 0. При больших k распределение Стьюдента близко к стандартному нормальному распределению N(0,1).
-
Доверительный интервал математического ожидания. Случай 2.
Случайная величина U распределена по нормальному закону Разделим обе части на . s сократится, а в правой части появится распределение Стьюдента t(n-1).Следовательно, случайная величина распределена по закону Стьюдента, а доверительный интервал математического ожидания примет вид ( - квантиль распределения Стьюдента, )
-
Пример
Вычислим доверительные интервалы для нашей выборки. Интервал для математического ожидания. Случай 1. Будем считать, что несмещенная оценка дисперсии – точное значение. Выберем уровень значимости . По таблице найдем квантиль стандартного распределения . Подставим в формулу m=0.51735, s=0,288955, n=49. После вычислений получим 0,0809074. Интервал будет 0.51735- 0,0809074
-
Пример. Интервал для дисперсии
S2=0,083495 Находим квантили распределения и . Находим интервал 0,056131
-
Основы теории проверки статистических гипотез
Статистической гипотезой называется предположение относительно параметров или вида распределения наблюдаемой случайной величины . Гипотеза называется простой, если она однозначно определяет распределение генеральной совокупности. В противном случае гипотеза называется сложной. Гипотезы о параметрах распределения. Эти гипотезы представляют собой предположение о значении некоторых параметров распределения генеральной совокупности. 2. Гипотезы о виде распределения. Эти гипотезы более о6щего характера выдвигаются в условиях недостаточной информации о генеральной совокупности. Проверяемая гипотеза называется нулевой гипотезой и обычно обозначаетсяH0. Наряду с H0 рассматривают альтернативную (конкурирующую) гипотезу H1.
-
Например: выдвигается гипотеза о значении математического ожидания H0 : m=aВозможные альтернативныеH1: m¹a, m>a, m
-
Общая схема проверки гипотез
Формирование решающего правила опирается на ту же идею, которая используется при построении доверительных интервалов.Ищется случайная величина (так называемая статистика критерия), удовлетворяющая двум основным требованиям: 1) ее значение можно посчитать, используя только выборку; 2) ее распределение известно в предположении, что нулевая гипотеза верна. После того, как такая статистика выбрана, на числовой оси выделяется область, попадание в которую для этой случайной величины маловероятно (критическая область). Малая вероятность задается числом a(уровнем значимости). Основной принцип проверки гипотез состоит в следующем.Маловероятное событие считается невозможным. Событие с большой вероятностью считается достоверным.
-
Построение решающего правила на основе критерия значимости можно разбить на следующие основные шаги. 1. Сформировать нулевую H0 и альтернативную H1 гипотезы. 2. Назначить уровень значимостиa . 3. Выбрать статистику Z критерия для проверки гипотезы H0. 4. Найти плотность распределения статистики fz(x)=fz(x|H0) критерия в предположении, что гипотезаH0 верна. 5. Определить на числовой оси критическую область Vc из условия P(ZÎ Vc|H0)= a(условная вероятность того, что Z попадает в область Vc, при условии, что гипотеза H0 верна). Область R\Vc в этом случае называется областью принятия решения. Условия, задающие критическую область, называются просто критерием. 6. По выборке вычислить выборочное значение Zs статистики критерия.
-
7.Принять решение: • если ZsÎVc, гипотеза H0 отклоняется (то есть принимается гипотеза H1): • если ZsÎR\Vc, гипотеза H0 не отклоняется. Принятое решение носит вероятностный, случайный характер. Поэтому обычно применяют более осторожные формулировки. Вместо того чтобы сказать “гипотеза отклоняется, говорят: "данные эксперимента не подтверждают гипотезу “,“гипотеза не согласуется с экспериментом” Значение уровня значимости не определяет критическую область однозначно.
-
Пример: проверка гипотезы о математическом ожидании
Известно, что эта величина распределена по стандартному нормальному закону. Тогда, если гипотеза верна, она должна попадать в интервал Но тогда получается, что должно попадать в интервал . основная гипотеза альтернативная гипотеза Считаем, что дисперсия s2 известна. В качестве статистики выбираем величину
-
Пример 2. Иной вариант альтернативной гипотезы
. основная гипотеза альтернативная гипотеза Считаем, что дисперсия s2 известна. В качестве статистики выбираем величину которая имеет нормальное стандартное распределение см. рисунок. Критическая область находится слева. Если дисперсия неизвестна, то используется распределение Стьюдента.
-
Ошибки при проверке статистических гипотез
Принятие решения на основе статистического критерия носит случайный характер. Возможны следующие ситуации. Гипотеза вернаH0, и она не отвергается. ГипотезаH0 верна, но она отвергается. В этом случае говорят, что допущена ошибка I рода. Поскольку нулевая гипотеза верна, статистика Z действительно имеет то распределение, на основании которого принималось решение. Тем не менее выборочное значение статистики попало в критическую область. Вероятность этого события по определению равна уровню значимости a.Вероятность ошибки I рода равна уровню значимости критерия. (это риск производителя) 3. ГипотезаH0 неверна, и она отвергается. 4. ГипотезаH0 неверна, но она не отвергается. Тогда говорят, что допущена ошибка II рода.(это риск потребителя)
-
В этой ситуации выборочное значение попало в область принятия решения, тогда как гипотеза на самом деле неверна. Если распределение статистики Z известно и в предположении, что верна альтернативная гипотеза H1, то можно посчитать вероятность ошибки II рода: это условная вероятность того, что Z попадает в область R\Vc при условии, что верна гипотеза H1. Вероятность ошибки II рода обычно обозначают через b Для оценки вероятности ошибки второго рода нужно знать функцию распределения в предположении, что альтернативная гипотеза верна.
-
Проверка гипотезы о функции распределения
Пусть{x1,x2,…,xn} - выборка наблюдений некоторой случайной величиныx. Гипотеза: H0 : генеральная совокупность имеет функцию распределения F(x) против альтернативы H1, что функция распределения не такова. За меру расхождения примем величину . Теорема (Пирсона).Пустьт параметров функции распределения F(x) оцениваются по выборке. Тогда при n®¥распределение меры расхождения d стремится к распределению c2с k-m-1 степенями свободы
-
Понятие о факторном анализе
Пусть результаты наблюдений составляют k независимых выборок (групп), полученных из k нормально распределенных генеральных совокупностей, которые имеют, вообще говоря, различные средние m1,m2,…,mk . Каждая группа содержит njзначений, j=1,2,…,k . Общее число наблюдений равно n: n1+n2+…nk=n Проверяется гипотеза о равенстве средних во всех k выборках: H0: m1=m2=…=mk Нулевая гипотеза является сложной: предполагается лишь, что математические ожидания совпадают. Альтернативная гипотеза состоит в том, что хотя бы две выборки имеют различные средние. Обозначим через xiji-й элемент j-й выборки, i=1,2,…,nj, j=1,2,…,k.
-
Групповое среднее: Общее среднее Основное тождество дисперсионного анализа Общая сумма квадратов отклонений от среднего есть сумма квадратов между группами плюс сумма квадратов внутри групп
-
Пример
Даны две выборки {1.5, 2.5, 2., 1.7, 2.25} и {2., 1.8, 2.2, 2.5, 1.7, 1.6} Выборочное среднее для первой 1.99, для второй 1.96667. Значимо ли различие? Оценки дисперсии S1=0.163, S2=0.114667 Генеральное среднее 1.97727, генеральная дисперсия 0.122682
Нет комментариев для данной презентации
Помогите другим пользователям — будьте первым, кто поделится своим мнением об этой презентации.