WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!


Pages:     || 2 | 3 | 4 | 5 |   ...   | 8 |
Н.Ю. Энатская Е.Р. Хакимуллин Математическая статистика Москва 2011 3 Министерство образования и науки Российской Федерации Государственное образовательное учреждение высшего профессионального образования «Московский государственный институт электроники и математики (технический университет)» Н.Ю. Энатская Е.Р. Хакимуллин Математическая статистика Утверждено Редакционно-издательским советом института в качестве учебного пособия Москва 2011 4 УДК 519 Э-61 Рецензенты: д. т. н. Е. Е. Тимонина (Российский государственный гуманитарный университет);

д. т. н., д. ф. н. В. А. Глазунов (Институт машиноведения им. А. А. Благонравова РАН) Энатская Н. Ю., Хакимуллин Е. Р.

Э-61 Математическая статистика. Учебное пособие – Московский государственный институт электроники и математики. М., 2011. – 118с.

ISBN 978-5-94506-306-8 В первой части пособия рассмотрены дополнительные вопросы теории вероятностей, необходимые для изучения математической статистики, и начальные сведения по математической статистике.

Во второй части пособия подробно изложены вопросы, связанные с решением одной из основных задач математической статистики - параметрической задачи. Приведено много примеров.

Рекомендуется всем студентам МИЭМа, изучающим математическую статистику.

ISBN 978-5-94506-306-8 УДК 519 © Энатская Н. Ю., Хакимуллин Е. Р., 2011 5 Оглавление.

Стр.

Введение и обозначения……………..…………………………………...……4 Часть I §1. Дополнительные сведения о распределениях…..………………….…….6 §2. Условные распределения……………………………..…………….….…14 §3. Основные понятия математической статистики……..………….….......27 §4. Порядковые статистики…………………………………………..……....31 §5. Моделирование распределений случайных величин…………...………40 §6. Непараметрическая задача статистики……………………………...…...45 Часть II §1. Выборочные моменты. Их свойства …………………………………….50 §2. Свойства точечных оценок ……………………………...……….………§3. Достаточные статистики (д.с.) …………………………………...……...§4. Неравенство Рао-Крамера ……………………………..………...….……§5. Методы получения точечных оценок ……………………….…...….…..§6. Доверительное оценивание …………………………………..…...…....Библиографический список.………………………………………….….…Введение и обозначения Настоящее пособие написано на основе многолетнего опыта проведения лекционных и практических занятий по математической статистике в МИЭМе, МАТИ, МГПУ. Как оказалось, не представляется возможным рекомендовать в качестве основного ни один из существующих учебников в силу разных причин: из-за большого их объема, из-за сложности изложения, из-за неполноты представленных тем, в то время как они же могут успешно служить в качестве дополнительной литературы. Учебное пособие должно отличаться от других источников информации по данной теме близостью к учебной программе предмета, компактностью, определяемой ограниченностью учебного времени и в то же время понятностью ( с комментариями и большим числом примеров), логической законченностью и связанностью излагаемых вопросов. Здесь делается попытка создания такого учебного материала.

I часть.

В первой части рассматриваются некоторые вспомогательные темы теории вероятностей, не вошедшие в основной начальный курс, а также начальные темы математической статистики. Цель первой части – подготовка к восприятию математической статистики путем рассмотрения отдельных вопросов теории вероятностей и обсуждения основных понятий и структуры курса.

II часть.

Во второй части разобраны вопросы, связанные с решением параметрической задачи статистики.

Предполагается знание основного курса теории вероятностей.

Введем обозначения:

с.в. – случайная (ые) величина (ы);

L(x) – закон распределения с.в. Х;

B (1, p) – бернуллиевское распределение;

B (n, p) – биномиальное распределение;

() – пуассоновское распределение;

Н (N, M, n) – гипергеометрическое распределение;

Ge (p) – геометрическое распределение;

сдGe(p) – сдвинутое геометрическое распределение;

a (r,p) – сдвинутое геометрическое распределение;

OB (r, p) – отрицательное биномиальное распределение;

R [a, b] – равномерное распределение;

N [а, ] – нормальное распределение;

Г, и (x;, ) – гамма распределение с плотностью распределения f(x;, );

E() – экспоненциальное распределение;

смысл параметров смотри в [1];

запись с.в. Х~А() означает, что с.в. Х имеет закон распределения А с параметром =(1,..,k);

EX – математическое ожидание с.в. Х;

DX – дисперсия с.в. Х;

ф.п. – функция правдоподобия;

д.с. – достаточная статистика;

к.ф. – критерий факторизации;

ФПВ – формула полной вероятности;

МРК – неравенство Рао-Крамера;

КЭ – критерий эффективности (критерий HOMД) НКБ – неравенство Коши-Буняковского;

ц.с. – центральная статистика;

д.и. – доверительный интервал;

ц.д.и. – центральный доверительный интервал;

x(k) – k-я порядковая статистика с.в. Х;

х.ф. – характеристическая функция;

х – выборочное среднее;

э.с. – экспоненциальное семейство распределений;

=> – следует;

x = (x1,…,xn) – выборка объема n из генеральной совокупности;

нз – независимость (ый, ые).

Часть I В первой части пособия рассматриваются отдельные темы теории вероятностей, необходимые для изучения математической статистики, а так- же начальные сведения по математической статистике, включая решение непараметрической задачи и моделирование случайных последовательностей с заданными распределениями.



§1. Дополнительные сведения о распределениях В общем курсе теории вероятностей рассматривался вопрос о законах распределения случайных величин наиболее распространённых простейших распределений. Здесь будут изучаться некоторые другие, более сложные распределения, широко используемые в математической статистике.

Кроме непосредственных вычислений будем при этом пользоваться методом характеристических функций.

Изложение темы будет представлено в основном в виде задач с решениями с приведением сведений по изучаемым распределениям.

1. Гамма-распределение Плотность гамма-распределения имеет вид x1ex Г( ), x 0, x< где, – const>0 и Г( ) = x1exdx.

Свойства Г().

Г( +1) = Г(), при целом : Г( +1) = !; Г(0) =1; Г(1) =1.

Пусть запись Х~ Г, означает, что случайная величина (с. в.) Х имеет плотность распределения f (x;, ).

Задача 1.

Показать, что f (x;, ) является плотностью распределения.

Решение.

f (x;, ) 0. Остаётся проверить условие нормировки:

dy dy x f (x;, ) dx x1exdx y,dx y/1e y Г Г 0 0 1 y1e ydy Г1.

Г Г Задача 2.

Найти характеристическую функцию гамма-распределения.

Решение.

dy gx(t)=g(t; a, )= x1e(it)xdx it b,bx y,dx b Г it y1e ydy = b ( it).

Гb Задача 3.

Случайные величины Х1 и Х2 : независимы Х1 ~ Г,, Х2 ~ Г,. Найти закон распределения с.в. Z= Х1 + Х2.

Решение.

Решать задачу будем методом характеристических функций:

gz(t)= gz(t;, )= gx(t; 1, ) gx(t; 2, )=(1-it/)(1 2 ), откуда следует, что Х1+ Х2 =Z есть гамма-распределение с плотностью f (x;, 1+2) (обозначим это распределение через Г,, где =1+2).

Задача 4.

Доказать, что, если с. в. Х распределена по Г,, а с.в. Y= X, то с.в. Y распределена по Г1,.

Решение.

f (x; =1, ) = x1ex/Г, x0;,>0;

F (x) = P(X

Y X x 1 x 1 x 1 x1e exx f (x)= f f ;,, x 0, 0, Y Г 1Г X т.е. fY(x) f(x;,1).

Задача 5.

Показать, что экспоненциальное распределение является частным случаем гамма распределения и выписать характеристическую функцию для экспоненциального распределения.

Решение.

ex, x 1 it 0, x<0 g(t,1,) характеристическая функция экспоненциального распределения.

Найдём моменты гамма-распределения. Воспользуемся известной связью характеристической функции с моментами с.в. Х: inMX g(n) (0).

Тогда, если с.в. Х~ Г,, то it it i i 1 1 i EX g(0,, ) (i) i it i 1; g(0) = EX 2 ;

EX ; g(0)= 1 x 1 2 2 DX = EX – (EX) = – g(0)- (EX) =.

2 2 Итак, EX =, DX =.

Для экспоненциального распределения (с.в. Х ~ E()) получим отсюда 1 2 моменты при 1: EX =, EX, DX =.

2 2. Распределение 2.

Задача 1.

n Найти распределение с.в. 1X2, где с.в. распределена по нормальноn i i му закону N(0,1) и все Хi независимы, i = 1, n.

Решение.

2 2 Найдём сначала распределение с.в. 1 X1, то есть ( X1

x 2 e x 1 1 ;

f 2 (x)= f x; ; Г.

2 2 1 1 g (t) Характеристическая функция с.в. 1 есть g t,, = =(1–2it).

2 Тогда по свойствам характеристической функции имеем n n n g (t)=g 2 (t) (1 2it) с.в.2 ~ Гn 1 f x,, n n, 2 2 n x n 2 e 2 x 2.

n Г 2 2 Найдём моменты распределения с.в., т.е. найти E и D.

n n n n 2 n 2 2 ~ Г E = n; D = 2n.

n n 1 n n, 2 2 Задача 2.

2 En n 2 Найти предельное распределение для с.в. 0n = и с.в., опредеn Dn лённой в задаче 1, при n.

Решение.

n С.в. = X1, где с.в. Хi распределена по N(0,1) и все с.в. Хi независи1 n i мые, следовательно, с.в. Xi тоже одинаково распределены, независимы и по центральной предельной теореме (теорема Леви) распределение с.в.

2 En n 0n = сходится при n к нормальному закону N(0,1).

Dn n 2 n 4 2 n 2 2 n E = n; D = 2n, т.е. распределение с.в. 0n = n n 2 2n при n сходится к N(0,1).

u x P ( 0n x ) e du ;

n 2n 2 2n 0n n;

n x n u x 2n x n 2 2 P ( 0n x ) = P( 2n0n n x ) = P0n e du.

2n n Задача 3.

n С.в. Х распределена по закону N(0, ). Найти распределение с.в. Z = Xi, 1 i где Хi – независимые с.в. и её моменты.

Решение.

n С.в. Хi / распределена по нормальному закону N(0,1), с.в. U = 1 Xi ~ 2, n i n тогда Xi = U2 = Z.

1 i Найдём характеристическую функцию с.в. Z – g (t) и её моменты EZ и z DZ.

n g (t)= g2u (t)= g (2 t)=(1–2i2 t).

z u Из сравнения с.в. Z и гамма-распределения следует, что (так как g ( t)= z n it (1–2i2 t) =1 ) с.в. Z распределена с плотностью распределе 1 ния x n n 2 e x n 2, xn Г 0, x<0.

n n in2i EZ = – ig (0) = – i 1 2i 2i2 n2;

z 2 5n n n 2 n(n 2) EZ g(0) = i 1 2i2t 2i2 2 2 n(n 2)4;

2 DZ = EZ – (EZ) = n 4 2n4 n24 2n4.

3. Распределение Стьюдента С.в. Х имеет распределение Стьюдента, если её плотность распределения имеет вид n 1 xГ 2 n Sn (x), x.

n Г n n Можно показать, с.в. T = U распределена по закону Стьюдента, g если с.в. U распределена по нормальному закону N(0,1), а с.в. g распределена по закону ;

n g ; U ; U, g – независимые с.в.

При n =1 закон Стьюдента называется законом Коши с плотностью распределения Г(1) f (x).





(1 x2) Г 1 x 4. Распределение Фишера Плотность распределения Фишера есть m n m t 2 Г fmn (t), t>0.

m n m n Г Г t 2 m Можно показать, что если с.в. Х1, Х,…, Х независимы, X= 1X2, 2 m i i n Y1, Y2,...,Yn - независимы, Y= ; Xi, Yj и при всех i=1, n ; j=1, m расY j jX пределены нормально по закону N(0,2 ), тогда с.в. Z = распределена по Y Фишеру.

Найдём моменты с.в. Z:

m n m n m n Г Г Г 1 Г m dt 2 2 2 EZ t mn m n m n m n Г Г 0 Г Г Г (1 t) 2 2 2 2 m n Г 1 Г 2 m n Г Г 2 dt Г(x)Г(y) B(x,y) = и B(x,y)= tx1.

Г(x y) (1 t)xy В частности, при i = 1 и i = 2 имеем m n m m n Г 1Г 1 Г Г m 2 2 2 2 EZ ;

m n m n n Г Г Г Г 1Г 1 n 2 2 2 2 m n m m m n m m Г Г 2 1 Г Г 2 2 2 2 2 2 2 2 EZ2 m n m n n n n n Г Г Г 2 1 Г 2 2 2 2 2 2 2 2 2 m 2m ;

(n 4)(n 2) (m 2)m m2 2m(n m) 4m(m 1) 2 DZ = EZ – (EZ) =.

(n 4)(n 2) (n 2)2 (n 4)(n 2)5. Бета-распределение С.в. Z имеет бета-распределение с параметрами p и q (p,q>0), если её плотность распределения имеет вид Г(p q)xp1(1 x)qf(x;p, q), x [0,1].

Г(p)Г(q) Задача 1.

Показать, что бета-распределение при p = q = 1 есть равномерное на [0,1] распределение.

Решение.

Г(p q)xp1(1 x)qf (x;p,q) 1 – это плотность равноp,q1 p,qГ(p)Г(q) мерного распределения на [0,1] при x [0,1].

Задача 2.

Пусть Х1, Х,…, Х - независимы, равномерно распределены на [0,1], а 2 m Х(1), Х,…, Х - упорядоченные в порядке возрастания исходные с.в.

(2) (n) Показать, что плотность распределения с.в. Х имеет бета-распределение, (k) где Х(k) - k-ая порядковая статистика.

Решение.

Известно, что плотность распределения k-ой порядковой статистики fk (x)имеет вид: fk (x)= nCk1f(x)[1 F(x)]nk, где f(x) и F(x) – соответстnвенно плотность и функция распределения с.в. Х.

В рассматриваемом случае X ~ R[0,1], поэтому Г(n 1)xk1(1 x)nk kfk (x)= nC xk1[1 x]nk, то есть это – бета- nГ(k)Г(n k 1) -распределение с параметрами p = k, q = n – k + 1, (p+q = k + n – k +1 = n + 1).

Задача 3.

n Найти n-ый момент m, бета-распределения (mn =EZ ).

n Реше1 Г(p q) Г(p q) В n p,q mn (x;p,q)dx xnf xnp1(1 x)q1dx Г(p)Г(q) Г(p)Г(q) 0 ние.

Гp qГ(n p)Гq Г(p q) Г n p, Г(p)Г(q)Г( n p q) Г(p)Г(n p q) Г(p)Г(q) так как B(p,q) = xp1(1 x)q1dx ; (Re p>0, Re q>0); B(p,q) = Г(p q), отГ(p q)Гp 1 p Г(p q)Гp 2 p(p 1) сюда m1= ; m = ;

Г(p)Г(p q 1) p q Г(p)Г(p q 2) (p q)(p q 1) p(p 1) p2 pq DX = m – (m1) =.

(p q)(p q 1) (p q)2 (p q)2(p q 1) §2. Условные распределения Способы задания закона распределения двумерной случайной величины (с.в.) (X,Y).

1) Функция распределения F(x,y).

Определение.

F(x,y)=P{X

Свойства F(x,y):

1) 0 F(x,y) 1;

2) F(x,y) – неубывающая функция по каждому аргументу;

3) F(–,) = F(–,y) = F(x,– ) = 0;

4) F(,) = 1;

5) F(x,) = F1(x), F(,y) = F2(y), где F1(x) и F2(y) – маргинальные (по каждому аргументу) функции распределения.

2) Распределение дискретной с.в. (X,Y) можно задать таблицей распределения:

Y x 1 x2 … xn X y1 p11 p21 … pny2 p11 p22 … p n… … … … … ym p1m p 2m … p nm Свойства таблицы распределения:

а) для любых i и j pij 0, где pij = P{X = xi, Y = yi};

n m б) 1 1 pij = 1.

i j ( Обозначим pi1) P(X xi ) ; p(j2) P(Y yj), которые при всех i и j задают маргинальные (одномерные) распределения с.в. X и Y соответственно.

По ФВП получаем m m P{X=xi} = (2) 1P(Y y ) P(X xi/Y yj) P(X x, Y y ) 1p ;

j i j ij j j аналогично получаем n P{Y=yi} =. (3) 1p ij i 3) Распределение непрерывной с.в. (X,Y) можно задать плотностью распределения 2F(x,y) f(x,y) ; (4) xy f1(x) f(x,y)dy – маргинальная плотность распределения с.в. Х;

f2(y) f(x,y)dx – маргинальная плотность распределения с.в. Y;

y x F(x,y) P(X x,Y y) ; F(x,y) (5) f(u,v)dudv.

2. Условные распределения и условные математические ожидания (у.м.о) 1) В дискретном случае n pij P{X xi/Y yi} ; E(X/Y yi ) P{X xi/Y yi} (6) x i p(j2) i– у.м.о. (при фиксированном условии – это число (const)).

Аналогично определяется P{Y yi/X xj} и E (Y/X xi).

f(x,y) f(x,y) 2) В непрерывном случае (x/Y y), (Y/X x) – условf2(y) f1(x) ные плотности при фиксированном значении другой координате.

У.м.о. для непрерывной с.в. при фиксированном условии есть E(X/Y y) x(X/Y y)dx – это числа (const).

E(Y/X x) y(Y/X x)dy Если рассматривать значение y с.в. Y как случайное, то E(X/Y) – с.в., зависящая от с.в. Y и называется у.м.о.

Простейшие свойства у.м.о E(X/Y):

1) E(C/Y) = C;

2) E(CX/Y) = CE(X/Y); (7) 3) E(X +Y/Z) = E(X/Z) + E(Y/Z).

Если рассматривать значение x и y как возможные текущие значения с.в. Х и Y, то E(X/Y y) V1(y), E(Y/X x) V2(x), где V1 и V2 - некоторые функции одного переменного. Тогда уравнения регрессии соответственно по x и y есть x E(X/Y y) – среднее значение с.в. X при фиксированном значении с.в. Y=y; (8) y E(Y/X x) – среднее значение с.в. Y при фиксированном значении с.в. X=x.

Если уравнение регрессии есть уравнение прямой (т.е. описывает линейную зависимость), то регрессия называется прямолинейной.

Тема условных распределений имеет важное теоретическое и практической значение, т.к. аппарат условных распределений и у.м.о. используется при решении различных статистических задач, а линии регрессии отражают зависимость между компонентами двумерной с.в. (X,Y).

Pages:     || 2 | 3 | 4 | 5 |   ...   | 8 |










© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.