Документ взят из кэша поисковой машины. Адрес оригинального документа : http://qsft.phys.msu.ru/biblioteka/lecturesPS/exercises/9/e9-0.pdf Дата изменения: Sun Dec 8 23:03:39 2013 Дата индексирования: Sat Apr 9 22:54:37 2016 Кодировка: Windows-1251

Упражнение 9.1.

Для распределений, указанных в Таблице 9.2 (см. стр. 182), методом наибольшего правдоподобия построить выборочную оценку N параметра и вычислить 2 L( , ), L(x, ) = ln p (x, ), где p (x, ) плотность расинформацию Фишера I () = -E пределения д. с. в. .
1) Пусть

N (, ).

В этом случае
N

L(x, , ) = -
n=1 N

1 (xn - ) ln(2 2 ) + 2 2 2
N

2

,
N

x = {1 , . . . , N },
2 L( , , ) = - -2



: 0 = L(x, , ) = -
N

1 2

( - xn ),
n=1



N

=

1 N

xn ,
n=1

.

Поэтому

=

1 N

N n=1

x

n . Информация Фишера

2 IN () = E L(x, , ) = N

-2 ха-

рактеризует точность выборочной оценки



N

=

1 N

N

xn ,
n=1

= N + O(IN ()-

1/2

)=+O N x
n . Она является

Эта оценка вытекает из ЦПТ и не зависит от выборочных значений несмещенной так как 2) Если

E

N

= Exn =

.

N (ч, )

, то

L(x, ч, ) = -
N

N ln(2 2 ) - 2
N n=1

N n=1

(xn - ч)2 , 2 2 (
2 N)



N : 0 = L(x, , ) = - +

(xn - ч)2 , 3
-2

1 = N

N

(xn - ч)2 ,
n=1

2 L( , ч, ) =

3( - ч)2 - . 4

Вычислим информацию Фишера:
N -2

IN () = -E N

-
n=1

3(xn - ч) 4

2

= -N

-2

-

32 4

=

2N 2N 2. 2 ( N )

Следовательно, оценка погрешности линейно зависит от оценки неизвестного параметра:

(

2 N)

1 = N
1 N

N

( x n - ч) 2 ,
n=1 N n=1

= N + O(IN ()

-1/2

)=

N

1+O

1 2N

Оценка

( N ) 2 =

(xn - ч)

2 является несмещенной так как N

E(N )2 =

1 N

E(xn - ч)2 = E( - ч)2 = 2 .
n=1
1

Из неравенства Иенсена ная оценка

E
N n=1

N

(E (N )2 ) 2 =

следует, что алгебраически эквивалент N E N ), при N .



N

=

1 N

(xn - ч)2

, вообще говоря, является смещенной (

а из ЦПТ или закона больших чисел ясно, что она состоятельна: 1

E


3) Если

(, ),

то


-1 e- L( , , ) = ln ()
N

= - - ln + const, ,
N

x = { 1 , . . . , N } ,
2 L( , , ) = -

: 0 = L(x, , ) =

1

N

xn -
n=1

=

1 N

N

xn ,
n=1

2 + 2. 3

Поскольку первый момент гамма-распределения равен 1.1, стр. 27), то

IN () = -E

Следовательно, полученная оценка является несмещенной и

N 2xn n=1 3

-

2

=N

и 2

E = E xn = 1 EN = N

(см. Таблицу
N n=1

x

n

=

.



N

=

1 N

N

xn ,
n=1

=

N

1+O

1 N

4) Если

()

, то

p(n, ) =
N

n e n!

-

, 1

L( , ) = n ln + + const,
N

x = {1 , . . . , N }, nk ,
2 L( , ) = -

: 0 = L(x, ) =
1 и 2

(nk - 1),
k=1



N

=

1 N

N k=1

1 . 2

Поэтому

IN () = N

E

N

= En1 =

. Следовательно, полученная оценка является

несмещенной и



N

1 = N

N

xn ,
n=1

= N + O(IN ()

-1/2

)=

N

1 1+O N

5) Если

B i(K, )

, то
-k

k pK (k , ) = CK k (1 - )K

,

L(k , K, ) = k ln + (K - k ) ln(1 - ) + const, 1
N

x = {n1 , . . . , nN }, nk , K



N

: 0 = L(x, K, ) =

nk -
k=1 N k=1

1 1-

N

(K - nk ),
k=1



N

=

1 N

N k=1

2 L(x, K, ) = -

K - nk nk + , 2 (1 - )2

E nk = K .

Поэтому
N

IN () = E
k=1

nk K - nk + 2 (1 - )2

= KN

1 1 + 1-

=

KN (1 - )

и

E

N

=E

n1 K

=

. Следовательно, оценка
N n=1 (1 - N ) )= +O N KN N
1 2



N

1 = N

nk , K

= + O(IN ()

N

-1/2

является несмещенной.

2


6) Если

B i(K, )

, то

p K (k , ) = C
N

k K K +k -1

(1 - )k ,

L(k , K, ) = K ln + (K - k ) ln(1 - ) + const,
N

1 KN - : 0 = L(x, ) = 1-
N 2 L(x, ) = - k=1

nk ,
k=1

1- N

N

1 = N

N k=1

nk , K

K nk + , 2 (1 - )2

E nk = K

1-

(см. Таблицу 1.1 на стр. 27). Поэтому
N

IN () = E
k=1

K nk + 2 (1 - )

=

KN

1 1 + 1-
:

=

KN . (1 - )
2

Следовательно, несмещенной является оценка функции от

1- N

N

=

1 N

N k=1

nk , K

E

1- N

N

=E

n1 1- = K

точность которой оценивается стандартным образом в терминах информации Фишера:

= + O(IN ()
Из неравенства Иенсена

N

-1/2

)=

N

1 - N 1+O KN

1 2

.

E

-1

(E )- E
N

1 следует, что явная оценка



N

=

1+

1 N

N k=1

nk K

-1

,



1+

1 N

N k=1

En K

k

-1

=

1+

1-

-1

= E
N

оказывается смещенной и, в силу закона больших чисел, состоятельной:



при

N .
7) Если

P (x

min

, ),

то
N

p(x, xmin
N

x , ) = min , x +1

L(x, xmin , ) = N + N ln x
N min

min

- ( + 1) 1 1 =N N
n=1 N

ln xn , xn , xmin .



: 0 = L(x, ) =
2 L(x, ) = -

N + N ln x N , 2

- ( + 1)
n=1

ln xn , x
min

ln
n=1 -1

E ln x1 = -
min

ln x d

x

= ln xmin -
(N )- 1:

Поэтому несмещенной оказывается оценка обратного параметра

E (N )-1 =

1 N

N

ln
n=1

xmin xmin = ln = E xn E x1
-1

-1

,



-1

= (N )-1 + O N N

Из неравенства Иенсена
-1

E

(E )-1

следует, что алгебраически эквивалентная

оценка



N

=

ln

xmin E x1



является смещенной и состоятельной:
-1

E

N

(E (N )-1 )

= ,

E

N



при

N .

3