2.Статистичні властивості оцінок параметрів b лінійної моделі множинної регресії. Теорема Гаусса-Маркова
МНК - оцінки параметрів bj (j = 1,2, ..., m), визначаємо за (*) звідки видно
b=(XTX)-1XTY (*)
що вони є, лінійними функціями y. Оскільки y відповідно до (1) або (4) є функцією випадкової змінної u, то і значення yi і оцінки bi є реалізаціями випадкових величин і властивості випадкового вектора залишків U визначає статистичні властивості як Y, так і оцінок b як випадкових величин.
Знайдемо для оцінок b його характеристики: матсподівання і коваріаційну матрицю, діагональні елементи якої є дисперсії параметрів рівняння регресії - компонент вектора b.
Математичне очікування вектора оцінок параметрів. Незміщеність оцінки
Визначення. Незміщена оцінка - це оцінка параметра b , математичне очікування якої дорівнює значенню оцінюваного параметра:
, тут n – так же як вище, число вимірів
Знайдемо МО вектора оцінок b. Для теоретичного рівняння регресcіі
або або можуть бути знайдені для його параметрів найкращі оцінки b=(XTX)-1XTY, що дає для вектора Y його найкращу оцінку . Нагадаємо, як це отримуємо:
Підставимо в формулу замість вектора Y його вираз , отримаємо
(7)
З огляду на, що (XTX)-1 (XTX)=I, застосовуючи до обох частин (7) оператор маточікування, в силу передумови 2: M {u} = 0, а також з огляду на те, що у відповідності до умов 1 і 6 значення параметрів і матриця регресорів X - невипадкові, отримаємо
(8)
Таким чином, ми довели, що оцінки коефіцієнтів, отримані за методом найменших квадратів, є незміщеними, тобто
Найбільш характерним прикладом зміщення оцінки є вибіркова дисперсія
- це спроможна оцінка ( див наступний підрозділ) але виявляється - зміщена!.
Можна показати що відрізняється від на шматочок
Але при тому що
Таку незміщеність називають асимптотичною незміщеностью. А для дисперсії – спроможною і незміщеною оцінкою виявляється вибіркова статистика
Саме для неї
Достарыңызбен бөлісу: |