Предпосылки метода наименьших квадратов

Известно, что для получения по МНК наилучших результатов требуется, чтобы выполнялся ряд предпосылок относительно случайного отклонения. (условия Гаусса-Маркова).

1. Математическое ожидание случайного отклонения е_i равно нулю: M (е_i) = 0 для всех наблюдений. Данное условие означает, что случайное отклонение в среднем не оказывает влияния на зависимую переменную. В определенном наблюдении случайный член может быть положительным или отрицательным, но он не должен иметь систематического смещения. Выполнимость M (е_i) = 0 влечет выполнимость:

• 2. Дисперсия случайных отклонений epsiloni постоянна: D (еi) = D (еj) = у² = const для любых наблюдений i и j. Условие независимости дисперсии ошибки от номера наблюдения называется гомоскедастичностью. Невыполнимость этой предпосылки называется гетероскедастичностью. Поскольку D (е)=M ((еj — Mеj))² = M (е²), то эту предпосылку можно переписать в форме: M (е²_i) = у². Причины невыполнимости данной предпосылки и проблемы, связанные с этим, подробно рассматриваются ниже.
• 3. Случайные отклонения еi и еj являются независимыми друг от друга для i? j. Выполнимость этой предпосылки предполагает, что отсутствует систематическая связь между любыми случайными отклонениями. Величина и определенный знак любого случайного отклонения не должны быть причинами величины и знака любого другого отклонения. Выполнимость данной предпосылки влечет следующее соотношение:

Если данное условие выполняется, то можно говорить об отсутствии автокорреляции. С учетом выполнимости предпосылки 1 данное соотношение можно переписать в виде:

4. Случайное отклонение должно быть независимо от объясняющих переменных. Обычно это условие выполняется автоматически, если объясняющие переменные не являются случайными в модели. Данное условие предполагает выполнимость следующего соотношения:

• 5. Модель является линейной относительно параметров. Для случая множественной линейной регрессии существенными являются еще две предпосылки.
• 6. Отсутствие мультиколлинеарности. Между объясняющими переменными отсутствует сильная линейная зависимость.
• 7. Случайные отклонения еi, i = 1, 2, …, n, имеют нормальное распределение. Выполнимость данной предпосылки важна для проверки статистических гипотез и построения интервальных оценок.

Наряду с выполнимостью указанных предпосылок при построении классических линейных регрессионных моделей делаются еще некоторые предположения. Например:

• · объясняющие переменные не являются случайными величинами;
• · число наблюдений намного больше числа объясняющих переменных (числа факторов уравнения);
• · отсутствуют ошибки спецификации, т. е. правильно выбран вид уравнения и в него включены все необходимые переменные.

Зачастую полагают, что число наблюдений должно быть как минимум в 5−6 раз больше числа параметров уравнения (числа объясняющих переменных).