Двухшаговый метод наименьших квадратов – это… Что такое Двухшаговый метод наименьших квадратов?

(Двухшаговый МНК, ДМНК,TSLS, 2SLS  англ. Two Stage Least Squares )  метод оценки параметров эконометрических моделей, в частности систем одновременных уравнений, состоящий из двух этапов (шагов), на каждом из которых применяется…

Сущность метода[править | править код]

Пусть X — множество факторов эконометрической модели, часть которых могут быть эндогенными, часть экзогенными. Пусть также дано множество экзогенных для модели переменных Z (часть из них может участвовать в модели, а часть нет). Количество инструментов должно быть не меньше количества исходных факторов модели.

Процедура двухшагового МНК заключается в следующем:

Шаг 1. Обычным МНК оценивается регрессия факторов X на инструменты X = Z B + U {displaystyle X=ZB+U} {displaystyle X=ZB+U}. Оценки параметров этой модели, очевидно, равны:

B ^ O L S = ( Z T Z ) − 1 Z T X {displaystyle {hat {B}}_{OLS}=(Z^{T}Z)^{-1}Z^{T}X} {displaystyle {hat {B}}_{OLS}=(Z^{T}Z)^{-1}Z^{T}X}.

В результате получаем следующие оценки исходных переменных:

X ^ = Z B ^ = Z ( Z T Z ) − 1 Z T X = P Z X   ,   P Z = Z ( Z T Z ) − 1 Z T {displaystyle {hat {X}}=Z{hat {B}}=Z(Z^{T}Z)^{-1}Z^{T}X=P_{Z}X~,~P_{Z}=Z(Z^{T}Z)^{-1}Z^{T}} {displaystyle {hat {X}}=Z{hat {B}}=Z(Z^{T}Z)^{-1}Z^{T}X=P_{Z}X~,~P_{Z}=Z(Z^{T}Z)^{-1}Z^{T}}

Шаг 2. На втором этапе оценивается (также обычным МНК) исходная модель с заменой факторов модели на их оценки, полученные на первом шаге:

b ^ T S L S = ( X ^ T X ^ ) − 1 X ^ T y = ( X T P Z T P Z X ) − 1 X T P Z T y {displaystyle {hat {b}}_{TSLS}=({hat {X}}^{T}{hat {X}})^{-1}{hat {X}}^{T}y=(X^{T}P_{Z}^{T}P_{Z}X)^{-1}X^{T}P_{Z}^{T}y} {displaystyle {hat {b}}_{TSLS}=({hat {X}}^{T}{hat {X}})^{-1}{hat {X}}^{T}y=(X^{T}P_{Z}^{T}P_{Z}X)^{-1}X^{T}P_{Z}^{T}y}

Учитывая, что P Z T = P Z   ,   P Z T P Z = P Z {displaystyle P_{Z}^{T}=P_{Z}~,~P_{Z}^{T}P_{Z}=P_{Z}} {displaystyle P_{Z}^{T}=P_{Z}~,~P_{Z}^{T}P_{Z}=P_{Z}} окончательно получаем формулу оценок двухшагового МНК:

b ^ T S L S = ( X T P Z X ) − 1 X T P Z y   ,     P Z = Z ( Z T Z ) − 1 Z T {displaystyle {hat {b}}_{TSLS}=(X^{T}P_{Z}X)^{-1}X^{T}P_{Z}y~,~~P_{Z}=Z(Z^{T}Z)^{-1}Z^{T}} {displaystyle {hat {b}}_{TSLS}=(X^{T}P_{Z}X)^{-1}X^{T}P_{Z}y~,~~P_{Z}=Z(Z^{T}Z)^{-1}Z^{T}}

Если ковариационная матрица случайных ошибок модели пропорциональна единичной, то есть σ 2 I {displaystyle sigma ^{2}I} sigma ^{2}I, то ковариационная матрица этих оценок равна V b ^ T S L S = σ 2 ( X T P Z X ) − 1 {displaystyle V_{{hat {b}}_{TSLS}}=sigma ^{2}(X^{T}P_{Z}X)^{-1}} {displaystyle V_{{hat {b}}_{TSLS}}=sigma ^{2}(X^{T}P_{Z}X)^{-1}}

Взвешенный двухшаговый МНК[править | править код]

Если на каждом из двух шагов применить не обычный, а взвешенный МНК с одной и той же весовой матрицей W {displaystyle W} W, то получим оценки взвешенного двухшагового МНК (Weighted TSLS, WTSLS):

b ^ W T S L S = ( X T P Z X ) − 1 X T P Z y   ,     P Z = W Z ( Z T W Z ) − 1 W Z T {displaystyle {hat {b}}_{WTSLS}=(X^{T}P_{Z}X)^{-1}X^{T}P_{Z}y~,~~P_{Z}=WZ(Z^{T}WZ)^{-1}WZ^{T}} {displaystyle {hat {b}}_{WTSLS}=(X^{T}P_{Z}X)^{-1}X^{T}P_{Z}y~,~~P_{Z}=WZ(Z^{T}WZ)^{-1}WZ^{T}}

Формула ковариационной матрицы аналогична обычному TSLS с учетом формулы для P Z {displaystyle P_{Z}} {displaystyle P_{Z}}.

92. Двухшаговый метод наименьших квадратов (ДМНК).

Уравнение называется сверхидентифицированным, если по оценкам коэффициентов приведённой формы системы одновременных уравнений можно получить более одного значения для коэффициентов структурной формы системы одновременных уравнений.

Оценки неизвестных параметров сверхидентифицированного уравнения нельзя рассчитать традиционным и косвенным методом наименьших квадратов. В данном случае для определения неизвестных оценок используется двухшаговый метод наименьших квадратов.

Алгоритм двухшагового метода наименьших квадратов реализуетсяв четыре этапа:

1) на основе структурной формы системы одновременных уравнений составляется её приведённая форма;

2) оценки неизвестных коэффициентов приведённой формы системы одновременных уравнений рассчитываются с помощью традиционного метода наименьших квадратов;

3) рассчитываются значения эндогенных переменных, выступающих в качестве факторных в сверхидентифицированном уравнении;

4) все структурные коэффициенты уравнений системы рассчитываются традиционным методом наименьших квадратов через предопределённые переменные, входящие в это уравнение в качестве факторов, и значения эндогенных переменных, полученных на предыдущем шаге.

Как видно из описания данного алгоритма, традиционный метод наименьших квадратов применяется два раза (для определения оценок эндогенных переменных приведённой формы и для определения оценок структурных параметров уравнений системы), поэтому и получил название двухшагового.

Различают две разновидности моделей, чьи структурные формы содержат сверхидентифицированные уравнения:

1) в модель помимо сверхидентифицированного уравнения также входят точно идентифицированные уравнения;

2) все уравнения модели являются сверхидентифицированными.

Для моделей первого типа оценки структурных коэффициентов точно идентифицированного уравнения определяются на основании системы приведённых уравнений.

Для моделей второго типа оценки структурных коэффициентов системы определяются с помощью двухшагового метода наименьших квадратов.

Если все уравнения системы точно идентифицированы, то оценки структурных коэффициентов, полученные косвенным методом наименьших квадратов и оценки, полученные двухшаговым методом наименьших квадратов будут одинаковыми.

Двухшаговый метод наименьших квадратов для решения систем эконометрических уравнений

“Двухшаговыйметод наименьших квадратов для решения систем эконометрических уравнений”

В области естественных наук важной задачей является исследованиевзаимосвязи различных величин, то есть поиск ответа на вопрос: как влияет изменениеодной величины (или, в общем случае, нескольких)  на значение, принимаемыедругой. Подбор удачного вида функциональной зависимости image001.gif – искусство, а определение наилучших(в требуемом смысле) параметров формулы делается стандартными методами [13, c.27]. Этим вопросом и занимается регрессионный анализ. Одним из наиболееразработанных и часто используемых алгоритмов регрессионного анализа являетсяметод наименьших квадратов. [1].

При использовании отдельных уравнений регрессии в большинстве случаевпредполагается, что аргументы можно изменять независимо друг от друга. Однакоэто предположение является очень грубым: практически изменение однойпеременной, как правило, не может происходить при абсолютной неизменности других.Ее изменение повлечет за собой изменения во всей системе взаимосвязанныхпризнаков. Следовательно, отдельно взятое уравнение множественной регрессии неможет характеризовать истинные влияния отдельных признаков на вариациюрезультирующей переменной. [4, c.246]. При моделировании часто приходится вводить не одно, а несколько связанныхмежду собой уравнений, т. е. описывать модель системой уравнений. Например,простейшая макроэкономическая кейнсианская модель потребления может бытьпредставлена в следующем виде:

image002.gif

где image003.gif – агрегированное потребление, image004.gif – национальный доход, image005.gif  – инвестиции в период времени t, image006.gif – автономное потребление, image007.gif – случайная величина (возмущение).Коэффициент image006.gif носит название склонность к потреблению.

Наличие связи между переменными image003.gif и image004.gif, определяемой вторым уравнением,требует корректировки метода наименьших квадратов для оценивания параметровмодели image006.gif и image006.gif. Вообще, оценивание систем уравненийтребует введения новых понятий и разработки новых методов [2, с. 220], чему ипосвящена данная работа.

Данная работа рассматривает решение систем взаимозависимых уравнений. Входе работы произведено исследование численных методов решения систем эконометрическихуравнений, приведен пример решения двухшаговым методом наименьших квадратов.Под системой эконометрических уравнений обычно понимается системаодновременных, совместных уравнений.

Целью работы является углубление знаний в области численных методов, вчастности исследование различных вариаций метода наименьших квадратов, которыйиспользуется для оценки неизвестных параметров регрессионных моделей повыборочным данным.

Еще по теме § 4. Двухшаговый метод наименьших квадратов:

  1. 3 Сверхидентификация
  2. Особенности регрессионного анализа для стохастических объясняющих переменных
  3. 7.2. Коинтегрированные временные ряды. Модели коррекции ошибок
  4. 6 Инструментальные переменные и ОММ
  5. Алгоритм двухшагового метода наименьших квадратов
  6. Задание
  7. Методология эконометрического анализа
  8. ОГЛАВЛЕНИЕ
  9. МЕТОДИЧЕСКИЕ МАТЕРИАЛЫ
  10. ГЛАВА 10. СИСТЕМЫ ОДНОВРЕМЕННЫХ УРАВНЕНИЙ

1.1Система эконометрических уравнений

эконометрическийдвухшаговый уравнение

При исследовании сложных явлений приходитсяучитывать, как правило, несколько взаимосвязей и, вводить в модель несколькозависимых переменных, которые могут влиять друг на друга. В таких ситуацияхэконометрические модели строятся в виде систем уравнений. [3, c. 48]

Система уравнений может быть построена по-разному.

Возможна система независимых уравнений, когда каждая зависимая переменнаяу рассматривается как функция одного и того же набора факторов х:

image008.gif

Если зависимая переменная у одного уравнения выступает в виде фактора х вдругом, то исследователь может строить модель в виде системы рекурсивныхуравнений:

image009.gif

Наибольшее распространение в эконометрических исследованиях получиласистема взаимозависимых уравнений. В ней одни и те же зависимые переменные водних уравнениях входят в левую часть, а в других уравнениях – в правую часть системы:

image010.gif

Система взаимозависимых уравнений получила название система совместных,одновременных уравнений. Тем самым подчеркивается, что в системе одни и те жепеременные у одновременно рассматриваются как зависимые в одних уравнениях икак независимые в других. Эта система уравнений называется также структурнойформой модели. В отличие от предыдущих систем каждое уравнение системыодновременных уравнений не может рассматриваться самостоятельно, и длянахождения его параметров традиционный МНК неприменим. C этой целью используются специальные приемы оценивания. [4, c. 247].

Если с помощью преобразований исключить зависимые переменные из правыхчастей уравнений (1.3), то полученная система уравнений называется приведеннойформой модели:

image011.gif

Параметры image012.gif приведеннойформой модели являются алгебраическими функциями от структурных коэффициентов аij и bij и называются приведенными коэффициентами.

Связь с методом инструментальных переменных

Двухшаговый МНК называют также обобщенным методом инструментальных переменных (GIVE — Generalized Instrumental Variables Estimator) или просто методом инструментальных переменных. Если количество инструментов z совпадает с количеством исходных переменных (случай точной идентификации), то матрицы Z^TX,~ X^TZ являются квадратными. Следовательно

hat{b}_{TSLS} = (X^TZ(Z^TZ)^{-1}Z^TX)^{-1}X^TZ(Z^TZ)^{-1}Z^Ty= (Z^TX)^{-1}(Z^TZ)(X^TZ)^{-1}(X^TZ)(Z^TZ)^{-1}(Z^Ty)=(Z^TX)^{-1}Z^Ty

То есть получаем классическую формулу метода инструментальных переменных hat{b}_{IV}=(Z^TX)^{-1}Z^Ty.

Необходимо также отметить и связь с методом инструментальных переменных в обратном направлении, а именно двухшаговый МНК является частным случаем метода ИП, когда в качестве инструментов используются МНК-оценки факторов на некоторые переменные Z:

hat{b}_{IV}=(hat{X}^TX)^{-1}hat{X}^Ty=(X^TP_ZX)^{-1}X^TP_Zy

что совпадает с формулой двухшагового МНК.

1.2Проблема идентификации

При переходе от приведенной формы модели к структурной исследовательсталкивается с проблемой идентификации. Идентификация – это единственностьсоответствия между приведенной и структурной формами модели. [4, c. 255].

С позиции идентифицируемости структурные модели можно подразделить на тривида: а) идентифицируемые, б) неидентифицируемые, в) сверхидентифицируемые.

Модель идентифицируема, если все ее структурныекоэффициенты определяются однозначно, единственным образом по коэффициентамприведенной формы модели, т. е. если число параметров структурной модели равночислу параметров приведенной формы модели. В этом случае структурныекоэффициенты модели оцениваются через параметры приведенной формы модели.

Модель неидентифицируема, если число приведенных коэффициентов меньшечисла структурных коэффициентов, и в результате структурные коэффициенты немогут быть оценены через коэффициенты приведенной формы модели.

Модель сверхидентифицируема, если число приведенных коэффициентов большечисла структурных. В этом случае на основе коэффициентов приведенной формыможно получить два или более значений одного структурного коэффициента. В этоймодели число структурных коэффициентов меньше числа коэффициентов приведеннойформы.[4, c. 257].

Структурная модель всегда представляет собой систему совместныхуравнений, каждое из которых необходимо проверять на идентификацию. Модельсчитается идентифицируемой, если каждое уравнение системы идентифицируемо. Еслихотя бы одно из уравнений системы неидентифицируемо, то и вся модель считаетсянеидентифицируемой. Сверхидентифицируемая модель содержит хотя бы односверхидентифицируемое уравнение. [4, c. 258].

Необходимое условие идентификации – выполнение счетного правила:

D + 1= H – уравнение идентифицируемо;

D + 1< H – уравнение неидентифицируемо;

D + 1> H – уравнение сверхидентифицируемо,

где    H – число эндогенных (зависимых)переменных в уравнении,

D -число предопределенных (независимых) переменных, отсутствующих в уравнении, ноприсутствующих в системе.

Достаточное условие идентификации – определитель матрицы, составленной изкоэффициентов при переменных, отсутствующих в исследуемом уравнении, не равеннулю, и ранг этой матрицы не менее числа эндогенных переменных системы безединицы.

Для решения идентифицируемого уравнения применяется косвенный методнаименьших квадратов, для решения сверхидентифицированных – двухшаговый МНК.[5, c. 107].

Для оценки параметров структурной модели система должна бытьидентифицируема или сверхидентифицируема. [4, c. 260].

Двухшаговый МНК в системах одновременных уравнений[править | править код]

В системах одновременных уравнений двухшаговый МНК применяется для оценки параметров структурных уравнений, поскольку в последних в качестве факторов участвуют эндогенные переменные модели и применение обычного МНК приводит к смещенным и несостоятельным оценкам.

Здесь в качестве инструментов Z обычно выступают экзогенные переменные самой модели. Соответственно процедура оценки заключается в том, что на первом шаге обычным МНК оценивается регрессия эндогенных переменных на все экзогенные переменные системы, а затем эти оценки используют на втором шаге вместо эндогенных переменных правой части структурного уравнения, к которому применяется обычный МНК.

Такой подход позволяет получить состоятельные оценки параметров структурной формы.

1.3 Методыоценивания параметров структурной модели

Коэффициенты структурной модели могут быть оценены разными способами взависимости от вида системы одновременных уравнений. Наибольшее распространениев литературе получили следующие методы оценивания коэффициентов структурной модели:

• косвенный метод наименьших квадратов (КМНК);

• двухшаговый метод наименьших квадратов (ДМНК);

• трехшаговый метод наименьших квадратов (ТМНК). [4, c. 264].

Косвенный и двухшаговый МНК подробно описаны в литературе ирассматриваются как традиционные методы оценки коэффициентов структурноймодели.[4, c. 264].

1.4Косвенный метод наименьших квадратов

Косвенный МНК предназначен для оценивания структурных параметровотдельного уравнения системы и может дать результат только в применении к точноидентифицируемому уравнению. [6, c.353].

Применение косвенного МНК включает в себя следующие этапы:

.        преобразование структурной модели в приведенную форму модели;

.        оценивание коэффициентов приведенной формы image013.gif при помощи обычного МНК;

.        трансформация коэффициентов image014.gif в параметры структурной модели.

См. также[править | править код]

  • Метод наименьших квадратов
  • Метод инструментальных переменных
  • Система одновременных уравнений

2.2Пример, для решения которого не применяется двухшаговый метод наименьшихквадратов

Если система идентифицируема, то оценки структурных коэффициентов,полученные косвенным методом наименьших квадратов и оценки, полученныедвухшаговым методом наименьших квадратов будут одинаковыми [8], это говорит отом, что двухшаговый метод наименьших квадратов применим к любой (кроменеидентифицируемой) системе одновременных эконометрических уравнений. Несмотряна это, все же для решения идентифицированной системы применяется косвенныйМНК, а для решения сверхидентифицированных – двухшаговый МНК. Это связано,прежде всего, с тем, что косвенный МНК проще в реализации и не требуетнахождения теоретических значений эндогенных переменных. Поэтому в какой-тостепени «плохим примером» для двухшагового МНК можно считать любую точноидентифицируемую систему одновременных уравнений.

2.2.1Постановка задачи

Имеются данные за 1990-1994 гг. (табл. 2.3)

Таблица 2.3 – Данные для примера

image045.gif

Задание:

Построить модель вида

image046.gif

рассчитав соответствующие структурные коэффициенты.

2.2.2Решение

Система одновременных уравнений с двумя эндогенными (зависимыми) и двумяэкзогенными (независимыми) переменными имеет вид

image047.gif

В каждом уравнении две эндогенные и одна отсутствующая экзогеннаяпеременная из имеющихся в системе. Для каждого уравнения данной системыдействует счетное правило 2 = 1 + 1. Это означает, что каждое уравнение исистема в целом идентифицированы. для определения параметров такой системыприменяется косвенный МНК.

С этой целью структурная форма модели преобразуется в приведенную форму:

image048.gif

в которой коэффициенты при х  определяются методом наименьших квадратов.Для нахождения значений image049.gif и image049.gif запишем систему нормальных уравнений:

image050.gif

При ее решении предполагается, что х и у выражены через отклонения отсредних уровней, т.е. матрица исходных данных составит:

Таблица

image051.gif

Применительно к ней необходимые суммы оказываются следующими:

image052.gif

Система нормальных уравнений составит:

image053.gif

Решая ее, получим: image054.gif

Итак, имеем image055.gif

Аналогично строим систему норм. уравнений для определения image056.gif:

image057.gif

image058.gif

Следовательно, image059.gif

Приведенная форма модели имеет вид:

image061.gif

Из приведенной формы модели определяем коэффициенты структурной модели:

image062.gif

image063.gif

image064.gif

image065.gif

Итак, структурная форма модели имеет вид:

image066.gif

В результате проведенной работы были углублены знания в областиэконометрики и численных методов, изучены модификации метода наименьшихквадратов, в частности, косвенный, двухшаговый и трехшаговый методы наименьшихквадратов. Подробно рассмотрен двухшаговый метод наименьших квадратов иприведен пример для этого метода.

По типу построения системы эконометрических уравнений могут быть трехвидов: системы независимых уравнений, системы рекурсивных уравнений и системывзаимозависимых уравнений. Последние наиболее часто встречаются на практике, иих решению была посвящена данная работа.

В ходе работы рассмотрены основные проблемы в решении системэконометрических уравнений, такие как проблема идентификации и проблемаперехода от структурной формы модели к приведенной форме. Установлено, чтосистемы одновременных уравнений могут быть точно идентифицируемыми, для которыхкоэффициенты приведенной формы модели могут быть определены однозначно,сверхидентифицируемыми и неидентифицируемыми, коэффициенты структурной моделикоторых нельзя однозначно оценить.

Для оценки коэффициентов структурной модели точно идентифицируемойсистемы одновременных уравнений применяется косвенный метод наименьшихквадратов, для сверхидентифицируемой – двухшаговый МНК, трехшаговый и другие.

1.      Регрессионный анализ. [Электронный ресурс] URL:http://ru.wikipedia.org/wiki/ Регрессионный_анализ (Дата обращения: 02.05.14)

.        Магнус Я.Р., Катышев П.К., Пересецкий А.А. / Эконометрика.Начальный курс: Учеб. – 6-е изд., перераб. и доп. – М.: Дело, 2004. – 576 с.

.        Шанченко, Н. И. / Эконометрика: лабораторный практикум: учебноепособие – Ульяновск: УлГТУ, 2011. – 117 с.

.        Эконометрика: учебник / И.И. Елисеева, СВ. Курышева, Т.В.Костеева и др; под ред. И.И. Елисеевой. – 2-е изд., перераб. и доп. – М.:Финансы и статистика, 2007. – 576 с: ил.

.        Практикум по эконометрике: Учеб. пособие / И. И. Елисеева, С.В. Курышева, Н. М. Гордеенко и др.; Под ред. И. И. Елисеевой. – М.: Финансы истатистика, 2004. – 192 с.: ил.

.        Прикладная статистика. Основы эконометрики: Учебник для вузов:В 2 т. 2-е изд., испр. – Т. 2: Айвазян С А. Основы эконометрики. – М.:ЮНИТИ-ДАНА, 2001. – 432 с.

.        Эконометрика: Учебник / Н.П.Тихомиров, Е.Ю.Дорохина – М.:Издательство «Экзамен», 2003. – 512 с.

.        Структурная и приведённая формы системы одновременныхуравнений. Идентификация модели. [Электронный ресурс] URL:http://www.e-reading.ws/chapter.php/1002275/88/Yakovleva_Angelina_-_Otvety_na_ekzamenacionnye_bilety_po_ekonometrike.html(Дата обращения: 05.05.14).

.        Эконометрика: Учебник для вузов / Под ред. проф.Н.Ш. Кремера. -М.: ЮНИТИ-ДАНА, 2002. – 311 с.

.        Доугерти К. / Введение в эконометрику: Пер. с англ. – М.:ИНФРА-М, 1999. – XIV, 400 с.

.        Волков Е. А. Численные методы: Учеб. пособие для вузов.- 2-еизд., испр. – М: Наука. Гл. ред. физ.-мат. лит., 1987.- 248 с.

.        Метод наименьших квадратов. [Электронный ресурс] URL:http://www.uchites.ru/ files/nummethod_book_chapter3-3.pdf (Дата обращения:11.05.14).

.        Калиткин Н.Н. / Численные методы: учебник для вузов – М.:Наука, 1978. – 512 с.

14.

Рейтинг
( 1 оценка, среднее 5 из 5 )
Загрузка ...