Нелинейная регрессия и ее виды

Содержание

Вопрос 17. Нелинейная регрессия и ее виды……………………………………3

Вопрос 42. Аналитический способ выравнивания ряда и используемые при этом функции…………………………………………………………………….13

Задача 1. Парная регрессия и корреляция в экономических исследованиях……………………………………………………………………19

Задача 2.Временные ряды в эконометрических исследованиях……………...25

Список используемых источников……..............................................................30

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Вопрос 17. Нелинейная регрессия и ее виды.

Если между экономическими явлениями существуют нелинейные соотношения, то они выражаются с помощью соответствующих нелинейных функций: например, равносторонней гиперболы, параболы второй степени и др.

Различают два класса нелинейных регрессий:

• регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам;
• регрессии, нелинейные по оцениваемым параметрам.

Примером нелинейной регрессии по включаемым в нее  объясняющим переменным могут служить  следующие функции:

• полиномы разных степеней –у = а +bх + с² + ε,

у =а + bх +сх +dx³+ ε,

• равносторонняя гипербола 

К нелинейным регрессиям по оцениваемым параметрам относятся  функции:

• степенная — y = ax^bε

• показательная – у = аb^х ε
• экспоненциальная – y=e^a+bxε

Приведение к линейному виду регрессий, нелинейных по объясняющим  переменным

Нелинейная регрессия по включенным переменным не таит каких-либо сложностей в оценке ее параметров. Она определяется, как и в линейной регрессии, методом наименьших квадратов (МНК), ибо эти функции линейны по параметрам. Так, в параболе второй степени

у= а₀ + а₁ х + а₂ х₂ + ε

заменяя переменные х₁ =х, х₂ = х², получим двухфакторное уравнение линейной регрессии:

у= а₀ + а₁ х₁ + а₂ х₂ + ε

для оценки параметров которого, как будет показано далее, используется МНК.

Следовательно, полином любого порядка  сводится к линейной регрессии с  ее методами оценивания параметров и  проверки гипотез. Как показывает опыт большинства исследователей, среди  нелинейной полиномиальной регрессии чаще всего используется парабола второй степени; в отдельных случаях – полином третьего порядка. Ограничения в использовании полиномов более высоких степеней связаны с требованием однородности исследуемой совокупности: чем выше порядок полинома, тем больше изгибов имеет кривая и соответственно менее однородна совокупность по результативному признаку.

Парабола второй степени целесообразна  к применению, если для определенного  интервала значений фактора меняется характер связи рассматриваемых признаков: прямая связь меняется на обратную или обратная на прямую. В этом случае определяется значение фактора, при котором достигается максимальное (или минимальное) значение результативного признака: приравниваем к нулю первую производную параболы второй степени.

Если же исходные данные не обнаруживают изменения направленности связи, то параметры параболы второго порядка  становятся трудно интерпретируемыми, а форма связи часто заменяется другими нелинейными моделями.

Применение МНК для оценки параметров параболы второй степени приводит к следующей системе нормальных уравнений: при b > 0 и с < 0 кривая симметрична относительно высшей точки, т. е. точки перелома кривой, изменяющей направление связи, а именно рост на падение.

Такого рода функцию можно наблюдать в экономике труда при изучении зависимости заработной платы работников физического труда от возраста – с увеличением возраста повышается заработная плата ввиду одновременного увеличения опыта и повышения квалификации работника. Однако с определенного возраста ввиду старения организма и снижения производительности труда дальнейшее повышение возраста может приводить к снижению заработной платы работника.

Если параболическая форма связи  демонстрирует сначала рост, а  затем снижение уровня значений результативного признака, то определяется значение фактора, при котором достигается максимум. Ввиду симметричности кривой парабола второй степени далеко не всегда пригодна в конкретных исследованиях. Чаще исследователь имеет дело лишь с отдельными сегментами параболы, а не с полной параболической формой. Кроме того, параметры параболической связи не всегда могут быть логически истолкованы. Поэтому если график зависимости не демонстрирует четко выраженной параболы второго порядка (нет смены направленности связи признаков), то она может быть заменена другой нелинейной функцией, например степенной. В частности, в литературе часто рассматривается парабола второй степени для характеристики зависимости урожайности от количества внесенных удобрений. Данная форма связи мотивируется тем, что с увеличением количества внесенных удобрений урожайность растет лишь до достижения оптимальной дозы вносимых удобрений. Дальнейший же рост их дозы оказывается вредным для растения, и урожайность снижается. Несмотря на несомненную справедливость данного утверждения, следует отметить, что внесение в почву минеральных удобрений производится на основе учета достижений агробиологической науки. Поэтому на практике часто данная зависимость представлена лишь сегментом параболы, что и позволяет использовать другие нелинейные функции.

Среди класса нелинейных функций, параметры  которых без особых затруднений  оцениваются МНК, следует назвать  хорошо известную в эконометрике равностороннюю гиперболу

Для равносторонней гиперболы  такого вида, заменив  на z, получим линейное уравнение регрессии y = a +bz +ε оценка параметров которого может быть дана МНК.

Она может быть использована не только для характеристики связи  удельных расходов сырья,материалов,топлива  с объемом выпускаемой продукции, времени обращения товаров от величины товарооборота, т.е. на микроуровне, но и на макроуровне. Классическим ее примером является кривая Филлипса, характеризующая нелинейное соотношение между нормой безработицы х и процентом прироста заработной платы у.

В отдельных случаях может использоваться и нелинейная модель вида

так называемая обратная модель, являющаяся разновидностью гиперболы Но, если в равносторонней гиперболе преобразованию подвергается объясняющая переменная z = 1/x и y = а + bz + ε, то для получения линейной формы зависимости в обратной модели преобразовывается у, а именно: z =1/y и z = a + bx +ε.

В результате обратная модель оказывается внутренне нелинейной и требование МНК выполняется не для фактических значений признака у, а для их обратных величин 1/у, а именно

следовательно полученная методом наименьших квадратов оценка уже не будет эффективной.

Приведение к линейному  виду регрессий, нелинейных по параметрам

Данный класс нелинейных моделей подразделяется на два типа: нелинейные модели внутренне линейные и нелинейные модели внутренне нелинейные.

Если нелинейная модель внутренне линейна, то она с помощью соответствующих преобразований может быть приведена к линейному виду.

Если нелинейная модель внутренне нелинейна, то она не может быть сведена к линейной функции.

Например, в эконометрических исследованиях при изучении эластичности спроса от цен широко используется степенная функция:

y = ax^bε

где у – спрашиваемое количество;

х – цена;

ε – случайная ошибка.

Данная модель нелинейна относительно оцениваемых пaраметров, ибо включает параметры а и b неаддитивно. Однако ее можно считать внутренне линейной, ибо логарифмирование данного уравнения по основанию е приводит его к линейному виду:

lпу = lпа + b lnx + ln ε.

Соответственно оценки параметров а и b могут быть найдены МНК.

Если же модель представить  в виде y = ax^bε, то она становится внутренне нелинейной, ибо ее невозможно превратить в линейный вид. Внутренне нелинейной будет и модель вида — у = а + bх^c + ε, ибо это уравнение не может быть преобразовано в уравнение, линейное по коэффициентам.

В специальных исследованиях  по регрессионному анализу часто  к нелинейным относят модели, только внутренне нелинейные по оцениваемым  параметрам, а все другие модели, которые внешне нелинейны, но путем преобразований параметров могут быть приведены к линейному виду, относятся к классу линейных моделей.

В этом плане к линейным относят, например, экспоненциальную модель y = е^a+bхε, ибо логарифмируя ее по натуральному основанию, получим линейную форму модели

lnу = а + b х +lnε.

Если модель внутренне  не линейна по параметрам, то для  оценки параметров используются итеративные  процедуры, успешность которых зависит  от вида уравнений и особенностей применяемого итеративного подхода. Модели внутренне нелинейные по параметрам могут иметь место в эконометрических исследованиях. Однако гораздо большее распространение получили модели, приводимые к линейному виду.

Среди нелинейных функций, которые могут быть приведены  к линейному виду, в эконометрических исследованиях очень широко используется степенная функция y = ax^bε.

Связано это с тем, что параметр b в ней имеет четкое экономическое истолкование, т. е. он является коэффициентом эластичности. Это значит, что величина коэффициента b показывает, на сколько процентов изменится в среднем результат, если фактор изменится на 1%.

В моделях, нелинейных по оцениваемым параметрам, но приводимых к линейному виду, МНК применяется  к преобразованным уравнениям.

Если в линейной модели и моделях, нелинейных по переменным, при оценке параметров исходят из критерия

,

то в моделях, нелинейных по оцениваемым  параметрам, требование МНК применяется не к исходным данным результативного признака, а к их преобразованным величинам, т. е. lпу, 1/у.

Так, в степенной функции y = ax^bε МНК применяется к преобразованному уравнению lпу = lnа + xlnb.

Это значит, что оценка параметров основывается на минимизации суммы квадратов отклонений в логарифмах:

Вследствие этого оценки параметров для линеаризуемых функций МНК  оказываются несколько смещенными. При исследовании взаимосвязей среди функций, использующих ln у, в эконометрике преобладают степенные зависимости – это и кривые спроса и предложения, и кривые Энгеля, и производственные функции, и кривые освоения для характеристики связи между трудоемкостью продукции и масштабами производства в период освоения выпуска нового вида изделий, и зависимость валового национального дохода от уровня занятости.

При использовании линеаризуемых  функций, затрагивающих преобразования зависимой переменной y, следует особенно проверять наличие предпосылок МНК, чтобы они не нарушались при преобразовании.

 

 

 

 

 

 

 

 

 

 

 

 

 

Вопрос 42. Аналитический способ выравнивания ряда и используемые при этом функции.

Более совершенным приемом выявления основной тенденции развития в рядах динамики является аналитическое выравнивание. При изучении общей тенденции методом аналитического выравнивания исходят из того, что изменения уровней ряда динамики могут быть с той или иной степенью точности приближения выражены определенными математическими функциями. Вид уравнения определяется характером динамики развития конкретного явления. На практике по имеющемуся временному ряду задают вид и находят параметры функции y=f(t) , а затем анализируют поведениеотклонений от тенденции. Чаще всего при выравнивании используются следующие зависимости: линейная, параболическая и экспоненциальная. Во многих случаях моделирование рядов динамики с помощью полиномов или экспоненциальной функции не дает удовлетворительных результатов, так как в рядах динамики содержатся заметные периодические колебания вокруг общей тенденции. В таких случаях следует использовать гармонический анализ (гармоники ряда Фурье). Применение, именно, этого метода предпочтительно, поскольку он определяет закон, по которому можно достаточно точно спрогнозировать значения уровней ряда.

Целью аналитического выравнивания динамического ряда является определение аналитической или графической зависимости y=f(t). Функцию y=f(t) выбирают таким образом, чтобы она давала содержательное объяснение изучаемого процесса. Это могут быть различные функции.

 

 

Системы уравнений вида y=f(t) для  оценки параметров полиномов по МНК

Графическое представление полиномов n-порядка

Если изменение уровней  ряда характеризуется равномерным увеличением (уменьшением) уровней, когда абсолютные цепные приросты близки по величине, тенденцию развития характеризуетуравнение прямой линии.

Если в результате анализа типа тенденции динамики установлена криволинейная зависимость, примерно с постоянным ускорением, то форма тенденции выражается уравнением параболы второго порядка.

Если рост уровней ряда динамики происходит в геометрической прогрессии, т.е. цепные коэффициенты роста более или менее постоянны, выравнивание ряда динамики ведется по показательной функции.

После выбора вида уравнения  необходимо определить параметры уравнения. Самый распространенный способ определения  параметров уравнения – это метод наименьших квадратов, в котором в качестве решения принимается точка минимума суммы квадратов отклонений между теоретическими (выравненными по выбранному уравнению) и эмпирическими уровнями.