Линейная регрессия и корреляция

Министерство  здравоохранения Украины

Луганский государственный медицинский университет

Кафедра медицинской и биологической физики, медицинской информатики, биостистики

 

 

 

 

 

Расчётно – графическая работа

 

 

 

 

 

 

 

Выполнила студентка

2 курса,  75 группы,

 стомат  факультета

Фесенко А.С.

 

Луганск 2012

Оглавление

 

I. Теоретическая  часть

 

Введение

1. Спецификация, смысл и оценка  параметров линейной регрессии  и корреляция

2. Оценка существенности параметров  линейной регрессии и корреляции

3. Интервалы прогноза по линейному  уравнению регрессии

4. Нелинейная регрессия

Заключение

Список использованной литературы

 

II. Практическая часть

 

Введение

 

Проблема  изучения взаимосвязей экономических  показателей является одной из важнейших  в экономическом анализе. Любая  экономическая политика заключается  в регулировании экономических  переменных, и она должна основываться на знании того, как эти переменные влияют на другие переменные, являющиеся ключевыми для принимающего решение  политика. Так, в рыночной экономике  нельзя непосредственно регулировать темп инфляции, но на него можно воздействовать средствами бюджетно-налоговой и  кредитно-денежной политики.

В наиболее общем виде в области изучения взаимосвязей исследователя интересует количественная оценка их наличия и  направления, а также характеристика силы и формы влияния одних  факторов на другие. Для ее решения  применяется две группы методов, одна из которых включает в себя методы корреляционного анализа, а  другого - регрессионный анализ. В  то же время ряд исследователей объединяет эти методы в корреляционно - регрессионный  анализ, что объясняется наличием целого ряда вычислительных процедур, взаимодополнения при интерпретации  результатов и др.

Задачи  собственно корреляционного анализа  сводятся к измерению тесноты  связи между варьирующими признаками, определению неизвестных причинных  связей и оценке факторов, оказывающих  наибольшее влияние на результативный признак. Задачи регрессионного анализа  лежат в сфере установления формы  зависимости, определения функции  регрессии, использования уравнения  для оценки неизвестных значений зависимой переменной.

Решение задач опирается на соответствующие  приемы, алгоритмы, показатели, применение которых дает основание говорить о статистическом изучении взаимосвязей. При этом инструментарием их базового анализа являются методы статистики и эконометрики.

1. Спецификация, смысл и  оценка параметров линейной регрессии  и корреляция

 

Для решения  задач экономического анализа и  прогнозирования очень часто  используются статистические, отчетные или наблюдаемые данные. При этом полагают, эти данные являются значениями случайной величины.

Случайной величиной называется переменная величина, которая в зависимости от случая принимает различные значения с  некоторой вероятностью. Закон распределения  случайной величины показывает частоту  ее тех или иных значений в общей  их совокупности.

Раздел  эконометрики, посвященный изучению взаимосвязей между случайными величинами называется корреляционным анализом. Основная задача корреляционного анализа - это установление характера и  тесноты связи между результативными (зависимыми) и факторными (независимыми) показателями (признаками) в данном явлении или процессе. Корреляционную связь можно обнаружить только при  массовом сопоставлении фактов.

Корреляционная  связь существует там, где взаимосвязанные  явления характеризуются только случайными величинами. При такой  связи среднее значение (математическое ожидание) случайной величины результативного  признака у закономерно изменяется в зависимости от изменения другой величины х или других случайных  величин х₁,х₂ …х_n. Корреляционная связь проявляется не в каждом отдельном случае, а во всей совокупности в целом. Только при достаточно большом количестве случаев каждому значению случайного признака х будет соответствовать распределение средних значений случайного признака у. Наличие корреляционных связей присуще многим общественным явлениям.

Корреляционная  связь - понятие более узкое, чем  стохастическая связь. Последняя может  отражаться не только в изменении  средней величины, но и в вариации одного признака в зависимости от другого, то есть любой другой характеристики вариации. Таким образом, корреляционная связь является частным случаем  стохастической связи.

Задачи  корреляционного анализа сводятся к измерению тесноты известной  связи между варьирующими признаками, определению неизвестных причинных  связей (причинный характер которых  должен быть выяснен с помощью  теоретического анализа) и оценки факторов, оказывающих наибольшее влияние  на результативный признак.

Задачами  регрессионного анализа являются выбор  типа модели (формы связи), установление степени влияния независимых  переменных на зависимую и определение  расчётных значений зависимой переменной (функции регрессии).

Решение всех названных задач приводит к  необходимости комплексного использования  этих методов.

Наиболее  разработанной в теории статистики является методология так называемой парной корреляции, рассматривающая  влияние вариации факторного анализа  х на результативный признак у  и представляющая собой однофакторный  корреляционный и регрессионный  анализ. Овладение теорией и практикой  построения и анализа двухмерной модели корреляционного и регрессионного анализа представляет собой исходную основу для изучения многофакторных стохастических связей.

Важнейшим этапом построения регрессионной модели (уравнения регрессии) является установление в анализе исходной информации математической функции. Сложность заключается  в том, что из множества функций  необходимо найти такую, которая  лучше других выражает реально существующие связи между анализируемыми признаками. Выбор типов функции может  опираться на теоретические знания об изучаемом явлении, опят предыдущих аналогичных исследований, или осуществляться эмпирически - перебором и оценкой  функций разных типов и т.п.

При изучении связи экономических показателей  производства (деятельности) используют различного вида уравнения прямолинейной  и криволинейной связи. Внимание к линейным связям объясняется ограниченной вариацией переменных и тем, что  в большинстве случаев нелинейные формы связи для выполнения расчётов преобразуют (путём логарифмирования или замены переменных) в линейную форму. ¹

Регрессия - это линия, характеризующая наиболее общую тенденцию во взаимосвязи факторного и результативного признаков.

Простая регрессия представляет собой регрессию между двумя переменными - у и х, т.е. модель вида , где у - результативный признак; х - признак-фактор.

Множественная регрессия представляет собой регрессию результативного признака с двумя и большим числом факторов, т. е. модель вида .

Спецификация  модели - формулировка вида модели, исходя из соответствующей теории связи между переменными. В уравнении регрессии корреляционная по сути связь признаков представляется в виде функциональной связи, выраженной соответствующей математической функцией. где y_j - фактическое значение результативного признака;

y_xj -теоретическое значение результативного признака.

 - случайная величина, характеризующая отклонения реального значения результативного признака от теоретического.

Случайная величина ε называется также возмущением. Она включает влияние не учтенных в модели факторов, случайных ошибок и особенностей измерения.

От правильно  выбранной спецификации модели зависит  величина случайных ошибок: они тем  меньше, чем в большей мере теоретические  значения результативного признака подходят к фактическим данным у.

К ошибкам  спецификации относятся неправильный выбор той или иной математической функции для , и недоучет в уравнении регрессии какого-либо существенного фактора, т. е. использование парной регрессии вместо множественной.

Ошибки  выборки - исследователь чаще всего  имеет дело с выборочными данными при установлении закономерной связи между признаками.

Ошибки  измерения практически сводят на нет все усилия по количественной оценке связи между признаками. Основное внимание в эконометрических исследованиях уделяется ошибкам спецификации модели.

В парной регрессии выбор вида математической функции  может быть осуществлен тремя методами: графическим, аналитическим и экспериментальным.

Графический метод основан на поле корреляции. Аналитический метод основан  на изучении материальной природы связи  исследуемых признаков.

Экспериментальный метод осуществляется путем сравнения  величины остаточной дисперсии D_ост, рассчитанной при разных моделях. Если фактические значения результативного признака совпадают с теоретическими у = , то D_ocm =0. Если имеют место отклонения фактических данных от теоретических (у - ) то

 

.

 

Чем меньше величина остаточной дисперсии, тем  лучше уравнение регрессии подходит к исходным данным. Число наблюдений должно в 6-7 раз превышать число  рассчитываемых параметров при переменной х.

На практике чаще всего применяются следующие  формы регрессионных моделей:

Линейная:

.

 

Полулогарифметическая кривая:

 

.

 

Гипербола:

.

 

Парабола  второго порядка:

 

.

 

Показательная функция:

.

 

Степенная функция:

.

 

Уравнение однофакторной (парной) линейной корреляционной связи имеет вид:

 

ŷ = a₀ + a₁x ,

 

где ŷ - теоретические  значения результативного признака, полученные по уравнению регрессии;

a₀ , a₁ - коэффициенты (параметры) уравнения регрессии.

Поскольку a₀ является средним значением у в точке х=0, экономическая интерпретация часто затруднена или вообще невозможна.

Коэффициент парной линейной регрессии a₁ имеет смысл показателя силы связи между вариацией факторного признака х и вариацией результативного признака у. Вышеприведенное уравнение показывает среднее значение изменения результативного признака у при изменении факторного признака х на одну единицу его измерения, то есть вариацию у, приходящуюся на единицу вариации х. Знак a₁ указывает направление этого изменения.

Параметры уравнения a₀ , a₁ находят методом наименьших квадратов (метод решения систем уравнений, при котором в качестве решения принимается точка минимума суммы квадратов отклонений), то есть в основу этого метода положено требование минимальности сумм квадратов отклонений эмпирических данных y_i от выравненных ŷ :

 

S(y_i - ŷ)² = S(y_i - a₀ - a₁x_i)² ® min.

 

Для нахождения минимума данной функции приравняем к нулю ее частные производные  и получим систему двух линейных уравнений, которая называется системой нормальных уравнений:

 

.

 

Решим эту  систему в общем виде:

 

 

 

Параметры уравнения парной линейной регрессии  иногда удобно исчислять по следующим  формулам, дающим тот же результат:

 

 

Определив значения a₀ , a₁ и подставив их в уравнение связи ŷ = a₀ + a₁x, находим значения ŷ , зависящие только от заданного значения х.

Помимо  содержательного подхода существует формальная оценка адекватности подобранной регрессионной модели. Лучшей из них считается та, которая наименее удалена от исходных данных.

 

Данное  свойство средней, гласящее, что сумма квадратов отклонений всех вариантов ряда от средней арифметической меньше суммы квадратов их отклонений от любого другого числа, положено в основу метода наименьших квадратов, позволяющего рассчитать параметры избранного уравнения регрессии таким образом, чтобы линия регрессии была в среднем наименее удалена от эмпирических данных.²

2. Оценка существенности  параметров линейной регрессии  и корреляции

 

Корреляционный  и регрессионный анализ обычно проводится для ограниченной по объёму совокупности. Поэтому показатели регрессии и  корреляции - параметры уравнения  регрессии, коэффициенты корреляции и  детерминации могут быть искажены действием  случайных факторов. Чтобы проверить, насколько эти показатели характерны для всей генеральной совокупности, не являются ли они результатом стечения случайных обстоятельств, необходимо проверить адекватность построенных  статистических моделей.