Аппроксимация функций методом наименьших квадратов

2.3 Элементы теории корреляции.

График восстановленной функциональной зависимости по результатам измерений называется кривой регрессии. Для проверки согласия построенной кривой регрессии с результатами эксперимента обычно вводят следующие числовые характеристики: коэффициент корреляции (линейная зависимость), корреляционное отношение и коэффициент детерминированности. При этом результаты обычно группируют и представляют в форме корреляционной таблицы. В каждой клетке этой таблицы приводятся численности тех пар , компоненты которых попадают в соответствующие интервалы группировки по каждой переменной. Предполагая длины интервалов группировки (по каждой переменной) равными между собой, выбирают центры (соответственно ) этих интервалов и числа в качестве основы для расчетов.

Коэффициент корреляции является мерой линейной связи между зависимыми случайными величинами: он показывает, насколько хорошо в среднем может быть представлена одна из величин в виде линейной функции от другой.

Коэффициент корреляции вычисляется по формуле:

,                                              (2.3.1)

где    , и ¾ среднее арифметическое значение соответственно по x и y.

Коэффициент корреляции между случайными величинами по абсолютной величине не превосходит 1. Чем ближе к 1, тем теснее линейная связь между x и y.

В случае нелинейной корреляционной связи условные средние значения располагаются около кривой линии. В этом случае в качестве характеристики силы связи рекомендуется использовать корреляционное отношение, интерпретация которого не зависит от вида исследуемой зависимости.

Корреляционное отношение вычисляется по формуле:

,                                                 (2.3.2)

где , а числитель характеризует рассеяние условных средних около безусловного среднего .

Всегда . Равенство соответствует некоррелированным случайным величинам; тогда и только тогда, когда имеется точная функциональная связь между y и x. В случае линейной зависимости y от x корреляционное отношение совпадает с квадратом коэффициента корреляции. Величина используется в качестве индикатора отклонения регрессии от линейной.

Корреляционное отношение является мерой корреляционной связи y с x в какой угодно форме, но не может дать представления о степени приближенности эмпирических данных к специальной форме. Чтобы выяснить насколько точно построенная кривая отражает эмпирические данные вводится еще одна характеристика ¾ коэффициент детерминированности.

Для его описания рассмотрим следующие величины. - полная сумма квадратов, где среднее значение .

Можно доказать следующее равенство

.

Первое слагаемое равно и называется остаточной суммой квадратов. Оно характеризует отклонение экспериментальных данных от теоретических.

Второе слагаемое равно и называется регрессионной суммой квадратов и оно характеризует разброс данных.

Очевидно, что справедливо следующее равенство  .

Коэффициент детерминированности определяется по формуле:

.                                                 (2.3.3)

Чем меньше остаточная сумма квадратов по сравнению с общей суммой квадратов, тем больше значение коэффициента детерминированности , который показывает, насколько хорошо уравнение, полученное с помощью регрессионного анализа, объясняет взаимосвязи между переменными. Если он равен 1, то имеет место полная корреляция с моделью, т.е. нет различия между фактическим и оценочным значениями  y. В противоположном случае, если коэффициент детерминированности равен 0, то уравнение регрессии неудачно для предсказания значений y.

Коэффициент детерминированности всегда не превосходит корреляционное отношение. В случае когда выполняется равенство то можно считать, что построенная эмпирическая формула наиболее точно отражает эмпирические данные.

 

3. Расчет коэффициентов аппроксимации  в Microsoft Excel.

 

Вариант №22

 

Функция y=f(x) задана таблицей 1

Таблица 1

Исходные данные.

12.85	154.77	9.65	81.43	7.74	55.86	5.02	24.98	1.86	3.91
12.32	145.59	9.63	80.97	7.32	47.63	4.65	22.87	1.76	3.22
11.43	108.37	9.22	79.04	7.08	48.03	4.53	20.32	1.11	1.22
10.59	100.76	8.44	61.76	6.87	36.85	3.24	9.06	0.99	1.10
10.21	98.32	8.07	60.54	5.23	25.65	2.55	6.23	0.72	0.53

Требуется выяснить - какая из функций - линейная, квадратичная или экспоненциальная наилучшим образом аппроксимирует функцию заданную таблицей 1.

Решение.

Поскольку в данном примере каждая пара значений встречается один раз, то между и существует функциональная зависимость.

Для проведения расчетов данные целесообразно расположить в виде таблицы 2, используя средства табличного процессора Microsoft Excel.

 

Таблица 2

Расчет сумм.

 

Поясним как таблица 2 составляется.

 

Шаг 1. В ячейки A2:A26 заносим значения .

Шаг 2. В ячейки B2:B26 заносим значения .

Шаг 3. В ячейку C2 вводим формулу =A2^2.

Шаг 4. В ячейки C3:C26 эта формула копируется.

Шаг 5. В ячейку D2 вводим формулу =A2*B2.

Шаг 6. В ячейки D3:D26 эта формула копируется.

Шаг 7. В ячейку F2 вводим формулу =A2^4.

Шаг 8. В ячейки F3:F26 эта формула копируется.

Шаг 9. В ячейку G2 вводим формулу =A2^2*B2.

Шаг 10. В ячейки G3:G26 эта формула копируется.

Шаг 11. В ячейку H2 вводим формулу =LN(B2).

Шаг 12. В ячейки H3:H26 эта формула копируется.

Шаг 13. В ячейку I2 вводим формулу =A2*LN(B2).

Шаг 14. В ячейки I3:I26 эта формула копируется.

 

Последующие шаги делаем с помощью автосуммирования .

 

Шаг 15. В ячейку A27 вводим формулу =СУММ(A2:A26).

Шаг 16. В ячейку B27 вводим формулу =СУММ(B2:B26).

Шаг 17. В ячейку C27 вводим формулу =СУММ(C2:C26).

Шаг 18. В ячейку D27 вводим формулу =СУММ(D2:D26).

Шаг 19. В ячейку E27 вводим формулу =СУММ(E2:E26).

Шаг 20. В ячейку F27 вводим формулу =СУММ(F2:F26).

Шаг 21. В ячейку G27 вводим формулу =СУММ(G2:G26).

Шаг 22. В ячейку H27 вводим формулу =СУММ(H2:H26).

Шаг 23. В ячейку I27 вводим формулу =СУММ(I2:I26).

 

Аппроксимируем функцию линейной функцией . Для определения коэффициентов и воспользуемся системой

Используя итоговые суммы таблицы 2, расположенные в ячейках A27, B27, C27 и D27, запишем систему в виде

решив которую, получим и .

Таким образом, линейная аппроксимация имеет вид .

Решение системы проводили, пользуясь средствами Microsoft Excel. Результаты представлены в таблице 3.

   Таблица 3

Результаты коэффициентов линейной аппроксимации.

 

 

В таблице 3 в ячейках A37:B38 записана формула {=МОБР(A33:B34)}.

В ячейках D37:D38 записана формула {=МУМНОЖ(A37:B38;C33:C34)}.

 

Далее аппроксимируем функцию квадратичной функцией . Для определения коэффициентов , и воспользуемся системой

Используя итоговые суммы таблицы 2,

расположенные в ячейках A27, B27, C27, D27, E27, F27 и G27 запишем систему в виде

решив которую, получим , и .

Таким образом, квадратичная аппроксимация имеет вид

.

Решение системы проводили, пользуясь средствами Microsoft Excel. Результаты представлены в таблице 4.

Таблица 4

Результаты коэффициентов квадратичной аппроксимации.

 

В таблице 4 в ячейках E38:G40 записана формула {=МОБР(E33:G35)}.

В ячейках I38:I40 записана формула {=МУМНОЖ(E38:G40;H33:H35)}.

Теперь аппроксимируем функцию экспоненциальной функцией . Для определения коэффициентов и прологарифмируем значения и используя итоговые суммы таблицы 2, расположенные в ячейках A27, C27, H27 и I27 получим систему

 

где .

Решив систему, найдем , .

После потенцирования получим .

Таким образом, экспоненциальная аппроксимация имеет вид

.

Решение системы проводили, пользуясь средствами Microsoft Excel. Результаты представлены в таблице 5.

Таблица 5

Результаты коэффициентов экспоненциальной аппроксимации.

 

В таблице 5 в ячейках D45:E46 записана формула {=МОБР(D42:943)}.

В ячейках G45:G46 записана формула {=МУМНОЖ(D45:E46;F42:F43)}.

В ячейке G47 записана формула =EXP(G45).

 

Вычислим среднее арифметическое и по формулам:

Результаты расчета и средствами Microsoft Excel представлены в таблице 6.

Таблица 6

Вычисление средних значений X и Y.

 

В ячейке F49 записана формула =A26/25.

В ячейке F50 записана формула =B26/25.

Для того, чтобы рассчитать коэффициент корреляции и коэффициент детерминированности данные целесообразно расположить в виде таблицы 7, которая является продолжением таблицы 2.

 

 

 

 

Таблица 7

Вычисление остаточных сумм.

 

Поясним как таблица 7 составляется.

Ячейки A2:A27 и B2:B27 уже заполнены (см. табл. 2).

Далее делаем следующие шаги.

Шаг 1. В ячейку J2 вводим формулу =(A2-$F$49)*(B2-$F$50).

Шаг 2. В ячейки J3:J26 эта формула копируется.

Шаг 3. В ячейку K2 вводим формулу =(A2-$F$49)^2.

Шаг 4. В ячейки K3:K26 эта формула копируется.

Шаг 5. В ячейку L2 вводим формулу =(B2-$F$50)^2.

Шаг 6. В ячейки L3:L26 эта формула копируется.

Шаг 7. В ячейку M2 вводим формулу =($D$37+$D$38*A2-B2)^2.

Шаг 8. В ячейки M3:M26 эта формула копируется.

Шаг 9. В ячейку N2 вводим формулу

=($I$38+$I$39*A2+$I$40*A2^2-B2)^2.

Шаг 10. В ячейки N3:N26 эта формула копируется.

Шаг 11. В ячейку O2 вводим формулу

=($G$47*EXP($G$46*A2)-B2)^2.

Шаг 12. В ячейки O3:O26 эта формула копируется.

 

Последующие шаги делаем с помощью автосуммирования .

 

Шаг 13. В ячейку J27 вводим формулу =СУММ(J2:J26).

Шаг 14. В ячейку K27 вводим формулу =СУММ(K2:K26).

Шаг 15. В ячейку L27 вводим формулу =СУММ(L2:L26).

Шаг 16. В ячейку M27 вводим формулу =СУММ(M2:M26).

Шаг 17. В ячейку N27 вводим формулу =СУММ(N2:N26).

Шаг 18. В ячейку O27 вводим формулу =СУММ(O2:O26).

Теперь проведем расчеты коэффициента корреляции по формуле

(только для линейной аппроксимации)

и коэффициента детерминированности по формуле . Результаты расчетов средствами Microsoft Excel представлены в таблице 8.

Таблица 8

Результаты расчета.

 

 

В таблице 8 в ячейке D53 записана формула =J27/(K27*L27)^(1/2).

В ячейке D54 записана формула =1- M27/L27.

В ячейке D55 записана формула =1- N27/L27.

В ячейке D56 записана формула =1- O27/L27.

Анализ результатов расчетов показывает, что квадратичная аппроксимация наилучшим образом описывает экспериментальные данные.

 

4. Построение графиков в Excel и использование функции ЛИНЕЙН.

Рассмотрим результаты эксперимента, приведенные в исследованном выше примере.

Исследуем характер зависимости в три  этапа:

• Построим график зависимости.
• Построим линию тренда ( ,  , ).
• Получим числовые характеристики коэффициентов этого уравнения.

 

Рис.4.1. График зависимости y от x 

             Рис.4.2. График линейной аппроксимации

 

Рис.4.3. График квадратичной аппроксимации.

                                                 

            Рис.4.4. График экспоненциальной  аппроксимации.

 

Примечание: Полученное при построении линии тренда значение коэффициента детерминированности для экспоненциальной зависимости   не совпадает с истинным значением , поскольку при вычислении коэффициента детерминированности используются не истинные значения , а преобразованные значения с дальнейшей линеаризацией.