Уравнение регрессии

Определение и уравнение регрессии

ОПРЕДЕЛЕНИЕ

Уравнения регрессии — это числовое соотношение между величинами, выраженное в виде тенденции к возрастанию (или убыванию) одной переменной величины при возрастании (убывании) другой.

Чаще всего регрессия задается уравнением, которое показывает зависимость между двумя группами числовых переменных. Уравнения бывают двух видов: линейные и нелинейные.

Регрессия бывает двух видов: парная (или двухфакторная) и множественная (или многофакторная). Такие регрессии отличаются друг от друга видом уравнения и количестве независимых переменных. Уравнения парной регрессии относятся к уравнениям регрессии первого порядка, а уравнения множественной регрессии — к нелинейным уравнениям регрессии.

Параметры уравнения линейной регрессии $y=a+bx$ находятся методом наименьших квадратов из системы нормальных уравнений

$\left\{\begin{array}{l} {a\cdot n+b\cdot \sum x =\sum y ,} \\ {a\cdot \sum x +b\cdot \sum x^{2} =\sum xy. } \end{array}\right \ (1)$

Примеры решения задач

ПРИМЕР 1

Задание

Пусть задана зависимость между выработкой продукции на одного работника и удельного веса рабочих высокой квалификации:

Определите теоретическое уравнение парной регрессии.

Решение

Выборка состоит из 10 предприятий отрасли, то есть $n=10$ . Уравнение парной регрессии будем искать в виде:

$y=a+bx$

Для определения параметров модели, будем использовать метод наименьших квадратов. Система нормальных уравнений для определения неизвестных величин $a$ и $b$ имеет вид:

$\left\{\begin{array}{l} {a\cdot n+b\cdot \sum x =\sum y ,} \\ {a\cdot \sum x +b\cdot \sum x^{2} =\sum xy. } \end{array}\right$

Вычислим необходимые значения, для этого построим следующую таблицу:

Составляем систему нормальных уравнений:

$\left\{\begin{array}{l} {10a+171b=77,} \\ {171a+3045b=1356.} \end{array}\right$

Решая полученную систему линейных уравнений любым из известных методов, будем иметь:

$a\approx 2,1414;\; b\approx 0,3251.$

Тогда искомое уравнение

$y=2,1414+0,3251x$

Ответ

$y=2,1414+0,3251x$

ПРИМЕР 2

Задание

Имеются следующие данные разных стран об индексе розничных цен на продукты питания ( $x$ ) и индексе промышленного производства ( $y$ ):

Необходимо для характеристики зависимости $y$ от $x$ рассчитать параметры следующих функций: а) линейной; б) степенной; в) равносторонней гиперболы.

Решение

а) для построения линейной регрессии $y=a+bx$ заполним таблицу:

Для нахождения параметров регрессии, решаем систему нормальных уравнений (1):

$\left\{\begin{array}{l} {14a+1629b=1299,} \\ {1629a+190557b=152293.} \end{array}\right$

Откуда

$a=-38,9739;\; b=1,1324$

То есть уравнение линейной регрессии $y=1,1324x-38,9739$ .

б) Степенная регрессия имеет вид $y=ax^{b}$ .

Прологарифмируем это равенство десятичным логарифмом:

$\lg y=\lg ax^{b} \Rightarrow \lg y=\lg a+b\lg x$

По способу наименьших квадратов строим систему нормальных уравнений для определения параметров регрессии:

$\left\{\begin{array}{l} {n\lg a+b\sum \lg x =\sum \lg y ,} \\ {\lg a\sum \lg x +b\sum \left(\lg x\right)^{2} =\sum \lg x\lg y. } \end{array}\right$

Построим расчетную таблицу:

Подставляем в систему:

$\left\{\begin{array}{l} {14\lg a+28,9047b=27,499,} \\ {28,9047\lg a+56,6917b=56,796.} \end{array}\right$

Решая полученную систему, будем иметь:

$a=10^{-1,0397} ,\; b=1,4549.$

Тогда искомое уравнение

$y=10^{-1,0397} \cdot x^{1,4549}$

в) Уравнение равносторонней гиперболы $y=a+\frac{b}{x}$ .

Для определения параметров этого уравнения используется система нормальных уравнений:

$\left\{\begin{array}{l} {na+b\sum \frac{1}{x} =\sum y ,} \\ {a\sum \frac{1}{x} +b\cdot \sum \left(\frac{1}{x} \right)^{2} =\sum \left(\frac{1}{x} \cdot y\right). } \end{array}\right$