Численные методы

І. ТЕОРЕТИЧЕСКАЯ ЧАСТЬ.
1.1. Метод наименьших квадратов
Линейная регрессия (теоретическое линейное уравнение регрессии) представляет собой линейную функцию между условным математическим ожиданием зависимой переменной Y и одной объ¬ясняющей переменной X ( – значения независимой перемен¬ной в i-ом наблюдении, ).
. (1.1)
Для отражения того факта, что каждое индивидуальное значение отклоняется от соответствующего условного мате¬матического ожидания, необходимо ввести в последнее соотношение случайное слагаемое .
(1.1)
Это соотношение называется теоретической линейной регрессионной моделью, и – теоретическими парамет¬рами (теоретическими коэффициентами) регрессии, – слу¬чайным отклонением.
Следовательно, индивидуальные значения представляют¬ся в виде суммы двух компонент – систематической и случайной , причина появления которой достаточно под¬робно рассмотрена ранее. В общем виде теоретическую линейную регрессионную модель будем представлять в виде:
. (1.2)
Для определения значений теоретических коэффициентов регрессии необходимо знать и использовать все значения пере¬менных X и Y генеральной совокупности, что практически не¬возможно.
Таким образом, задачи линейного регрессионного анализа состоят в том, чтобы по имеющимся статистическим данным для переменных X и Y:
а) получить наилучшие оценки неизвестных параметров и ;
б) проверить статистические гипотезы о параметрах модели;
в) проверить, достаточно ли хорошо модель согласуется со статистическими данными (адекватность модели данным на¬блюдений).
Следовательно, по выборке ограниченного объема мы смо¬жем построить так называемое эмпирическое уравнение рег¬рессии
(1.3)
где – оценка условного математического ожидания ; и – оценки неизвестных параметров и , называе¬мые эмпирическими коэффициентами регрессии. Следователь¬но, в конкретном случае:...

1. Мельникова О.И., Бонюшкина А.Ю. Начала программирования на языке Qbasic: Учебное пособие = М.: Издательство ЭКОМ, 2000 – 304 с., ил.
2. Бирюков С.И. Оптимизация. Элементы теории. Численные методы: Учеб. пособие. — М. : МЗ-Пресс, 2003. — 248с. : рис. — (Серия "Естественные науки). — Библиогр.: с. 245-246.
3. Волков Е.А. Численные методы: Учеб. пособие. — 3.изд., испр. — СПб. ; М. ; Краснодар : Лань, 2004. — 248с. : рис., табл. — (Учебники для вузов). — Библиогр.: с. 244.
4. Аттетков А.В., Галкин С.В., Зарубин В.С. Методы оптимизации: Учебник для студ. высших техн. учеб. заведений / В. С. Зарубин (ред.), А.П. Крищенко (ред.). — М. : Издательство МГТУ им. Н.Э.Баумана, 2001. — 439с. : рис., табл. — (Серия "Математика в техническом университете"; Вып.14). — Библиогр.: с. 428-432.
5. Лебедев В.И. Функциональный анализ и вычислительная математика. — 4. изд., испр. и доп. — М. : Физматлит, 2000. — 295с. : рис. — Бібліогр.: с.285-287.