В чём суть метода наименьших квадратов?

Суть метода наименьших квадратов (МНК) заключается в минимизации суммы квадратов отклонений некоторых функций от экспериментальных входных данных. ru.wikipedia.org ru.ruwiki.ru

Метод применяется для:

• решения переопределённых систем уравнений (когда количество уравнений превышает количество неизвестных); ru.wikipedia.org
• поиска решения в случае обычных (не переопределённых) нелинейных систем уравнений; ru.wikipedia.org
• аппроксимации точечных значений некоторой функции. ru.wikipedia.org

Пример: если есть набор точек в координатах x-y, и их нужно описать линейной зависимостью (y = kx + b), то суть метода наименьших квадратов — найти такие коэффициенты k и b, при которых сумма квадратов отклонений будет минимальной. dzen.ru