Теория наименьших квадратов

Содержание большей ее части известно инженерам, но весь материал собран здесь в том виде, в каком он нужен для спектрального анализа В гл 3 мы вводим некоторые основные понятия теории вероятностей, являющиеся фундаментальными для последующих глав В гл 4 вводятся многие важные понятия теории статистических выводов и обсуждается использование выборочных распределений в теории оценивания и теория наименьших квадратов, а также дается краткое изложение способов получения статистических выводов с помощью функции правдоподобия Не весь этот материал необходим для понимания спектральных методов, обсуждаемых ниже, и читатели-инженеры могут при желании пропустить последнюю часть этой главы при первом чтении Для спектрального анализа наиболее существенными из этой главы являются разделы о применении выборочных распределений в теории оценивания и теория наименьших квадратов Последняя является важнейшим оружием в арсенале статистики и, как показывает наш опыт, часто неправильно понимается инженерами [c.10]

Линейная теория наименьших квадратов имеет дело с оцениванием параметров 0г по данным, состоящим из одновременных измерений входных и выходных переменных Значения, полученные в результате оценки параметров, можно подставить в (4 3 1) и полученное при этом выражение использовать для предсказания выхода при тех значениях входных переменных, которые появятся в будущем [c.134]

Теория наименьших квадратов также развивалась в рамках метода выборочных распределений Так, оценки наименьших квадратов обладают тем свойством, что они минимизируют среднеквадратичную ошибку, или, что эквивалентно, минимизируют ожидаемый объем доверительной области для параметров [c.163]

Выборочные ошибки с минимальной среднеквадратичной ошибкой. В этом разделе содержатся доказательства некоторых общих результатов линейной теории наименьших квадратов Частными случаями этих результатов являются результаты, упоминавшиеся в разд 4 3 [c.165]

Линейная теория наименьших квадратов 167 [c.167]

В общем случае, когда необходимо оценить более двух параметров, в теории наименьших квадратов применим матричный подход. Такой подход лежит в основе более совершенных методов обработки данных с помощью вычислительных машин. Эти методы обсуждаются в гл. 5. [c.77]

Метод правдоподобия дает возможность по-новому интерпретировать теорию наименьших квадратов. Например, функция правдоподобия является по существу поверхностью суммы квадратов 5(01, 02,. .., 0й), если ошибки I нормальны и независимы. Так как эта сумма является квадратичной формой от 0,, то функцию правдоподобия можно просто описать с помощью выборочных оценок [c.163]

ЛИНЕЙНАЯ ТЕОРИЯ НАИМЕНЬШИХ КВАДРАТОВ [c.165]

В этой главе мы будем различать два подхода к теории статистических выводов, а именно метод выборочных распределений (sampling distribution approa h) и метод правдоподобия Частным случаем метода правдоподобия, имеющим фундаментальную важность при оценивании спектров мощности, является теория наименьших квадратов, обсуждаемая в разд 4 3 Метод правдоподобия идеально подходит для ситуаций, где по данным нужно оценить небольшой набор параметров Обладая этим качеством, он не подходит непосредственно для оценивания спектров мощности, которые содержат по существу бесконечное число параметров Единственный подход, который возможен в этом случае, заключается в использовании выборочного распределения Однако мы включили метод правдоподобия в эту главу из-за его важности прн оценивании параметров в параметрических моделях [c.115]

Мы обосновали оценки наименьших квадратов в разд. 4.3.) пользуясь критерием среднеквадратичной ошибки. Однако крит< рий среднеквадратичной ошибки нельзя использовать в теори правдоподобия, поскольку он включает усреднение по выборог ному пространству. Следовательно, необходимо заново интерпре тировать теорию наименьших квадратов с точки зрения метод правдоподобия. [c.152]