Линейное предсказание

Линейное предсказание - это математическая операция, в которой будущие значения сигнала discrete-time оцениваются как линейная функция предыдущих выборок.

В цифровой обработке сигналов линейное предсказание часто называется кодированием с линейным предсказанием (LPC) и, таким образом, может рассматриваться как подмножество теории фильтров. В системном анализе, подполе математика, линейное прогнозирование можно рассматривать как часть математического моделирования или оптимизации.

• 1 Модель прогнозирования
  • 1.1 Оценка параметров
• 2 См. Также
• 3 Ссылки
• 4 Дополнительная литература
• 5 Внешние ссылки

Наиболее распространенное представление равно

$x\; ^\; (n)\; =\; \sum \; i\; =\; 1\; paix\; (n\; -\; i)\; \{\backslash \; displaystyle\; \{\backslash \; widehat\; \{x\}\}\; (n)\; =\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{p\}\; a\_\; \{i\}\; x\; (ni)\; \backslash ,\}$

где $x\; ^\; (n)\; \{\backslash \; displaystyle\; \{\backslash \; widehat\; \{x\}\}\; (n)\}$- прогнозируемое значение сигнала, $x\; (\; n\; -\; i)\; \{\backslash \; displaystyle\; x\; (ni)\}$предыдущие наблюдаемые значения с и $ai\; \{\backslash \; displaystyle\; a\_\; \{i\}\}$коэффициентами предиктора. Ошибка, вызванная этой оценкой, составляет

$e\; (n)\; =\; x\; (n)\; -\; x\; ^\; (n)\; \{\backslash \; displaystyle\; e\; (n)\; =\; x\; (n)\; -\; \{\backslash \; widehat\; \{x\}\}\; (n)\; \backslash ,\; \}$

где $x\; (n)\; \{\backslash \; displaystyle\; x\; (n)\}$- истинное значение сигнала.

Эти уравнения действительны для всех типов (одномерного) линейного прогнозирования. Различия обнаруживаются в способе выбора коэффициентов предиктора $a\; i\; \{\backslash \; displaystyle\; a\_\; \{i\}\}$.

Для многомерных сигналов показатель ошибки часто определяется как

$e\; (n)\; =\; \Vert \; x\; (n)\; -\; x\; ^\; (n)\; \Vert \; \{\backslash \; displaystyle\; e\; (n)\; =\; \backslash \; |\; x\; (\; n)\; -\; \{\backslash \; widehat\; \{x\}\}\; (n)\; \backslash \; |\; \backslash ,\}$

где $\Vert \; \cdot \; \Vert \; \{\backslash \; displaystyle\; \backslash \; |\; \backslash \; cdot\; \backslash \; |\}$- подходящий выбранный вектор норма. Прогнозы, такие как $x\; ^\; (n)\; \{\backslash \; displaystyle\; \{\backslash \; widehat\; \{x\}\}\; (n)\}$, обычно используются в фильтрах Калмана и сглаживателях для оценки текущего и прошлого значения сигналов соответственно.

Оценка параметров

Наиболее распространенный выбор при оптимизации параметров $ai\; \{\backslash \; displaystyle\; a\_\; \{i\}\}$- это критерий среднеквадратичного значения, который также называется критерием автокорреляции. В этом методе мы минимизируем ожидаемое значение квадрата ошибки $E\; [e\; 2\; (n)]\; \{\backslash \; displaystyle\; E\; [e\; ^\; \{2\}\; (n)]\}$, что дает уравнение

$\sum \; я\; знак\; равно\; 1\; пай\; R\; (J\; -\; I)\; =\; R\; (J),\; \{\backslash \; Displaystyle\; \backslash \; sum\; \_\; \{я\; =\; 1\}\; ^\; \{p\}\; a\_\; \{i\}\; R\; (ji)\; =\; R\; (j),\}$

для 1 ≤ j ≤ p, где R - автокорреляция сигнала x n, определяемая как

$R\; (i)\; =\; E\; \{x\; (n)\; x\; (n\; -\; i)\}\; \{\backslash \; displaystyle\; \backslash \; R\; (i)\; =\; E\; \backslash \; \{x\; (n)\; x\; (ni)\; \backslash \}\; \backslash ,\}$,

, а E - ожидаемое значение. В многомерном случае это соответствует минимизации L2нормы.

Вышеупомянутые уравнения называются нормальными уравнениями или уравнениями Юла-Уокера. В матричной форме уравнения могут быть эквивалентно записаны как

$RA\; =\; r\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{RA\}\; =\; \backslash \; mathbf\; \{r\}\}$

, где матрица автокорреляции $R\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{R\}\; \}$- симметричная, $p\; \times \; p\; \{\backslash \; displaystyle\; p\; \backslash \; times\; p\}$матрица Теплица с элементами , вектор $r\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{r\}\}$является вектором автокорреляции и $A\; =\; [a\; 1,\; a\; 2,\; \cdots ,\; ap\; -\; 1,\; ap]\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{A\}\; =\; [a\_\; \{1\},\; a\_\; \{2\},\; \backslash ,\; \backslash \; cdots\; \backslash ,,\; a\_\; \{p-1\},\; a\_\; \{p\}]\}$, вектор параметров.

Другой, более общий подход заключается в минимизации суммы квадратов ошибок, определенных в форме

$e\; (n)\; =\; x\; (n)\; -\; x\; ^\; (n)\; =\; x\; (n)\; -\; \sum \; я\; знак\; равно\; 1\; паикс\; (N\; -\; я)\; =\; -\; \sum \; я\; знак\; равно\; 0\; паикс\; (N\; -\; я)\; \{\backslash \; Displaystyle\; е\; (п)\; =\; х\; (п)\; -\; \{\backslash \; widehat\; \{х\}\}\; (п)\; =\; х\; (п)\; -\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{p\}\; a\_\; \{i\}\; x\; (ni)\; =\; -\; \backslash \; sum\; \_\; \{i\; =\; 0\}\; ^\; \{p\}\; a\_\; \{i\}\; x\; (ni)\}$

где оптимизация поиск проблем по всем $ai\; \{\backslash \; displaystyle\; a\_\; \{i\}\}$теперь должен быть ограничен с помощью $a\; 0\; =\; -\; 1\; \{\backslash \; displaystyle\; a\_\; \{0\}\; =\; -\; 1\}$.

On с другой стороны, если среднеквадратическая ошибка предсказания ограничена единицей и уравнение ошибки предсказания включено поверх обычных уравнений, расширенный набор уравнений получается как

$RA\; =\; [1,\; 0,...,\; 0]\; T\; \{\backslash \; displaystyle\; \backslash \; \backslash \; mathbf\; \{RA\}\; =\; [1,0,...,\; 0]\; ^\; \{\backslash \; mathrm\; \{T\}\}\}$

, где индекс $i\; \{\backslash \; displaystyle\; i\}$находится в диапазоне от 0 до $p\; \{\backslash \; displaystyle\; p\}$, а $R\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{R\}\}$является $(p\; +\; 1)\; \times \; (p\; +\; 1)\; \{\backslash \; displaystyle\; (p\; +\; 1)\; \backslash \; times\; (p\; +\; 1)\}$матрица.

Спецификация параметров линейного предсказателя является широкой темой, и было предложено большое количество других подходов. Фактически, метод автокорреляции является наиболее распространенным и используется, например, для кодирования речи в стандарте GSM.

Решение матричного уравнения $R\; A\; =\; r\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{RA\}\; =\; \backslash \; mathbf\; \{r\}\}$является относительно дорогостоящим с вычислительной точки зрения процессом. Исключение Гаусса для инверсии матрицы, вероятно, является самым старым решением, но этот подход неэффективно использует симметрию $R\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{R\}\}$. Более быстрый алгоритм - это рекурсия Левинсона, предложенная Норманом Левинсоном в 1947 году, которая рекурсивно вычисляет решение. В частности, приведенные выше автокорреляционные уравнения могут быть более эффективно решены с помощью алгоритма Дарбина.

В 1986 году Филипп Дельсарт и Ю.В. Генин предложил усовершенствование этого алгоритма, названное разделенной рекурсией Левинсона, которая требует примерно половины числа умножений и делений. Он использует особое свойство симметрии векторов параметров на последующих уровнях рекурсии. Таким образом, вычисления для оптимального предиктора, содержащего $p\; \{\backslash \; displaystyle\; p\}$термины, используют аналогичные вычисления для оптимального предиктора, содержащего $p\; -\; 1\; \{\backslash \; displaystyle\; p-1\}$условия.

Другой способ определения параметров модели - итеративное вычисление оценок состояния с использованием фильтров Калмана и получение оценок максимального правдоподобия в рамках алгоритмов максимизации ожидания.

Для равноотстоящие значения, полиномиальная интерполяция представляет собой линейную комбинацию известных значений. Если дискретный сигнал времени оценивается как подчиняющийся полиному степени $p\; -\; 1,\; \{\backslash \; displaystyle\; p-1,\; \}$тогда коэффициенты предиктора $ai\; \{\backslash \; displaystyle\; a\_\; \{i\}\}$задаются соответствующей строкой треугольника коэффициентов биномиального преобразования. Это оценка может быть подходящей для медленно меняющегося сигнала с низким уровнем шума. Прогнозы для первых нескольких значений $p\; \{\backslash \; displaystyle\; p\}$:

$p\; =\; 1:\; x\; ^\; (n)\; =\; 1\; x\; (n\; -\; 1)\; p\; =\; 2:\; x\; ^\; (n)\; =\; 2\; x\; (n\; -\; 1)\; -\; 1\; x\; (n\; -\; 2)\; p\; =\; 3:\; x\; ^\; (n)\; =\; 3\; x\; (n\; -\; 1)\; -\; 3\; x\; (n\; -\; 2)\; +\; 1\; x\; (n\; -\; 3)\; п\; знак\; равно\; 4:\; х\; ^\; (п)\; =\; 4\; х\; (п\; -\; 1)\; -\; 6\; х\; (п\; -\; 2)\; +\; 4\; х\; (п\; -\; 3)\; -\; 1\; х\; (п\; -\; 4)\; \{\backslash \; displaystyle\; \{\backslash \; begin\; \{\; массив\}\; \{lcl\}\; p\; =\; 1\; :\; \{\backslash \; widehat\; \{x\}\}\; (n)\; =\; 1x\; (n-1)\; \backslash \backslash \; p\; =\; 2\; :\; \{\backslash \; widehat\; \{x\}\}\; (n)\; =\; 2x\; (n-1)\; -1x\; (n-2)\; \backslash \backslash \; p\; =\; 3\; :\; \{\backslash \; widehat\; \{x\}\}\; (n)\; =\; 3x\; (n-1)\; -3x\; (n-2)\; +\; 1x\; (n-3)\; \backslash \backslash \; p\; =\; 4\; :\; \{\backslash \; widehat\; \{x\}\}\; (n)\; =\; 4x\; (n-1)\; -6x\; (n-2)\; +\; 4x\; (n-3)\; -1x\; (n-4)\; \backslash \backslash \backslash \; end\; \{array\}\}\}$

• Модель авторегрессии
• Интервал прогноза
• Фильтрация раста
• Минимальная среднеквадратичная ошибка

• (1996). Статистическая обработка цифровых сигналов и моделирование. Нью-Йорк: J. Wiley Sons. ISBN 978-0471594314.
• Левинсон, Н. (1947). «Критерий ошибки Wiener RMS (среднеквадратическое значение) при проектировании и прогнозировании фильтров». Журнал математики и физики. 25(4): 261–278.
• Махоул Дж. (1975). «Линейное предсказание: учебное пособие». Труды IEEE. 63 (5): 561–580. doi : 10.1109 / PROC.1975.9792.
• Yule, G.U. (1927). «О методе исследования периодичностей в возмущенных рядах с особым упором на числа Вулфера по солнечным пятнам». Фил. Пер. Рой. Soc. А. 226 : 267–298. doi : 10.1098 / rsta.1927.0007. JSTOR 91170.

• PLP и RASTA (и MFCC, и инверсия) в Matlab