Внутреннее измерение

В полях при распознавании образов и машинное обучение, внутреннее измерение для набора данных можно рассматривать как количество переменных, необходимых для минимального представления данных. Аналогично, в обработке сигнала многомерных сигналов, внутренняя размерность сигнала описывает, сколько переменных необходимо для генерации хорошего приближения сигнала.

Однако при оценке внутреннего измерения часто используется несколько более широкое определение, основанное на измерении многообразия, когда представление во внутреннем измерении должно существовать только локально. Таким образом, такие методы оценки внутренних измерений могут обрабатывать наборы данных с различными внутренними измерениями в разных частях набора данных.

Внутреннее измерение может использоваться как нижняя граница того, в какое измерение можно сжать набор данных посредством уменьшения размерности, но его также можно использовать как меру сложности набора данных или сигнала..

Для набора данных или сигнала, состоящего из N переменных, его внутренняя размерность M удовлетворяет 0 ≤ M ≤ N.

• 1 Пример
• 2 Формальное определение сигналов
• 3 Фурье преобразование сигналов низкой внутренней размерности
  • 3.1 Простой пример
  • 3.2 Общий случай
• 4 Обобщения
• 5 История
• 6 Приложения
• 7 См. также
• 8 Ссылки

Пусть $f\; (x\; 1,\; x\; 2)\; \{\backslash \; textstyle\; f\; (x\_\; \{1\},\; x\_\; \{2\})\}$будет функцией с двумя переменными. (или сигнал ), имеющий форму

$f\; (x\; 1,\; x\; 2)\; =\; g\; (x\; 1)\; \{\backslash \; displaystyle\; f\; (x\_\; \{1\},\; x\_\; \{2\})\; =\; g\; (x\_\; \{1\})\}$

для некоторой функции с одной переменной g, которая не является константой. Это означает, что f изменяется в соответствии с g, с первой переменной или по первой координате . С другой стороны, f постоянна по отношению ко второй переменной или по второй координате. Необходимо знать значение только одной, а именно первой переменной, чтобы определить значение f. Следовательно, это функция с двумя переменными, но ее внутренняя размерность равна единице.

Чуть более сложный пример:

$f\; (x\; 1,\; x\; 2)\; =\; g\; (x\; 1\; +\; x\; 2)\; \{\backslash \; displaystyle\; f\; (x\_\; \{1\},\; x\_\; \{2\})\; =\; g\; (\; x\_\; \{1\}\; +\; x\_\; \{2\})\}$f все еще является внутренне одномерным, что можно увидеть, выполнив преобразование переменной

$y\; 1\; =\; x\; 1\; +\; x\; 2\; \{\backslash \; displaystyle\; y\_\; \{\; 1\}\; =\; x\_\; \{1\}\; +\; x\_\; \{2\}\}$

$y\; 2\; =\; x\; 1\; -\; x\; 2\; \{\backslash \; displaystyle\; y\_\; \{2\}\; =\; x\_\; \{1\}\; -x\_\; \{2\}\}$

, что дает

$е\; (Y\; 1\; +\; Y\; 2\; 2,\; Y\; 1\; -\; Y\; 2\; 2)\; знак\; равно\; г\; (Y\; 1)\; \{\backslash \; Displaystyle\; F\; \backslash \; left\; (\{\backslash \; frac\; \{y\_\; \{1\}\; +\; y\_\; \{2\}\}\; \{2\}\},\; \{\backslash \; frac\; \{y\_\; \{1\}\; -y\_\; \{2\}\}\; \{2\}\}\; \backslash \; right)\; =\; g\; \backslash \; left\; (y\_\; \{1\}\; \backslash \; right)\}$

Поскольку изменение f можно описать одной переменной y 1 его внутренняя размерность равна единице.

Для случая, когда f является постоянным, его внутренняя размерность равна нулю, так как никакая переменная не требуется для описания вариации. В общем случае, когда внутренняя размерность функции двух переменных f не равна ни нулю, ни единице, она равна двум.

В литературе функции, имеющие внутреннюю размерность ноль, один или два, иногда называются i0D, i1D или i2D соответственно.

Для N-переменной функции f набор переменных может быть представлен как N-мерный вектор x:

$f\; =\; f\; (x),\; где\; x\; =\; (\; Икс\; 1,\dots ,\; Икс\; N)\; \{\backslash \; Displaystyle\; F\; =\; F\; \backslash \; left\; (\backslash \; mathbf\; \{x\}\; \backslash \; right)\; \{\backslash \; text\; \{where\}\}\; \backslash \; mathbf\; \{x\}\; =\; \backslash \; left\; (x\_\; \{1\},\; \backslash \; dots,\; x\_\; \{N\}\; \backslash \; right)\}$

Если для некоторой M-переменной функции g и матрицы M × N A верно ли, что

• для всех x; $f\; (x)\; =\; g\; (\; A\; x),\; \{\backslash \; textstyle\; f\; (\backslash \; mathbf\; \{x\})\; =\; g\; (\backslash \; mathbf\; \{Ax\}),\}$
• M - наименьшее число, для которого может быть найдено указанное выше соотношение между f и g,

тогда внутренняя размерность f равна M.

Внутренняя размерность является характеристикой f, а не однозначной характеристикой g или A . То есть, если указанное выше соотношение выполняется для некоторых f, g и A, оно также должно выполняться для тех же f и g 'и A', заданных как

$g\; \prime \; (y)\; знак\; равно\; g\; (B\; y)\; \{\backslash \; displaystyle\; g\; \text{'}\backslash \; left\; (\backslash \; mathbf\; \{y\}\; \backslash \; right)\; =\; g\; \backslash \; left\; (\backslash \; mathbf\; \{By\}\; \backslash \; right)\}$

$A\; \prime \; =\; B\; -\; 1\; A\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{A\; \text{'}\}\; =\; \backslash \; mathbf\; \{B\}\; ^\; \{-\; 1\}\; \backslash \; mathbf\; \{A\}\}$

, где B - невырожденная матрица размера M × M, поскольку

$е\; (Икс)\; знак\; равно\; г\; \text{'}(А\text{'}\; Икс)\; =\; г\; (ВА\; \text{'}х)\; =\; г\; (А\; Икс)\; \{\backslash \; Displaystyle\; f\; \backslash \; влево\; (\backslash \; mathbf\; \{x\}\; \backslash \; вправо)\; =\; г\text{'}\; \backslash \; влево\; (\backslash \; mathbf\; \{A\text{'}x\}\; \backslash \; right)\; =\; g\; \backslash \; left\; (\backslash \; mathbf\; \{BA\text{'}x\}\; \backslash \; right)\; =\; g\; \backslash \; left\; (\backslash \; mathbf\; \{Ax\}\; \backslash \; right)\}$

Функция N переменных, имеющая внутреннюю размерность M < N has a characteristic преобразование Фурье. Интуитивно понятно, поскольку этот тип функции постоянен в одном или нескольких измерениях, его преобразование Фурье должно выглядеть как импульс (преобразование Фурье константы) в том же измерении в частотной области .

Простой пример

Пусть f - функция с двумя переменными, то есть i1D. Это означает, что существует нормализованный вектор $n\; \in \; R\; 2\; \{\backslash \; textstyle\; \backslash \; mathbf\; \{n\}\; \backslash \; in\; \backslash \; mathbb\; \{R\}\; ^\; \{2\}\}$и функция с одной переменной g такие, что

$е\; (Икс)\; =\; г\; (N\; T\; Икс)\; \{\backslash \; Displaystyle\; F\; (\backslash \; mathbf\; \{x\})\; =\; г\; (\backslash \; mathbf\; \{n\}\; ^\; \{\backslash \; OperatorName\; \{T\}\}\; \backslash \; mathbf\; \{x\})\}$

для всех $x\; \in \; R\; 2\; \{\backslash \; textstyle\; \backslash \; mathbf\; \{x\}\; \backslash \; in\; \backslash \; mathbb\; \{R\}\; ^\; \{2\}\}$. Если F - преобразование Фурье f (обе функции с двумя переменными), должно быть так, что

$F\; (u)\; =\; G\; (n\; T\; u)\; \cdot \; \delta \; (m\; T\; u)\; \{\backslash \; displaystyle\; F\; \backslash \; left\; (\; \backslash \; mathbf\; \{u\}\; \backslash \; right)\; =\; G\; \backslash \; left\; (\backslash \; mathbf\; \{n\}\; ^\; \{\backslash \; mathrm\; \{T\}\}\; \backslash \; mathbf\; \{u\}\; \backslash \; right)\; \backslash \; cdot\; \backslash \; delta\; \backslash \; left\; (\backslash \; mathbf\; \{m\}\; ^\; \{\backslash \; mathrm\; \{T\}\}\; \backslash \; mathbf\; \{u\}\; \backslash \; right)\}$

Здесь G - преобразование Фурье функции g (обе функции с одной переменной), δ - импульсная функция Дирака и m - нормализованный вектор в $R\; 2\; \{\backslash \; textstyle\; \backslash \; mathbb\; \{R\}\; ^\; \{2\}\}$, перпендикулярный n . Это означает, что F исчезает везде, кроме линии, проходящей через начало частотной области и параллельной m . Вдоль этой линии F изменяется в соответствии с G.

Общий случай

Пусть f - функция N-переменных, которая имеет внутреннюю размерность M, то есть существует функция M-переменной g и Матрица M × N A такая, что

$f\; (x)\; =\; g\; (A\; x)\; \forall \; x.\; \{\backslash \; textstyle\; f\; (\backslash \; mathbf\; \{x\})\; =\; g\; (\backslash \; mathbf\; \{Ax\})\; \backslash \; quad\; \backslash \; forall\; \backslash \; mathbf\; \{x\}.\}$

Его преобразование Фурье F может быть описано следующим образом:

• F исчезает всюду, кроме подпространства размерности M
• Подпространство M натянуто на строки матрицы A
• . В подпространстве F изменяется согласно G преобразованию Фурье g

Тип внутреннего измерения, описанный выше, предполагает, что линейное преобразование применяется к координатам N-переменной функции f для получения M переменных, которые необходимы для представления каждого значения f. Это означает, что f постоянна вдоль линий, плоскостей или гиперплоскостей, в зависимости от N и M.

В общем случае f имеет внутреннюю размерность M, если существует M функций a 1, a 2,..., a M и функция M-переменной g такая, что

• $f\; (x)\; =\; g\; (a\; 1\; (x),\; a\; 2\; (x),\dots ,\; A\; M\; (x))\; \{\backslash \; textstyle\; f\; (\backslash \; mathbf\; \{x\})\; =\; g\; \backslash \; left\; (a\_\; \{1\}\; (\backslash \; mathbf\; \{x\}),\; a\_\; \{2\}\; (\backslash \; mathbf\; \{x\}),\; \backslash \; dots,\; a\_\; \{M\}\; (\backslash \; mathbf\; \{x\})\; \backslash \; right)\}$для всех x
• M - наименьшее количество функций, которое допускает вышеуказанное преобразование

Простым примером является преобразование Функция с двумя переменными f в полярных координатах:

$f\; (y\; 1\; +\; y\; 2\; 2,\; y\; 1\; -\; y\; 2\; 2)\; =\; g\; (y\; 1)\; \{\backslash \; displaystyle\; f\; \backslash \; left\; (\{\backslash \; frac\; \{y\_\; \{1\}\; +\; y\_\; \{2\}\}\; \{2\}\},\; \{\backslash \; frac\; \{y\_\; \{1\}\; -y\_\; \{2\}\}\; \{2\}\}\; \backslash \; right)\; =\; g\; \backslash \; left\; (y\_\; \{1\}\; \backslash \; right)\}$

• $f\; (x\; 1,\; Икс\; 2)\; знак\; равно\; г\; (Икс\; 1\; 2\; +\; Икс\; 2\; 2)\; \{\backslash \; Displaystyle\; F\; (x\_\; \{1\},\; x\_\; \{2\})\; =\; g\; \backslash \; left\; (\{\backslash \; sqrt\; \{x\_\; \{1\}\; ^\; \{2\}\; +\; x\_\; \{2\}\; ^\; \{2\}\}\}\; \backslash \; right)\}$, f равно i1D и постоянно вдоль любой окружности с центром в начале координат
• $f\; (x\; 1,\; x\; 2)\; =\; g\; (arctan\; \; (\; х\; 2\; х\; 1))\; \{\backslash \; displayst\; yle\; f\; (x\_\; \{1\},\; x\_\; \{2\})\; =\; g\; \backslash \; left\; (\backslash \; arctan\; \backslash \; left\; (\{\backslash \; frac\; \{x\_\; \{2\}\}\; \{x\_\; \{1\}\}\}\; \backslash \; right)\; \backslash \; right)\}$, f равно i1D и постоянна вдоль всех лучей из начала координат

В общем случае простое описание либо точечных множеств, для которых f является постоянным, либо его преобразованием Фурье, обычно невозможно.

В 1950-х годах в социальных науках были разработаны так называемые методы «масштабирования» для исследования и обобщения многомерных наборов данных. После того, как в 1962 году Шепард представил неметрическое многомерное масштабирование, одной из основных областей исследований в области многомерного масштабирования (МДС) была оценка внутренней размерности. Эта тема также изучалась в теории информации, впервые предложенной Беннетом в 1965 году, который ввел термин «внутреннее измерение» и написал компьютерную программу для его оценки.

В течение 1970-х годов методы оценки внутренней размерности были построены, которые не зависели от уменьшения размерности, например, MDS: на основе локальных собственных значений., на основе распределений расстояний и на основе других геометрических свойств, зависящих от размеров

Оценка внутренней размерности множеств и вероятностных мер также была активно изучается с 1980 года в области динамических систем, где размерности (странных) аттракторов были предметом интереса. Для странных аттракторов нет предположения о многообразии, и измеряемая размерность является некоторой версией фрактальной размерности, которая также может быть нецелочисленной. Однако определения фрактальной размерности дают многомерное измерение многообразий.

В 2000-х годах «проклятие размерности» было использовано для оценки внутренней размерности.

Случай сигнала с двумя переменными, который является i1D, часто встречается в компьютерное зрение и обработка изображений и захватывает идею локальных областей изображения, которые содержат линии или края. Анализ таких регионов имеет долгую историю, но только после того, как началось более формальное и теоретическое рассмотрение таких операций, появилась концепция внутреннего измерения, хотя название менялось.

Например, концепция, которая здесь упоминается как окрестность изображения внутренней размерности 1 или i1D-окрестность, названа Кнутссоном (1982) одномерной, линейной симметричной Бигюн и Гранлунд (1987) и простой окрестностью в Granlund Knutsson (1995).

• Измерение
• Фрактальное измерение
• Измерение Хаусдорфа
• Топологическое измерение

• Майкл Фельсберг; Синан Калкан; Норберт Крюгер (2009). «Непрерывная характеристика размерности структур изображения». Вычисления изображений и зрения. 27 (6): 628–636. doi :10.1016/j.imavis.2008.06.018.