Войти
В задаче статистической классификации с двумя классами граница решения или поверхность принятия решения - это гиперповерхность, которая разделяет лежащее в основе векторное пространство на два набора, по одному для каждого класса. Классификатор классифицирует все точки на одной стороне границы принятия решения как принадлежащие одному классу, а все точки на другой стороне как принадлежащие другому классу.
Граница решения - это область проблемного пространства, в которой метка вывода классификатора неоднозначна.
Если поверхность принятия решения является гиперплоскостью, тогда задача классификации является линейной, и классы линейно разделяются.
Границы решения не всегда четко очерчены. То есть переход от одного класса в пространстве функций к другому не является прерывистым, а постепенным. Этот эффект распространен в алгоритмах классификации на основе нечеткой логики, где принадлежность к тому или иному классу неоднозначна.
В случае обратного распространения искусственных нейронных сетей или перцептронов, Тип границы решения, которую сеть может изучить, определяется количеством скрытых слоев, которые имеет сеть. Если у него нет скрытых слоев, он может изучать только линейные задачи. Если у него есть один скрытый слой, он может изучить любую непрерывную функцию на компактных подмножествах из R, как показано теоремой универсального приближения, таким образом, он может имеют произвольную границу решения.
В частности, машины поддержки векторов находят гиперплоскость, которая разделяет пространство функций на два класса с максимальным запасом. Если проблема изначально не является линейно разделяемой, можно использовать трюк ядра , чтобы превратить ее в линейно разделяемую задачу, увеличив количество измерений. Таким образом, общая гиперповерхность в пространстве с малой размерностью превращается в гиперплоскость в пространстве с гораздо большими размерами.
Нейронные сети пытаются узнать границу решения, которая минимизирует эмпирическую ошибку, в то время как машины опорных векторов пытаются узнать границу решения, которая максимизирует эмпирический запас между границей решения и точками данных.
.
