Коэффициент корреляции

В статистике коэффициент корреляции является мерой взаимосвязи между статистической дисперсией внутри отдельных категорий и дисперсией по всей генеральной совокупности или выборке. Мера определяется как отношение двух стандартных отклонений, представляющих эти типы вариации. Контекст здесь такой же, как у коэффициента внутриклассовой корреляции, значение которого является квадратом коэффициента корреляции.

• 1 Определение
• 2 Диапазон
• 3 Пример
• 4 Пирсон против Фишера
• 5 Ссылки

Предположим, каждое наблюдение - y xi, где x указывает категорию, к которой относится наблюдение, а i - метка конкретного наблюдения. Пусть n x будет количеством наблюдений в категории x, а

$y\; ¯\; x\; =\; \sum \; iyxinx\; \{\backslash \; displaystyle\; \{\backslash \; overline\; \{y\}\}\; \_\; \{x\}\; =\; \{\backslash \; frac\; \{\backslash \; sum\; \_\; \{\; i\}\; y\_\; \{xi\}\}\; \{n\_\; \{x\}\}\}\}$и $y\; ¯\; =\; \sum \; xnxy\; ¯\; x\; \sum \; xnx,\; \{\backslash \; displaystyle\; \{\backslash \; overline\; \{y\}\}\; =\; \{\backslash \; frac\; \{\; \backslash \; sum\; \_\; \{x\}\; n\_\; \{x\}\; \{\backslash \; overline\; \{y\}\}\; \_\; \{x\}\}\; \{\backslash \; sum\; \_\; \{x\}\; n\_\; \{x\}\}\},\}$

где $y\; ¯\; x\; \{\backslash \; displaystyle\; \{\backslash \; overline\; \{y\}\}\; \_\; \{x\}\}$- среднее значение категории x, а $y\; ¯\; \{\backslash \; displaystyle\; \{\backslash \; overline\; \{y\}\}\}$- это среднее для всего населения. Коэффициент корреляции η (eta ) определяется как удовлетворение

$\eta \; 2\; =\; \sum \; xnx\; (y\; ¯\; x\; -\; y\; ¯)\; 2\; \sum \; x,\; i\; (yxi\; -\; y\; ¯)\; 2\; \{\backslash \; displaystyle\; \backslash \; eta\; ^\; \{2\}\; =\; \{\backslash \; frac\; \{\backslash \; sum\; \_\; \{x\}\; n\_\; \{x\}\; (\{\backslash \; overline\; \{y\}\}\; \_\; \{x\}\; -\; \{\backslash \; overline\; \{y\}\})\; ^\; \{2\}\}\; \{\backslash \; sum\; \_\; \{x,\; i\}\; (y\_\; \{xi\}\; -\; \{\backslash \; overline\; \{y\}\})\; ^\; \{2\}\}\}\}$

что может быть записано как

$\eta \; 2\; =\; \sigma \; y\; ¯\; 2\; \sigma \; y\; 2,\; где\; \sigma \; y\; ¯\; 2\; знак\; равно\; \sum \; xnx\; (y\; ¯\; x\; -\; y\; ¯)\; 2\; \sum \; xnx\; и\; \sigma \; y\; 2\; =\; \sum \; x,\; i\; (yxi\; -\; y\; ¯)\; 2\; n,\; \{\backslash \; displaystyle\; \backslash \; eta\; ^\; \{2\}\; =\; \{\backslash \; frac\; \{\{\; \backslash \; sigma\; \_\; \{\backslash \; overline\; \{y\}\}\}\; ^\; \{2\}\}\; \{\{\backslash \; sigma\; \_\; \{y\}\}\; ^\; \{2\}\}\},\; \{\backslash \; text\; \{where\}\}\; \{\backslash \; sigma\; \_\; \{\backslash \; overline\; \{y\}\}\; \}\; ^\; \{2\}\; =\; \{\backslash \; frac\; \{\backslash \; sum\; \_\; \{x\}\; n\_\; \{x\}\; (\{\backslash \; overline\; \{y\}\}\; \_\; \{x\}\; -\; \{\backslash \; overline\; \{y\}\})\; ^\; \{2\}\}\; \{\backslash \; sum\; \_\; \{x\}\; n\_\; \{x\}\}\}\; \{\backslash \; text\; \{and\}\}\; \{\backslash \; sigma\; \_\; \{y\}\}\; ^\; \{2\}\; =\; \{\backslash \; frac\; \{\backslash \; sum\; \_\; \{x,\; i\}\; (y\_\; \{xi\}\; -\; \{\backslash \; overline\; \{y\}\})\; ^\; \{2\}\}\; \{n\}\},\}$

т.е. взвешенная дисперсия категории означает, деленную на дисперсию всех выборок.

Если связь между значениями $x\; \{\backslash \; displaystyle\; x\}$и значениями $y\; ¯\; x\; \{\backslash \; displaystyle\; \{\backslash \; overline\; \{y\}\}\; \_\; \{x\}\; \}$является линейным (что, безусловно, верно, когда есть только две возможности для x), это даст тот же результат, что и квадрат коэффициента корреляции Пирсона ; в противном случае коэффициент корреляции будет больше по величине. Следовательно, его можно использовать для оценки нелинейных отношений.

Коэффициент корреляции $\eta \; \{\backslash \; displaystyle\; \backslash \; eta\}$принимает значения от 0 до 1. Предел $\eta \; =\; 0\; \{\backslash \; displaystyle\; \backslash \; eta\; =\; 0\}$представляет собой особый случай отсутствия разброса среди средних значений различных категорий, тогда как $\eta \; =\; 1\; \{\backslash \; displaystyle\; \backslash \; eta\; =\; 1\}$относится к отсутствию разброс в соответствующих категориях. $\eta \; \{\backslash \; displaystyle\; \backslash \; eta\}$не определено, когда все точки данных полной генеральной совокупности принимают одно и то же значение.

Предположим, существует распределение результатов тестов по трем темам (категориям):

• Алгебра: 45, 70, 29, 15 и 21 (5 баллов)
• Геометрия: 40, 20, 30 и 42 (4 балла)
• Статистика: 65, 95, 80, 70, 85 и 73 (6 баллов).

Тогда средние значения по предмету составляют 36, 33 и 78, с общим средним 52.

Суммы квадратов разностей от средних по предметам составляют 1952 для алгебры, 308 для геометрии и 600 для статистики, добавляя к 2860. Общая сумма квадратов разница от общего среднего составляет 9640. Разница в 6780 между ними также является взвешенной суммой квадратов разностей между средними значениями испытуемых и общим средним значением:

$5\; (36\; -\; 52)\; 2\; +\; 4\; (33\; -\; 52)\; 2\; +\; 6\; (78–52)\; 2\; =\; 6780.\; \{\backslash \; displaystyle\; 5\; (36-52)\; ^\; \{2\}\; +4\; (33-52)\; ^\; \{2\}\; +6\; (78-52)\; ^\; \{2\}\; =\; 6780.\}$

Это дает

$\eta \; 2\; =\; 6780\; 9640\; =\; 0,7033\dots \; \{\backslash \; displaystyle\; \backslash \; eta\; ^\; \{2\}\; =\; \{\backslash \; frac\; \{6780\}\; \{9640\}\}\; =\; 0,7033\; \backslash \; ldots\}$

, предполагая, что большинство общей дисперсии является результатом различий между темами, а не внутри тем. Извлечение квадратного корня дает

$\eta \; =\; 6780\; 9640\; =\; 0,8386\dots .\; \{\backslash \; displaystyle\; \backslash \; eta\; =\; \{\backslash \; sqrt\; \{\backslash \; frac\; \{6780\}\; \{9640\}\}\}\; =\; 0,8386\; \backslash \; ldots.\}$

Для $\eta \; =\; 1\; \{\backslash \; displaystyle\; \backslash \; eta\; =\; 1\}$общий разброс выборки объясняется исключительно разбросом по категориям, а вовсе не разбросом внутри отдельных категорий. Для быстрого понимания просто представьте, что все оценки по алгебре, геометрии и статистике одинаковы соответственно, например 5 умножить на 36, 4 умножить на 33, 6 умножить на 78.

Предел $\eta \; =\; 0\; \{\backslash \; displaystyle\; \backslash \; eta\; =\; 0\}$относится к случаю без разброса среди категорий, способствующих к общей дисперсии. Тривиальное требование для этой крайности состоит в том, чтобы все средние категории были одинаковыми.

Коэффициент корреляции был введен Карлом Пирсоном как часть дисперсионного анализа. Рональд Фишер прокомментировал:

В качестве описательной статистики полезность отношения корреляции чрезвычайно ограничена. Следует отметить, что количество степеней свободы в числителе $\eta \; 2\; \{\backslash \; displaystyle\; \backslash \; eta\; ^\; \{2\}\}$зависит от количества массивов

, на который Эгон Пирсон (сын Карла) ответил:

Опять же, давно устоявшийся метод, такой как использование коэффициента корреляции [§45 «Коэффициент корреляции» η], пропускается в нескольких словах без адекватного описания, что, возможно, вряд ли справедливо по отношению к студенту, которому не дается возможность судить о его объеме для себя.

1. ^Рональд Фишер (1926) Статистические методы исследования Рабочие, ISBN 0-05-002170-2 (отрывок)
2. ^Pearson ES (1926) «Обзор статистических методов для научных работников (Р. А. Фишер)», Science Progress, 20, 733-734. (excerpt)