Коэффициент корреляции Кенделла

Материал из MachineLearning.

(Различия между версиями)

Перейти к: навигация, поиск

Версия 14:30, 4 января 2010

Содержание

1 Определение
2 Статистическая проверка наличия корреляции
3 Связь коэффициента корреляции Кенделла с коэффициентом корреляции Пирсона
4 Связь коэффициента корреляции Кенделла с коэффициентом корреляциии Спирмена
5 Литература
6 См. также
7 Ссылки

Корреляцию Кенделла также называют мерой взаимной неупорядоченности или рассогласования.

Определение

Заданы две выборки $x = (x_1,\ldots,x_n),\;\; y = (y_1,\ldots,y_n)$ .

Коэффициент корреляции Кенделла, равен

$\tau=1-\frac{4}{n(n-1)}\sum_{i=1}^{n-1}\sum_{j=i+1}^n\left[[x_i<x_j]\neq[y_i<y_j]\right]$ ,

где [логическое выражение]=1, если логическое выражение верно, иначе, 0, например, $[x_i<x_j]=\left\{ \begin{array}{l} 1, x_i>x_j;\\ 0, x_i \geq x_j.\\ \end{array} \right$

Коэффициент $\tau$ принимает значения от -1 до 1. Равенство $\tau=1$ указывает на строгую линейную корреляцию.

Статистическая проверка наличия корреляции

Гипотеза $H_0$ : Выборки $x$ и $y$ не коррелируют.

Статистика критерия:

$\frac{\tau}{\sqrt{D_{\tau}}},$

где $D_{\tau}=\frac{2(2n+5)}{9n(n-1)}$ .

При $n\geq 10$ статистику критерия можно приблизить нормальным распределением с параметрами (0,1):

$\frac{\tau}{\sqrt{D_{\tau}}}\sim N(0,1)$

Критерий (при уровне значимости $\alpha$ ):

против альтернативы $H_1$ : наличие корреляции

если $|\tau| > \tau_{\alpha}=u_{\alpha}\cdot\sqrt{D_{\tau_{xy}}}$ , где $u_{\alpha}$ — $\alpha$ -квантиль стандартного нормального распределения.

Связь коэффициента корреляции Кенделла с коэффициентом корреляции Пирсона

В случае выборок из нормального распределения коэффициент корреляции Кенделла $\tau$ может быть использован для оценки коэффициента корреляции Пирсона $r$ по формуле

$r=sin{\frac{\pi\tau}{2}}$

Связь коэффициента корреляции Кенделла с коэффициентом корреляциии Спирмена

Выборкам $x$ и $y$ соответствуют последовательности рангов:

$R_x=(R_{x_1},\ldots,R_{x_n})$ , где $R_{x_i}$ — ранг $i$ -го объекта в вариационном ряду выборки $x$ ;

$R_y=(R_{y_1},\ldots,R_{y_n})$ , где $R_{y_i}$ — ранг $i$ -го объекта в вариационном ряду выборки $y$ .

Проведем операцию упорядочевания рангов.

Расположим ряд значений $x_i$ в порядке возрастания величины: $x_1\leq x_2\leq\cdots\leq x_n$ . Тогда последовательность рангов упорядоченной выборки $x$ будет представлять собой последовательность натуральных чисел $1,2,\cdots,n$ . Значения $y$ , соответствующие значениям $x$ , образуют в этом случае некоторую последовательность рангов $T=(T_1,\cdots,T_n)$ .

$(R_{x_i},R_{y_i})\rightarrow^{sort} (i,T_i),\; i=1,\cdots,n$ ( $sort$ — операция упорядочевания рангов).

Коэффициент корреляции Кенделла $\tau$ и коэффициент корреляции Спирмена $\rho$ выражаются через ранги $T_i,\; i=1,\cdots,n$ следующим образом:

$\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i>T_j]}$

$\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i>T_j]$

Коэффициент корреляции Спирмена учитывает насколько сильна неупорядоченность.

Утверждение. Если выборки $x$ и $y$ не коррелируют (выполняется гипотеза $H_0$ ), то коэффициент корреляции между величинами $\rho$ и $\tau$ можно вычислить по формуле:

$corr(\rho,\tau)=\frac{2n+2}{\sqrt{4n^2+10n}}$

Литература

Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006. — 816 с.
Лагутин М. Б. Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003

См. также

Ссылки

Коэффициент корреляции(Википедия)
Корреляционный анализ (Википедия)

Данная статья является непроверенным учебным заданием.

Студент: Участник:Василий Ломакин

Преподаватель: Участник:Vokov

Срок: 31 декабря 2009

До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}.

См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе.

Источник — «http://www.recognition.su/wiki/index.php?title=%D0%9A%D0%BE%D1%8D%D1%84%D1%84%D0%B8%D1%86%D0%B8%D0%B5%D0%BD%D1%82_%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BB%D1%8F%D1%86%D0%B8%D0%B8_%D0%9A%D0%B5%D0%BD%D0%B4%D0%B5%D0%BB%D0%BB%D0%B0»

Категории: Прикладная статистика | Энциклопедия анализа данных | Корреляционный анализ | Непроверенные учебные задания

@@ Строка 1: / Строка 1: @@
 {{TOCright}}
+Корреляцию Кенделла также называют мерой взаимной неупорядоченности или рассогласования.
-'''Коэффициент корреляции Кенделла''' (Kendall tau rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Кенделла является [[Ранговая корреляция|ранговой]], то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения.
+==Определение==
-==Описание==
+Заданы две выборки <tex>x = (x_1,\ldots,x_n),\;\; y = (y_1,\ldots,y_n)</tex>.
-Заданы две выборки <tex>x = (x_1,\ldots,x_n),\; y = (y_1,\ldots,y_n)</tex>.
+'''Коэффициент корреляции Кенделла''', равен
+:: <tex>\tau=1-\frac{4}{n(n-1)}\sum_{i=1}^{n-1}\sum_{j=i+1}^n\left[[x_i<x_j]\neq[y_i<y_j]\right]</tex>,
-'''Вычисление корреляции Кенделла:'''
+где [логическое выражение]=1, если логическое выражение верно, иначе, 0, например,
+<tex>[x_i<x_j]=\left\{ \begin{array}{l} 1, x_i>x_j;\\     0, x_i \geq x_j.\\ \end{array} \right</tex>
-Коэффициент корреляции Кенделла вычисляется по формуле:
+Коэффициент <tex>\tau</tex> принимает значения от -1 до 1. Равенство <tex>\tau=1</tex> указывает на строгую линейную корреляцию.
-::<tex>\tau=1-\frac{4}{n(n-1)}R</tex>, где <tex>R = \sum_{i=1}^{n-1}\sum_{j=i+1}^n\left[ \left[ x_i\ <\ x_j \right] \neq \left[ y_i\ <\ y_j \right] \right]</tex> — количество инверсий, образованных величинами <tex>y_i</tex>, расположенными в порядке возрастания соответствующих <tex>x_i</tex>.
-Коэффициент <tex>\tau</tex> принимает значения из отрезка <tex>[-1;\;1]</tex>. Равенство <tex>\tau=1</tex> указывает на строгую прямую линейную зависимость, <tex>\tau=-1</tex> на обратную.
-'''Обоснование критерия Кенделла:'''
-Будем говорить, что пары <tex>(x_i,\; y_i)</tex> и <tex>(x_j,\; y_j)</tex> согласованы, если <tex>x_i\ <\ y_j</tex> и <tex>x_i\ <\ y_j</tex> или <tex>x_i\ >\ y_j</tex> и <tex>x_i\ >\ y_j</tex>, то есть <tex>sign(x_j-x_i)sign(y_j-y_i)=1</tex>. Пусть <tex>S</tex> - число согласованных пар, <tex>R</tex> - число несогласованных пар. Тогда, в предположении, что среди <tex>x_i</tex> и среди <tex>y_i</tex> нет совпадений, превышение согласованности над несогласованностью есть:
-::<tex>T = S - R = \sum_{i < j}sign(x_j-x_i)sign(y_j-y_i)</tex>.
-Для измерения степени согласия Кенделл предложил следующий коэффициент:
-::<tex>\tau = \frac{T}{max{T}} = \frac{2T}{n(n-1)} = \frac{2(S-R)}{n(n-1)} = 1 - \frac{4}{n(n-1)}R</tex>.
-Таким образом, коэффициент <tex>\tau</tex> (линейно связанный с <tex>R</tex>) можно считать ''мерой неупорядоченности'' второй последовательности относительно первой.<ref>Лагутин М. Б. Наглядная математическая статистика. — 345 с.</ref>
 ==Статистическая проверка наличия корреляции==
-[[Изображение:Standard_Normal_Density_-_Double-sided_Critical_Area.png|thumb|Критическая область критерия Кенделла.]]
+'''Гипотеза <tex>H_0</tex>:''' Выборки <tex>x</tex> и <tex>y</tex> не коррелируют.
-'''[[Нулевая гипотеза]]''' <tex>H_0</tex>: Выборки <tex>x</tex> и <tex>y</tex> не коррелируют.
+'''Статистика критерия:'''
+::<tex>\frac{\tau}{\sqrt{D_{\tau}}},</tex>
+где <tex>D_{\tau}=\frac{2(2n+5)}{9n(n-1)}</tex>.
-'''Статистика критерия:''' <tex>\tau.</tex>
+При <tex>n\geq 10</tex> статистику критерия можно приблизить нормальным распределением с параметрами (0,1):
+::<tex>\frac{\tau}{\sqrt{D_{\tau}}}\sim N(0,1)</tex>
-'''Асимптотический критерий''' (при [[уровень значимости|уровне значимости]] <tex>\alpha</tex>):
+'''Критерий''' (при [[уровень значимости|уровне значимости]] <tex>\alpha</tex>):
+*против альтернативы <tex>H_1</tex>: наличие корреляции
+:: если <tex>|\tau| > \tau_{\alpha}=u_{\alpha}\cdot\sqrt{D_{\tau_{xy}}} </tex>, где <tex>u_{\alpha}</tex> — <tex>\alpha</tex>-квантиль стандартного нормального распределения.
-Рассмотрим центрированную и нормированную статистику Кенделла:
+==Связь коэффициента корреляции Кенделла с [[коэффициент корреляции Пирсона|коэффициентом корреляции Пирсона]]==
-::<tex>\tilde{\tau} = \frac{\tau}{\sqrt{D_{\tau}}},</tex>, где <tex>D_{\tau}=\frac{2(2n+5)}{9n(n-1)}</tex>.
+В случае выборок из нормального распределения коэффициент корреляции Кенделла <tex>\tau</tex> может быть использован для оценки [[коэффициент корреляции Пирсона|коэффициента корреляции Пирсона]] <tex>r</tex> по формуле
+:: <tex>r=sin{\frac{\pi\tau}{2}}</tex>
-Нулевая гипотеза отвергается (против альтернативы <tex>H_1</tex> - наличие корреляции), если:
+==Связь коэффициента корреляции Кенделла с [[Коэффициент корреляции Спирмена|коэффициентом корреляциии Спирмена]]==
-:: <tex> \left|\tilde{\tau}\right| \ge \Phi_{1-\alpha/2} </tex>, где <tex>\Phi_{1-\alpha}</tex> есть <tex>(1-\alpha)</tex>-[[квантиль]] стандартного нормального распределения.
-Аппроксимация удовлетворительно работает, начиная с <tex>n\geq 10</tex>.<ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref>
-==Примеры==
-Ниже приведены примеры вычисления корреляций Кенделла и Спирмена. Значения коэффициентов указаны над каждым изображением в виде <tex>(\tau,\ \rho)</tex>, где <tex>\tau</tex> - корреляция Кенделла, <tex>\rho</tex> - Спирмена. Заметно, что в большинстве случаев <tex>\left| \rho \right|\ >\ \left| \tau \right|</tex>. Объяснение этого эффекта приводится [[Коэффициент_корреляции_Кенделла#Связь коэффициентов корреляции Кенделла и Спирмена|ниже]].
-===Направление линейной зависимости===
-[[Изображение:Fig1.1-c2.png|left|frame|Корреляции Кенделла и Спирмена. Нормальные сгущения.]]<br clear="both" />
-Коэффициенты корреляции реагируют на изменение направления и зашумлённость линейной зависимости между переменными.
-===Наклон линейного тренда===
-[[Изображение:Kendall Spearman 2.png|left|frame|Корреляции Кенделла и Спирмена. Вращающаяся полоса.]]<br clear="both" />
-Коэффициенты корреляции реагируют на изменение направления, но не реагируют на изменение наклона тренда.  На первом, четвёртом и седьмом рисунках дисперсия одной из переменных близка к нулю, поэтому не удаётся зафиксировать факт линейной зависимости.
-===Нелинейная зависимость===
-[[Изображение:Kendall Spearman 3.png|left|frame|Корреляции Кенделла и Спирмена. Нелинейная зависимость.]]<br clear="both" />
-Корреляции Кенделла и Спирмена не отражают меры нелинейной зависимости между переменными.
-===Линейная и нелинейная зависимости===
-На каждой из приведённых ниже иллюстраций осуществляется переход от линейной зависимости к нелинейной. Коэффициенты корреляции Кенделла и Спирмена реагируют на это одинаковым образом.
-[[Изображение:Kendall Spearman 1.2.png|left|frame|Корреляции Кенделла и Спирмена. Перекрещенные полосы.]]<br clear="both" />
-[[Изображение:Kendall Spearman 1.3.png|left|frame|Корреляции Кенделла и Спирмена. Расширяющаяся полоса.]]<br clear="both" />
-[[Изображение:Kendall Spearman 1.4.png|left|frame|Корреляции Кенделла и Спирмена. Синусоида с переменной амплитудой.]]<br clear="both" />
-По мере смены линейной зависимости нелинейной коэффициенты корреляции падают.
-==Связь коэффициентов корреляции Кенделла и [[коэффициент корреляции Пирсона|Пирсона]]==
-В случае выборок из нормального распределения коэффициент корреляции Кенделла <tex>\tau</tex> может быть использован для оценки [[коэффициент корреляции Пирсона|коэффициента корреляции Пирсона]] <tex>r</tex> по формуле:
-:: <tex>r=sin{\frac{\pi\tau}{2}}</tex>.<ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref>
-==Связь коэффициентов корреляции Кенделла и [[Коэффициент корреляции Спирмена|Спирмена]]==
 Выборкам <tex>x</tex> и <tex>y</tex>  соответствуют последовательности рангов:
@@ Строка 89: / Строка 40: @@
 ::<tex>R_y=(R_{y_1},\ldots,R_{y_n})</tex>, где <tex>R_{y_i}</tex> — ранг <tex>i</tex>-го объекта в [[вариационный ряд|вариационном ряду]] выборки <tex>y</tex>.
-Проведем операцию упорядочивания рангов.
+Проведем операцию упорядочевания рангов.
-Расположим ряд значений <tex>x_i</tex> в порядке возрастания величины: <tex>x_1\leq x_2\leq\cdots\leq x_n</tex>. Тогда последовательность рангов упорядоченной выборки <tex>x</tex> будет представлять собой последовательность натуральных чисел <tex>1,2,\cdots,n</tex>. Значения <tex>y</tex>, соответствующие значениям <tex>x</tex>, образуют в этом случае некоторую последовательность рангов <tex>T=(T_1,\cdots,T_n)</tex>:
+Расположим ряд значений <tex>x_i</tex> в порядке возрастания величины: <tex>x_1\leq x_2\leq\cdots\leq x_n</tex>. Тогда последовательность рангов упорядоченной выборки <tex>x</tex> будет представлять собой последовательность натуральных чисел <tex>1,2,\cdots,n</tex>. Значения <tex>y</tex>, соответствующие значениям <tex>x</tex>, образуют в этом случае некоторую последовательность рангов <tex>T=(T_1,\cdots,T_n)</tex>.
-::<tex>(R_{x_i},\;R_{y_i})\rightarrow^{sort} (i,\;T_i),\; i=1,\cdots,n</tex>.
+::<tex>(R_{x_i},R_{y_i})\rightarrow^{sort} (i,T_i),\; i=1,\cdots,n</tex> (<tex>sort</tex> — операция упорядочевания рангов).
 Коэффициент корреляции Кенделла <tex>\tau</tex> и [[коэффициент корреляции Спирмена]] <tex>\rho</tex> выражаются через ранги <tex>T_i,\; i=1,\cdots,n</tex> следующим образом:
-::<tex>\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i\ >\ T_j]};</tex>
+::<tex>\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i>T_j]}</tex>
-::<tex>\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i\ >\ T_j];</tex>
+::<tex>\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i>T_j]</tex>
-Заметно, что в случае <tex>\rho</tex> инверсиям придаются дополнительные веса <tex>(j-i)</tex>, таким образом <tex>\rho</tex> сильнее реагирует на несогласие ранжировок, чем <tex>\tau</tex>. Этот эффект проявляется в приведённых выше примерах: в большинстве из них <tex>\left| \rho \right|\ >\ \left| \tau \right|</tex>.
+Коэффициент корреляции Спирмена учитывает насколько сильна неупорядоченность.
-'''Утверждение.'''<ref>Лагутин М. Б. Наглядная математическая статистика. — 345-346 с.</ref> Если  выборки <tex>x</tex> и <tex>y</tex> не коррелируют (выполняется гипотеза <tex>H_0</tex>), то величины <tex>\rho</tex> и <tex>\tau</tex> сильно закоррелированы. Коэффициент корреляции между ними можно вычислить по формуле:
+'''Утверждение.''' Если  выборки <tex>x</tex> и <tex>y</tex> не коррелируют (выполняется гипотеза <tex>H_0</tex>), то коэффициент корреляции между величинами <tex>\rho</tex> и <tex>\tau</tex> можно вычислить по формуле:
-::<tex>corr(\rho,\;\tau)=\frac{2n+2}{\sqrt{4n^2+10n}}</tex>.
+::<tex>corr(\rho,\tau)=\frac{2n+2}{\sqrt{4n^2+10n}}</tex>
-== История ==
+== Литература ==
-Критерий был введён в 1938 году известным британским статистиком Морисом Джорджем Кенделлом.
+# ''Кобзарь А. И.'' Прикладная математическая статистика. — М.:&nbsp;Физматлит, 2006. — 816&nbsp;с.
+# ''Лагутин М. Б.'' Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003
-== Примечания ==
+==См. также==
-<references/>
+*[[Коэффициент корреляции Пирсона]]
+*[[Ранговая корреляция]]
-== Литература ==
+*[[Коэффициент корреляции Спирмена]]
-# ''Кобзарь А. И.'' Прикладная математическая статистика. — М.:&nbsp;Физматлит, 2006. — 624-626&nbsp;с.
-# ''Лагутин М. Б.'' Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003. — 345-346&nbsp;с.
-# ''Лапач С. Н., Чубенко А. В., Бабич П. Н.'' Статистика в науке и бизнесе. — Киев: Морион, 2002. — 187-189 с.
 ==Ссылки==
-*[[Ранговая корреляция]]
+*[http://ru.wikipedia.org/wiki/Коэффициент_корреляции Коэффициент корреляции](Википедия)
-*[[Коэффициент корреляции Спирмена]] — другой способ расчёта ранговой корреляции.
+*[http://ru.wikipedia.org/wiki/Корреляционный_анализ Корреляционный анализ] (Википедия)
-*[[Коэффициент корреляции Пирсона]]
-*[http://ru.wikipedia.org/wiki/Коэффициент_корреляции Коэффициент корреляции] — статья в русскоязычной Википедии.
-*[http://en.wikipedia.org/wiki/Kendall_tau_rank_correlation_coefficient Kendall tau rank correlation coefficient] — статья в англоязычной Википедии.
 [[Категория:Прикладная статистика]]

Коэффициент корреляции Кенделла

Материал из MachineLearning.

Версия 14:30, 4 января 2010

Содержание

Определение

Статистическая проверка наличия корреляции

Связь коэффициента корреляции Кенделла с коэффициентом корреляции Пирсона

Связь коэффициента корреляции Кенделла с коэффициентом корреляциии Спирмена

Литература

См. также

Ссылки

Просмотры

Личные инструменты

Навигация

Поиск

Инструменты