Сеть радиальных базисных функций
Материал из MachineLearning.
 (Новая: '''Радиальные функции.''' - Функции f(x), зависящие только от расстояния между x и фиксированной точ- кой пр...)  | 
				|||
| Строка 1: | Строка 1: | ||
| - | '''Радиальные функции  | + | '''Радиальные функции''' - это функции <tex>f(x)</tex>, зависящие только от расстояния между x и фиксированной точ-  | 
| - | кой пространства X <br />  | + | кой пространства X. <br />  <br />  | 
| - | Гауссиан <tex>p_j(x) = N(x; \mu _j ,\Sigma _j)</tex> с диагональной матрицей <tex>\Sigma _j</tex> можно записать в виде <br />  | + | Гауссиан <tex>p_j(x) = N(x; \mu _j ,\Sigma _j)</tex> с диагональной матрицей <tex>\Sigma _j</tex> можно записать в виде <br /> <br />  | 
| - | <tex>~p_j(x) = N_j exp(-1/2 \rho ^2 _j (x, \mu _j)</tex> <br />  | + | <tex>~p_j(x) = N_j exp(-1/2 \rho ^2 _j (x, \mu _j)</tex> <br /> <br />  | 
где <tex>N_j = (2\pi )^ {-n/2)(\sigma _{j1} ... \sigma _{jn})^{-1}</tex> - нормировочный множитель,<br />  | где <tex>N_j = (2\pi )^ {-n/2)(\sigma _{j1} ... \sigma _{jn})^{-1}</tex> - нормировочный множитель,<br />  | ||
| - | <tex>\rho _j(x,   | + | <tex>\rho _j(x, x')</tex> - взвешенная евклидова метрика в n-мерном пространстве X:<br />  | 
| - | \rho ^2 (x,   | + | <tex>~\rho ^2 (x, x') = \Sigma ^n _{d = 1} \sigma ^{-2} _{jd} |\xi _d - \xi _d '| ^2</tex>, <br />  | 
| - | + | <tex> x = (\xi _1, . . . ,\xi _n), x' = (\xi _1 ', . . . , \xi _n')</tex>. <br /> <br />  | |
| - | d=1  | + | Чем меньше расстояние <tex>\rho _j(x, \mu _j)</tex>, тем выше значение плотности в точке x. По-  | 
| - | + | этому плотность <tex>p _j(x)</tex> можно рассматривать как функцию близости вектора x к фик-  | |
| - | jd |  | + | сированному центру <tex>\mu _j</tex> .  | 
| - | Чем меньше расстояние   | + | |
| - | этому плотность   | + | |
| - | сированному центру   | + | |
| - | + | ||
| - | + | ||
== Сеть радиальных базисных функций ==  | == Сеть радиальных базисных функций ==  | ||
Версия 19:26, 5 января 2010
Радиальные функции - это функции , зависящие только от расстояния между x и фиксированной точ-
кой пространства X. 
  
Гауссиан  с диагональной матрицей 
 можно записать в виде 
 
 
 
где  - нормировочный множитель,
 - взвешенная евклидова метрика в n-мерном пространстве X:
, 
. 
 
Чем меньше расстояние , тем выше значение плотности в точке x. По-
этому плотность 
 можно рассматривать как функцию близости вектора x к фик-
сированному центру 
 .
Сеть радиальных базисных функций
Обучение RBF-сети
Обучение сводится к восстановлению плотности каждого из классов
 с помощью EM-алгоритма. Результатом обучения являются центры 
 и дис-
персии 
 компонент 
. Интересно отметить, что, оценивая дисперсии,
мы фактически подбираем метрики 
 , с помощью которых будут вычисляться рас-стояния до центров 
 . При использовании Алгоритма 1.4 для каждого класса определяется оптимальное число компонент смеси.

