Сходимость алгоритма самообучения

При рассмотрении проблемы сходимости ограничимся одномерным случаем, когда имеется лишь один вход. Пусть [a, b] - область значений для входа (замкнутый интервал). Покажем, что алгоритм самообучения переводит вес x в середину интервала (рис. 3).

a x₂ x_k x₃ x₁ b.

Рис. 3. Область значений для входа.

Пусть x₁ — начальное значение веса одного активного нейрона слоя Кохонена. Это значение x₁ выбирается случайно. При выборе значения x₁ интервал [a, b] разбивается на 2 подинтервала [a, x₁] и [x₁, b]. Каждое изменение x определяется его расстоянием до a и до b:

dx/dt = (b-x)/2 + (a-x)/2 = ((a+b)/2 — x) (11).

Для изменения веса x в точке x₁ следует.

x₁ = ((a+b)/2 — x₁) (12).

Обозначим y_i = x_i — (a+b)/2, тогда соотношение (12) можно представить так:

x₁ = - y₁ (13).

Определим сейчас математическое ожидание для значения весового вектора x₂ на следующем шаге алгоритма самообучения:

x₂ = x₁ + x₁ = (a+b)/2 + y₁ — y₁ = (a+b)/2 + y₁(1-) (14).

Аналогично можно определить и x₃:

x₃ = (a+b)/2 + y₁(1-)² (15).

или в общем случае:

x_k = (a+b)/2 + y₁(1-)^k-1 (16).

При [0, 1] значение x_k сходится к (a + b)/2.

Расширим рассмотренный одномерный случай и предположим, что одномерный слой Кохонена (линейка) содержит не один нейрон (как ранее), а m активных нейронов с весами x_1, x_2, …, x_m. Предположим, что эти веса упорядочены:

0 < x₁ < x₂ < … < x_m < b.

и равномерно распределены в интервале [a, b]. В этом случае в процессе самообучения весовые векторы (коэффициенты) сходятся к значениям (рис. 4):

x_i = a + (2i — 1) (b — q)/2m, i = 1, 2, …, m (17).

Рис. 4. Распределение весовых коэффициентов.

Обратим внимание, что точки (17) для весов x_i, i = 1, 2, …, m определяют наиболее устойчивые позиции, ибо.

dx_i/dt = 0 (18).

В двумерном случае слой Кохонена содержит m x m активных нейронов, а областью определения для входов является декартово произведение [a, b]x[c, d], т. е. входной слой содержит 2 нейрона. В этом случае весовой вектор каждого нейрона слоя Кохонена имеет две составляющие — по числу входов. Каждый нейрон слоя Кохонена также характеризуется двумя координатами — по оси абсцисс и по оси ординат.

Подобно одномерному случаю можно показать, что координаты весовых векторов нейронов слоя Кохонена на оси абсцисс в процессе самообучения равномерно распределяются в интервале [a, b]:

a < w₁¹ < w₁² < …< w₁^m < b (19).

Аналогично для координат этих векторов по оси ординат:

c < w ₂¹ < w₂² < … < w₂^m < d (20).

В результате самообучения сети Кохонена весовые векторы нейронов слоя Кохонена равномерно распределяются во входном пространстве.