Модель персептрона Розенблатта

В середине 50-х годов была предложена модель нейрона (см Рис. 1.7) — живой клетки которая, различая по заряду цитоплазмы, может находиться в двух состояниях: покоя и возбуждения.

Аксоны одних клеток соединены с дендритами других. Текущее состояние нейрона зависит от состояния аксонов соединенных с ним других нейронов и чувствительности дендритов.

Основываясь на этой модели, нейрона в 1957 году Розенблатт (F.Rosenblatt) предложил модель персептрона (PERCEPTRON), одну из первых искусственных сетей, способных к перцепции (восприятию) и формированию реакции на воспринятый стимул.

Это физическое устройство, состоящее из трех слоев:

• • рецепторный слой (20×20 фотоэлементов);
• • передающий слой (512 нейронов, каждый имеет по 10 входов, случайным образом соединенных с элементами рецепторного слоя), причем для каждого j = 1,2,…, 512 имеет место

Рис. 1.8: Персеитрон Розенблатта

где Xji — входы j-го элемента рецепторного слоя;

• решающий элемент, принимающий значение.

где а — весовой вектор решающего элемента, с — пороговое число.

Считается, что схема соединения нейронов фиксирована и не может изменяться в процессе обучения, а дендриты нейронов могут менять чувствительность. То есть в процессе обучения персептрона можно менять весовой вектор а и порог с.

В данной схеме образ подается на рецепторный слой. Поскольку каждый элемент передающего слоя жестко связан с элементами рецепторного слоя, то на входе решающего элемента образ кодируется вектором длины, равной количеству элементов в передающем слое, в данном случае 512. Этот вектор у = (t/i,…, t/512) называется вектором признаков.

Считается, что образы, подаваемые на персептрон, принадлежат одному из двух классов. Хотелось бы так настроить весовые коэффициенты а = (а_ь…, 0512) решающего элемента, чтобы на образах из первого класса решающий элемент выдавал О, а на образах из второго класса — 1. Настройка весовых коэффициентов осуществляется с помощью обучающего алгоритма, на вход которого поступает обучающая выборка, т. е. последовательность образов, для которых известно, к какому классу они принадлежат. В зависимости от правильности отнесения очередного образа из обучающей выборки к своему классу обучающий алгоритм может менять весовые коэффициенты.

Возникает вопрос: какие классы образов могут распознаваться персептроном? Ответ на этот вопрос тривиален. Из самого вида решающего правила видно, что распознаваться могут только классы, которые в признаковом пространстве могут быть отделены друг от друга гиперплоскостью. Тогда встает вопрос: если классы образов отделимы гиперплоскостью в признаковом пространстве, то существует ли алгоритм обучения персептрона? Ответ на этот вопрос дает теорема американского ученого Новикова.