Формальный нейрон (ФН)

ФН – очень упрощенное подобие настоящего: не учитывается импульсный характер сигналов, влияние нейрогормонов и химических процессов, порог активности, нелинейности считываются неизменными, связи в процессе работы считают постоянными.

Существует степень приближения к оригиналу, наиболее распространены простейшие модели. Идея ФН предложена в 1943 г. У. Мак-Каллогом и У. Питтсом. На вход ФН поступает множество сигналов х_i, которые умножаются на определенные веса w_i, результаты складываются и подвергаются функциональному преобразованию.

СМ. РИС. 3111

Веса могут быть бинарными, тернарными, целочисленными, в настоящее время и произвольными, количество входов до 10⁶. Обычно от 100 до 1000.

Функция F должна быть нелинейная (активационная или сжимающая). В простейшем случае F = sign (NET - Θ).

Чаще входные и выходные сигналы нормируют. В качестве сжимающей функции часто используют логическую (S – образную).

F(x) = 1 / (1+e^-x)

СМ. РИС. 3112

Если требуется обеспечить выходную разницу знаков, используют гиперболический тангенс.

F(x) = th(x)

СМ. РИС. 3113

Сжимающая функция должна иметь крутизну в области нуля и выполнять функцию нормирования. Нелинейность является принципиально необходимой.