Основные положения нейронных сетей

Основные положения нейронных сетей (Лекуция 1)

Вопросы:

1. Биологические основы функционирования нейрона
2. Структура и свойства искуственного нейрона
3. Типы функций активации нейронов
4. Классификация и архитектура сетей
5. Прикладные возможности НС
6. Понятие об информации, знаниях, базах данных и базах знаний. Представление знаний в структуре НС
7. Искуственный интеллект и нейронные сети

1)  Первое представление о детальном устройстве головного мозга появилось около ста лет назад. В конце 18 века испанский доктор Рамон Кайел экспериментально покащ\зал, что мозговая твкань состоит из однотипных узлов. С появлением микроскопа привело к детальному представлению биологического нейрона.

Нейрон – сокращённое название нервной клетки. Все нейроны имеют схожую структиуру.

Сома(cellbody)-центральная часть нейрона. От сома отходят отростки 2х типов. Дендриты-древовидные отростки, выполняют роль рецепторов, т.е. получают сигналы из внешней среды. Аксон-самый крупные отросток нейрона, он всегда один, передаёт сигнал активности от сома к другим нейронам. Синапс – место соединения аксона с дендритами. Очень маленькое 200нанометров(10в-9). Общая структура головного мозга очень сложная. Сигналы между нейронами передаются химическ4им и электрическим путём. Нейроны срабатывают не синхронно, аналогично цифровым устройствам, с разной частотой. От 1-100 Ггц. Скоорсть распространения сигнала разная. 0,5-2 секунд скорость распространения.

Хебб (америуканский нейрофизиолог) предложил постулат, согласно которому если нейрон срабатывает чаще остальных, то сила синеоптическеой связи возрастает. Общая площадь поверхности головного мозга 2000 см квадратных. Число нейронов 10 в 11 степени до 10 в 12. Каждый нейрон связана с остальными имеет 1000 до 10000 связей.

История развития – перекатать слайды

2) Искуственные нейронные сети (ИНС) – вычислительные структуры, колтороые моделируют простые биологиские процессы, ассоциируемые с процессами человеческого могза.

ИНС – распределённые и параллельные системы, способные к обучению, путём анализа положительгных и отрицательных воздействий.

Элементарным преобразователем служит искуственный нейрон в таких сетях.

Простая математическая модель нейрона описывается двумя формулами:

Формула1

Формула2

X –вектор входных данных

Y - вектор выходгных данных или результат работы сети

W – синоптический вес (весовой коэффициент)

S – сумматор, результат суммирования входом на соответствующие веса

W0 – смещение(bias) подаётся на сеть для усиления сигнала

F – нелинейные преобразователь, который реализует функцию от одного аргумента(от сумматора), называется функцией активации или передаточной функцией

В общем случае весовый коэффициенты W могут принимать действительные значения. А в практических задачах, при обучении сетей некоторые фиксированные значения. Веса большие нуля(положительные) называют возбуждающими. А отрицательные называют тормозящими.

3) Типы функций активации нейронов (переписать)

Простыми функциями активации являются: пороговая, модульная, сигнатурная(знаковая). Они использовались в простых моделях сетей. Самая распрастранённая – логистическая или сигмоидальная(логистическая).

При уменшении коэффициента а сигмоид становится пологим. При а = 0 сигмоид выраждается в горизонтальную линию, а при увеличении коэффициента он приближается к функции единичног скачка. К достоинствам функции относят: простую выражение производной, НАЙТИ ПРОИЗВОДНУЮ ФУНКЦИИ СИГМОИДНОЙ ДЗ ДО ПЯТНИЦЫ Оо, функция, дифференцируемая по всей оси абсцисс, функция усиливает слабые сигналы лучше, чем большие и предотвращает насыщение сети от больших сигналов.

4) Классификация и архитектура  сетей

В архитектуре любой сети можно выделить нейроны трёх типов:

- входные  нейроны, на которые подаётся  вектор, кодирующее входное воздействие  или образ внешней среды. Во  входных нейронах не производится  вычислительных операций.

- выходные  нейроны служат для отображения  результата

- промежуточные  нейроны – основа нейронной  сети, здесь производятся вычисления

В полносвязных нейронных сетях нейрон передаёт входной сигнал всем остальным и самому себе. Выходными сигналы могут быть все или некоторые нейроны. В многослойных нейроны разделены на слои. Число нейронов в слое может быть любым  и не зависит от числа нейронов других слоях. Внешние сигналы подаются на входы. Этот слой нумеруют как нулевой. Нумерация производится слева на право в таких сетях один или несколько скрытых слоёв.

Многослойные сети:

- монолитные. Это частный случай с дополнительным  и условиями. Каждый слой, кроме  последнего разбивается на два  блока: возбуждающий блок, тормозящий  блок. Здесь необходима монотонная  зависимость.

- сети с  обратными связями. Когда информация  с последующего слоя предаётся  передаётся на предыдущий

- сети без  обратных связей. Нейроны входного  слоя получают сигналы, преобразуют  их и передают нейронам первого  скрытого слоя, далее следующему  скрытому. И так далее до выходного  слоя.