Информационные технологии

Оглавление

Введение 2

1. Обзор и анализ нейросетей 3

1.1 Свойства нейронных сетей 3

1.2 Области применения нейронных сетей 6

1.3 Классификация нейронных сетей 6

1.4 Структура и принципы работы нейронной сети 9

1.5 Обучение нейронной сети 12

2. Нейросетевые системы управления 15

Заключение. 17

Список литературы. 18

 

 

Введение

 

Нейросетевые системы управления относятся к классу нелинейных динамических систем. В составе таких сетей искусственная нейронная сеть может выполнять различные функции: диагностику технологического оборудования, управления подвижными объектами и технологическими процессами, прогнозирование ситуаций, оценку состояния и мониторинг технологических процессов и многое другое.

Нейронная сеть является совокупностью  элементов, соединенных некоторым  образом так, чтобы между ними обеспечивалось взаимодействие. Эти  элементы, называемые также нейронами  или узлами, представляют собой простые  процессоры, вычислительные возможности  которых обычно ограничиваются некоторым  правилом комбинирования входных сигналов и правилом активизации, позволяющим  вычислить выходной сигнал по совокупности входных сигналов. Выходной сигнал элемента может посылаться другим элементам  по взвешенным связям, с каждой из которых  связан весовой коэффициент или  вес. В зависимости от значения весового коэффициента передаваемый сигнал или  усиливается, или подавляется.

 

1. Обзор и  анализ нейросетей

 

Искусственные нейронные  сети получили широкое распространение  за последние 20 лет и позволили  решать сложные задачи обработки  данных, часто значительно превосходя точность других методов статистики и искусственного интеллекта, либо являясь единственно возможным  методом решения отдельных задач. Нейронные сети (НС) успешно применяются в самых различных областях – бизнесе, медицине, технике, геологии, физике. Такой впечатляющий успех определяется несколькими причинами: НС – исключительно мощный метод моделирования, позволяющий воспроизводить чрезвычайно сложные зависимости; они нелинейные по своей природе и кроме того, нейронные сети справляются с проблемой размерности, которая не позволяет моделировать линейные зависимости в случае большого числа переменных.

1.1 Свойства нейронных  сетей

 

Несомненно, что технические  средства, построенные на тех же принципах, что и биологические  нейронные сети, обладают рядом схожих свойств. К таким свойствам относятся:

массовый параллелизм,

распределенное представление  информации и вычисления,

способность к обучению и  способность к обобщению,

адаптивность,

свойство контекстуальной  обработки информации,

толерантность к ошибкам,

низкое энергопотребление.

Можно выделить основные идеи, лежащие в основе нейронных сетей  и нейромоделирования:

· Нейросеть воспроизводит структуру и свойства нервной системы живых организмов: нейронная сеть состоит из большого числа простых вычислительных элементов (нейронов) и обладает более сложным поведением по сравнению с возможностями каждого отдельного нейрона. Нейросеть получает на входе набор входных сигналов и выдает соответствующий им ответ (выходные сигналы нейросети), являющийся решением задачи.

· Искусственная нейросеть, как и естественная биологическая нейронная сеть, может обучаться решению задач: нейросеть содержит внутренние адаптивные параметры нейронов и своей структуры, и меняя их, может менять свое поведение.

· Место программирования занимает обучение, тренировка нейронной сети: для решения задачи не нужно программировать алгоритм.

· Нейронная сеть обучается решению задачи на некотором "учебнике" − наборе ситуаций, каждая из которых описывает значения входных сигналов нейросети и требуемый для этих входных сигналах ответ. "Учебник" задает набор эталонных ситуаций с известными решениями, а нейронная сеть при обучении сама находит зависимости между входными сигналами и ответами.

Аппаратная реализация ИНС  – нейрокомпьютер – имеет существенные отличия (как по структуре, так и  по классу решаемых задач) от вычислительных машин, выполненных в соответствии с традиционной архитектурой фон  Неймана. Сравнительные характеристики нейрокомпьютеров и традиционных компьютеров  и традиционных компьютеров приведены  в таблице 1.1

 

Таблица 1.1 Сравнительные  оценки традиционных ЭВМ и нейрокомпьютеров.

Категории сравнения	ЭВМ традиционной архитектуры	Нейрокомпьютер
Процессор	Сложный Высокоскоростной Один или несколько	Простой Низкоскоростной Большое количество
Память	Отделена от процессора Локализована Адресация не по содержанию	Интегрирована в процессор Распределенная Адресация по содержанию
Вычисления	Централизованные Последовательные Хранимые программы	Распределенные Параллельные Самообучение
Надежность	Высокая уязвимость	Живучесть
Специализация	Численные и символьные операции	Проблемы восприятия
Среда функционирования	Строго определена Строго ограничена	Без ограничений

1.2 Области применения  нейронных сетей

 

Искусственные нейронные  сети в настоящее время широко используются при решении самых  разных задач и активно применяются  там, где обычные алгоритмические  решения оказываются неэффективными или вовсе невозможными. В числе  задач, решение которых доверяют искусственным нейронным сетям, можно назвать следующие: распознавание  текстов, системы безопасности и  видео-наблюдения, автоматизация процессов распознавания образов, адаптивное управление, аппроксимация функционалов, прогнозирование – и это далеко не все. С помощью нейросетей можно выполнять распознавание оптических или звуковых сигналов. Аппаратные реализации ИНС идеально подходят для решения задач идентификации и управления, так как обеспечивают, благодаря параллельной структуре, чрезвычайно высокую скорость выполнения операций.

Описанные возможности в  основном относятся к слоистым нейронным  сетям, обучаемым алгоритмом обратного  распространения, и растущим нейронным  сетям на основе вариантов алгоритма  каскадной корреляции. Но существуют и другие классы нейронных сетей  − нейросети ассоциативной памяти, нейросети для квантования данных, сжатия данных путем построения главных независимых компонент, нейронные сети для разделения смеси сигналов и др. Т.е. круг задач, решаемых нейронными сетями, очень и очень широк, поскольку широк и сам набор нейросетевых алгоритмов.

1.3 Классификация  нейронных сетей

 

Существует широкий спектр достаточно универсальных способов организации инструментальных средств  и собственно процесса применения нейронных  сетей на различной программно-аппаратной базе. Всегда можно подобрать наиболее оптимальный для некоторой задачи − всё определяется свойствами задачи и требованиями к решению.

Однако применение нейросетей осложняется рядом причин. Нельзя придумать какую то одну универсальную ИНС, которая бы подошла для различных типов задач. Нейросети используют в двух вариантах:

Строится нейросеть, решающая определенный класс задач,

Под каждый экземпляр задачи строится некоторая нейросеть, находящая квази-оптимальное решение этой задачи.

Существуют несколько  видов нейросетей. Их классификация представлена на рисунке 1.1

 

Рисунок 1.1 Классификация  ИНС

Наиболее распространенным семейством сетей прямого действия являются многослойные персептроны, в  них нейроны расположены слоями и соединены однонаправленными  связями, идущими от входа к выходу сети. Сети прямого действия являются статическими в том смысле, что  на заданный вход они вырабатывают одну совокупность выходных значений, не зависящих от предыдущего состояния  сети.

Рекуррентные сети являются динамическими, так как в силу обратных связей в них модифицируются входы нейронов, что приводи к  изменению состояния сети. Поведение  рекуррентных сетей описывается  дифференциальными или разностными  уравнениями, как правило, первого  порядка. Это гораздо расширяет  области применения нейросетей и способы их обучения. Сеть организована так, что каждый нейрон получает входную информацию от других нейронов, возможно, и от самого себя, и от окружающей среды.

Так же можно выделить два  основных подхода к реализации нейросетей: цифровой и аналоговый. Преимуществом аналоговых реализаций являются: высокое быстродействие, надежность и экономичность. Однако сфера возможного массового использования обучаемых аналоговых нейрочипов достаточно узка. Это обусловлено большой сложностью аппаратной реализации высокоэффективных обучающих алгоритмов и необходимостью специальной подготовки потенциальных пользователей для оптимальной организации адаптивного процесса. В то же время широкое распространение могут получить обученные аналоговые нейрокомпьютеры (нейросети) с фиксированной или незначительно подстраиваемой структурой связей – нейропроцессоры.

Задача создания нейропроцессоров сводится к обучению цифровой нейросетевой модели нужному поведению на обычном цифровом компьютере.

Сети также можно классифицировать по числу слоев. В этом случае важную роль играет нелинейность активационной  функции, так как, если бы она не обладала данным свойством или не входила  в алгоритм работы каждого нейрона, результат функционирования любой  n-слойной нейронной сети сводился бы к перемножению входного вектора сигналов φ на матрицу весовых коэффициентов. То есть фактически такая нейронная сеть эквивалентна однослойной нейросети с весовой матрицей единственного слоя W. Кроме того, нелинейность иногда вводится и в синаптические связи.

1.4 Структура  и принципы работы нейронной  сети

 

В качестве модели нейрона  был выбран бинарный пороговый элемент, вычисляющий взвешенную сумму входных  сигналов и формирующий на выходе сигнал величины 1, если эта сумма  превышает определенное пороговое  значение, и 0 – в противном случае. К настоящему времени данная модель не претерпела серьезных изменений. Были введены новые виды активационных  функций. Структурная модель технического нейрона представлена на рисунке 1.3

 

Рисунок 1.3 Формальная модель искусственного нейрона

 

На вход искусственного нейрона  поступает некоторое множество  сигналов, каждый из которых является выходом другого нейрона, или  входным сигналом нейросетевой модели. Каждый вход умножается на соответствующий вес, аналогичный синаптической силе биологического нейрона. Вес определяет, насколько соответствующий вход нейрона влияет на его состояние. Все произведения суммируются, определяя уровень активации нейрона s. Состояние нейрона определяется по формуле.

, 1.1)

 

где φ – множество сигналов, поступающих на вход нейрона,

wi – весовые коэффициенты нейрона.

Далее сигнал s преобразуется активационной (передаточной) функцией нейрона F в выходной сигнал y. Математически это можно выразить формулой:

 

, (1.2)

 

где n – размерность вектора входов,

w0 – «нейронное смещение»,  вводимое для инициализации сети, - подключается к неизменяемому  входу +1,

F – активационная функция  нейрона.

Нейроны могут группироваться в сетевую структуру различным  образом. Функциональные особенности  нейронов и способ их объединения  в сетевую структуру определяет особенности нейросети. Для решения задач идентификации и управления наиболее адекватными являются многослойные нейронные сети (МНС) прямого действия или многослойные персептроны. При проектировании МНС нейроны объединяют в слои, каждый из которых обрабатывает вектор сигналов от предыдущего слоя. Минимальной реализацией является двухслойная нейронная сеть, состоящая из входного (распределительного), промежуточного (скрытого) и выходного слоя.

Рисунок 1.4 Структурная схема  двухслойной нейронной сети.

 

Реализация модели двухслойной  нейронной сети прямого действия имеет следующее математическое представление:

 

, (1.7)

 

где nφ – размерность  вектора входов φ нейронной сети;

nh – число нейронов в скрытом слое;

θ – вектор настраиваемых  параметров нейронной сети, включающий весовые коэффициениы и нейронные смещения (wji, Wij)

fj(x) – активационная функция нейронов скрытого слоя;

Fi(x) – активационная функция нейронов выходного слоя.

Персептрон представляет собой сеть, состоящую из нескольких последовательно соединенных слоев  формальных нейронов (рисунок 1.3). На низшем уровне иерархии находится входной  слой, состоящий из сенсорных элементов, задачей которого является только прием  и распространение по сети входной  информации. Далее имеются один или, реже, несколько скрытых слоев. Каждый нейрон на скрытом слое имеет несколько  входов, соединенных с выходами нейронов предыдущего слоя или непосредственно  со входными сенсорами φ1..φn, и один выход. Нейрон характеризуется уникальным вектором настраиваемых параметров θ. Функция нейрона состоит в вычислении взвешенной суммы его входов с дальнейшим нелинейным преобразованием ее в выходной сигнал:

1.5 Обучение нейронной  сети

 

Следующий этап создания нейросети – это обучение. Способность к обучению является основным свойством мозга. Для искусственных нейронных сетей под обучением понимается процесс настройки архитектуры сети (структуры связей между нейронами) и весов синаптических связей (влияющих на сигналы коэффициентов) для эффективного решения поставленной задачи. Обычно обучение нейронной сети осуществляется на некоторой выборке. По мере процесса обучения, который происходит по некоторому алгоритму, сеть должна все лучше и лучше (правильнее) реагировать на входные сигналы.