Модели структурной адаптации в задачах управления и распознавания образов

Санкт-Петербургский Государственный  Политехнический Университет

Факультет Технической Кибернетики

-Кафедра Компьютерных Систем и Программных Технологий-

 

________________________

 

 

 

 

Аналитический отчет

 

по дисциплине "Моделирование систем управления"

 

«Модели структурной адаптации в задачах управления и распознавания образов»

 

 

 

 

 

 

                                  Работу выполнил студент  гр. 4081/10 Гьоргьовски Г.

                                                               Проверила преподаватель Жукова С.В.

 

 

 

 

 

 

Санкт-Петербург

2013

Актуальность  темы

Одной из актуальных проблем в области  искусственного интеллекта является проблема распознавания образов. Несмотря на многочисленные исследования в данной сфере, отмеченная проблема еще очень  далека до своего окончательного разрешения. Актуальность исследований обусловлена  необходимостью разработки и внедрения новых нейросетевых архитектур, алгоритмов функционирования и обучения нейронных сетей для обеспечения более адекватных результатов распознавания сложных сцен (совокупностей значимых объектов, находящихся на произвольном фоне). Основные исследования научно-исследовательской работы направлены на разработку интеллектуальной архитектуры иерархической искусственной нейронной сети (ИНС), позволяющей анализировать только существенные компоненты входного вектора. В связи с вышеизложенным тема работы является актуальной и представляет теоретический и практический интерес.

Решить задачу классификации некоторого вектора или объекта можно  также с помощью иерархического анализа компонент этого вектора  или частей объекта. Для объяснения этого варианта рассмотрим пример. На вход иерархической системы поступает  входной вектор, полученный при кодировании  изображения “Самолет”, система  “распознает” сначала мельчайшие детали, такие как линии, пересечения  линий, углы, далее производится анализ комбинации мельчайших объектов: узнаются более сложные объекты, такие  как боковые и задние крылья, двигатели, системы подачи воздуха и т. д.

Анализируя соединение частей можно  прийти к выводу, что данный объект принадлежит к классу “Самолет”. Иерархический характер обработки  зрительной информации в зрительных областях коры человека послужил предпосылкой создания иерархических нейронных  сетей.

Какие же требования нужно предъявлять  к иерархическим ИНС такого класса? К одному из важнейших запросов можно отнести самоорганизующееся обучение нейронной сети – такой вид настройки нейронной сети, который протекает без участия пользователя (сеть автоматически производит модификацию, расширение своей структуры, обучение синаптических весов).

В отличие от материальной продукции один и тот же экземпляр  программного продукта может эксплуатироваться  в различных местах и при различных  условиях функционирования. В процессе эксплуатации условия функционирования могут существенно или незначительно  изменяться, что часто влечет необходимость  соответствующих изменений программного обеспечения (ПО).

Для облегчения сопровождения  ПО в подобных случаях применяются специальные технологии. Одно из таких направлений представляет адаптация ПО. Достоинством такого подхода является исключение вмешательства человека в процесс эксплуатации. Широко применяется адаптация интерфейса пользователя. Адаптация алгоритмов менее изучена и гораздо реже применяется в практике программирования.

Под адаптацией понимают приспособление системы к среде функционирования. Адаптация является "процессом  целенаправленного изменения параметров и структуры системы" [1]. Под  адаптацией алгоритмов будем понимать изменение параметров или структуры  алгоритмов с целью оптимизации, сохранения в определенных пределах или улучшения некоторых параметров их качества в конкретных условиях функционирования.

Основными показателями качества или эксплуатационными характеристиками алгоритмов является временная [2] и  функциональная [3] эффективность алгоритмов.

Внешней средой функционирования алгоритмов являются:

– исполнительный механизм (технические средства) их выполнения;

– входные данные для  конкретного выполнения алгоритма;

– потоки данных для многократного  выполнения алгоритма в некоторых (технологических) условиях их использования.

Системы, решающие задачу распознавания

Задача распознавания  на сегодняшний день решается целым  рядом прикладных приложений из широкого круга предметных областей. Ниже приведён неполный список областей применения методов распознавания:

− OCR (optical character recognition — распознавание символов);

− распознавание отпечатков пальцев;

− машинное зрение робототехнических систем;

− распознавание речи;

− биомедицинские приложения: анализ и автоматическая обработка рентгенограмм,

электрокардиограмм, исследования хромосом, диагностика заболеваний, интерпретация

опросников;

− контроль и мониторинг технических систем;

− анализ текстовых данных: фильтрация спама, автоматическое реферирование.

Понятие образа

Образ, класс - классификационная  группировка в системе классификации, объединяющая (выделяющая) определенную группу объектов по некоторому признаку.

Образное восприятие мира - одно из загадочных свойств живого мозга, позволяющее разобраться  в бесконечном потоке воспринимаемой информации и сохранять ориентацию в океане разрозненных данных о внешнем  мире. Воспринимая внешний мир, мы всегда производим классификацию воспринимаемых ощущений, т. е. разбиваем их на группы похожих, но не тождественных явлений. Например, несмотря на существенное различие, к одной группе относятся все буквы А, написанные различными почерками, или все звуки, соответствующие одной и той же ноте, взятой в любой октаве и на любом инструменте, а оператор, управляющий техническим объектом, на целое множество состояний объекта реагирует одной и той же реакцией. Характерно, что для составления понятия о группе восприятий определенного класса достаточно ознакомиться с незначительным количеством ее представителей. Ребенку можно показать всего один раз какую-либо букву, чтобы он смог найти эту букву в тексте, написанном различными шрифтами, или узнать ее, даже если она написана в умышленно искаженном виде. Это свойство мозга позволяет сформулировать такое понятие, как образ.

Образы обладают характерным  свойством, проявляющимся в том, что ознакомление с конечным числом явлений из одного и того же множества  дает возможность узнавать сколь  угодно большое число его представителей. Примерами образов могут быть: река, море, жидкость, музыка Чайковского, стихи Маяковского и т. д. В  качестве образа можно рассматривать  и некоторую совокупность состояний  объекта управления, причем вся эта  совокупность состояний характеризуется  тем, что для достижения заданной цели требуется одинаковое воздействие  на объект. Образы обладают характерными объективными свойствами в том смысле, что разные люди, обучающиеся на различном материале наблюдений, большей частью одинаково и независимо друг от друга классифицируют одни и те же объекты. Именно эта объективность  образов позволяет людям всего  мира понимать друг друга.

Способность восприятия внешнего мира в форме образов позволяет  с определенной достоверностью узнавать бесконечное число объектов на основании  ознакомления с конечным их числом, а объективный характер основного  свойства образов позволяет моделировать процесс их распознавания. Будучи отражением объективной реальности, понятие  образа столь же объективно, как и сама реальность, а поэтому это понятие может быть само по себе объектом специального исследования.

В литературе, посвященной  проблеме обучения распознавания образов (ОРО), часто вместо понятия образа вводится понятие класса.

Проблема распознаванию  образов 

Распознавание образов –  это задача идентификации объекта  или определения каких-либо его  свойств по его изображению (оптическое распознавание) или аудиозаписи(акустическое распознавание) [25]. В процессе биологической эволюции многие животные с помощью зрительного и слухового аппарата решили эту задачу достаточно хорошо.

Создание искусственных  систем с функциями распознавания  образов остаётся сложной технической  проблемой.

В целом проблема распознавания  образов (ПРО) состоит из двух частей: обучения и распознавания. Обучение осуществляется путем показа отдельных объектов с указанием их принадлежности тому или другому образу. В результате обучения распознающая система должна приобрести способность реагировать одинаковыми реакциями на все объекты одного образа и другими реакциями - на все объекты отличимых образов. Очень важно, что процесс обучения должен завершиться только путем показов конечного числа объектов. В качестве объектов обучения могут быть либо картинки (рис. 2.2), либо другие визуальные изображения (буквы, цифры) [36]. Важно, что в процессе обучения указываются только сами объекты и их принадлежность образу. За обучением следует процесс распознавания новых объектов, который характеризует действия уже обученной системы. Автоматизация этих процедур и составляет проблему обучения распознаванию образов [10]. В том случае, когда человек сам разгадывает или придумывает, а затем навязывает машине правило классификации, проблема распознавания решается частично, так как основную и главную часть проблемы (обучение) человек берет на себя.

Круг задач, которые могут  решаться с помощью распознающих систем, чрезвычайно широк. Сюда относятся не только задачи распознавания зрительных и слуховых образов, но и задачи классификации сложных процессов и явлений, возникающих, например, при выборе целесообразных действий руководителем предприятия или выборе оптимального управления технологическими, экономическими, транспортными или военными задачами. Прежде чем начать анализ какого-либо объекта, нужно получить о нем определенную, упорядоченную информацию.

Выбор исходного описания объектов является одной из центральных  задач проблемы распознавания образов. При удачном выборе исходного описания (пространства признаков) задача распознавания может оказаться тривиальной и, наоборот, неудачно выбранное исходное описание может привести либо к очень сложной дальнейшей переработку информации, либо вообще к отсутствию решения.

История распознавания  образов

Рассмотрим кратко математический формализм распознавания образов. Объект в распознавании образов  описывается совокупностью основных характеристик (признаков, свойств). Основные характеристики могут иметь различную  природу: они могут браться из упорядоченного множества типа вещественной прямой, либо из дискретного множества (которое, впрочем, так же может быть наделено структурой). Такое понимание объекта согласуется как потребностью практических приложений распознавания образов, так и с нашим пониманием механизма восприятия объекта человеком. Действительно, мы полагаем, что при наблюдении (измерении) объекта человеком, сведения о нем поступают по конечному числу сенсоров (анализируемых каналов) в мозг, и каждому сенсору можно сопоставить соответствующую характеристику объекта. Помимо признаков, соответствующих нашим измерениям объекта, существует так же выделенный признак, либо группа признаков, которые мы называем классифицирующими признаками, и в выяснении их значений при заданном векторе Х и состоит задача, которую выполняют естественные и искусственные распознающие системы.

Понятно, что для того, чтобы установить значения этих признаков, необходимо иметь информацию о том, как связаны известные признаки с классифицирующими. Информация об этой связи задается в форме прецедентов, то есть множества описаний объектов с известными значениями классифицирующих признаков. И по этой прецедентной информации и требуется построить решающее правило, которое будет ставить произвольному описанию объекта значения его классифицирующих признаков.

Такое понимание задачи распознавания  образов утвердилось в науке начиная с 50-х годов прошлого века. И тогда же было замечено что такая постановка вовсе не является новой. С подобной формулировкой сталкивались и уже существовали вполне не плохо зарекомендовавшие себя методы статистического анализа данных, которые активно использовались для многих практических задач, таких как например, техническая диагностика. Поэтому первые шаги распознавания образов прошли под знаком статистического подхода, который и диктовал основную проблематику [8, c. 176].

Статистический подход основывается на идее, что исходное пространство объектов представляет собой вероятностное  пространство, а признаки (характеристики) объектов являют собой случайные величины заданные на нем. Тогда задача исследователя данных состояла в том, чтобы из некоторых соображений выдвинуть статистическую гипотезу о распределении признаков, а точнее о зависимости классифицирующих признаков от остальных. Статистическая гипотеза, как правило, представляла собой параметрически заданное множество функций распределения признаков. Типичной и классической статистической гипотезой является гипотеза о нормальности этого распределения (разновидностей таких гипотез статистики придумали великое множество). После формулировки гипотезы оставалось проверить эту гипотезу на прецедентных данных. Это проверка состояла в выборе некоторого распределения из первоначально заданного множества распределений (параметра гипотезы о распределении) и оценки надежности(доверительного интервала) этого выбора. Собственно эта функция распределения и была ответом к задаче, только объект классифицировался уже не однозначно, но с некоторыми вероятностями принадлежности к классам. Статистиками были разработано так же и ассимптотическое обоснование таких методов. Такие обоснования делались по следующей схеме: устанавливался некоторый функционал качества выбора распределения (доверительный интервал) и показывалось, что при увеличении числа прецедентов, наш выбор с вероятностью стремящейся к 1 становился верным в смысле этого функционала (доверительный интервал стремился к 0). Забегая вперед скажем, что статистический взгляд на проблему распознавания оказался весьма плодотворным не только в смысле разработанных алгоритмов (в число которых входят методы кластерного, дискриминантного анализов, непараметрическая регрессия и т.д.), но и привел впоследствии Вапника к созданию глубокой статистической теории распознавания [2, c. 7].