Главная Контакты Добавить в избранное Авторы Вопросы и ответы
,

УДК 519.71

АППАРАТНАЯ РЕАЛИЗАЦИЯ НЕЧЕТКОЙ СЕТИ СМАС И ЕЕ ПРИМЕНЕНИЕ ДЛЯ ЗАДАЧ СЖАТИЯ ИЗОБРАЖЕНИЙ

Руденко О.Г., Бессонов А.А., Бобух В.А.

Введение. Получающие в последнее время все более широкое распространение искусственные нейронные сети  (ИНС) являются особенно эффективными при решении задач идентификации и управления нелинейными динамическими объектами в реальном времени, обработки и фильтрации сигналов и изображений.

Высокая скорость обучения и малый объем требуемой памяти, достигаемые за счет специального кодирования информации, делает сеть CMAC – Cerebellar Model Articulation Controller (церебральная модель артикуляционного контроллера) особенно привлекательной для реализации в микроконтроллерных системах управления нелинейными объектами [1].

Дополнительного положительного эффекта можно достичь, переходя от традиционной сети СМАС, использующей прямоугольные активационные функции,  к нечеткой или фаззи СМАС (FCMAC), функции принадлежности которой отличны от прямоугольных [2, 3].

Сеть FCMAC. Основной особенностью FCMAC является лингвистическое описание действий, выполняемых в соответствии с текущим состоянием объекта, что позволяет включать в алгоритм ее работы знания эксперта, а сама сеть при этом может рассматриваться как экспертная система реального времени.

Нечеткие правила описывают возможные состояния системы и соответствующие им действия. Правила, реализуемые нечеткой нейросетью CMAC, имеют вид [4]

 

IF  IS  AND… IS  THEN ,             

(1)

где  - лингвистические значения в антецеденте i-го правила;  - функция в консеквенте i-го правила;  - настраиваемые параметры консеквента i-го правила;  –  задаваемый априорно параметр, определяющий число активных функций принадлежности; N – размерность входного сигнала.

При использовании в качестве t-нормы произведения степень выполнения i-го правила вычисляется в соответствии с выражением

 

,

(2)

 

где  - функция принадлежности на j-ом входе в антецеденте i-го правила.

Выходной сигнал нечеткой сети СМАС  вычисляется следующим образом:

 = H(aTФ(x))w,

(3)

где , ;

 

 - используемый оператор хеширования информации; а – вектор ассоциаций, полученный на этапе кодирования информации; w – весовые параметры сети.

Алгоритмы хеширования информации в FCMAC. Хеширование заключается в отображении большой требуемой памяти в меньшую, физически реализуемую. Объем большей памяти определяется размерностью вектора ассоциаций, полученного на этапе кодирования.   Если адреса ячеек большей памяти лежат в интервале [1,  M], а меньшей – в интервале [1, m], то  функция преобразования адреса (хеш-функция) должна удовлетворять требованию

 

1≤ H(k) < m 1≤ kM.

 

 

 

Выбор функции H(k) является весьма трудной задачей, однако многочисленные исследования показали, что хорошие результаты обеспечивает применение двух основных типов хеш-функций, один из которых основан на делении, а другой – на умножении [5].

Хеш-функция, реализующая метод, основанный на делении, имеет вид

 

H(k)=1+ k mod m,

(4)

 

где k mod m означает деление по модулю m.

Адрес ячейки памяти с меньшим объемом при методе хеширования, основанном на умножении, вычисляется по следующей формуле:

 

H(k) = 1+,

(5)

 

где w – размер машинного слова; F – некоторая целая константа, взаимно простая с w - означает округление в сторону ближайшего целого числа.

В качестве F возможно использование чисел Фибоначчи.

Хеш-функция, основанная на делении, равномерно распределяет большую память в меньшую в соответствии с адресом.

Функция, описываемая уравнением (5), «тасует» элементы памяти.

Обучение сети. Обучение сети FCMAC состоит в настройке вектора ее весовых параметров w на основании предъявления ей обучающих пар  и сравнения реакции сети  с требуемой . Соответствующий алгоритм обучения может быть записан следующим образом:

 

.      

(6)

 

Однако в ряде случаев для улучшения аппроксимирующих свойств сети возникает необходимость настройки не только весовых параметров сети, но и параметров базисных функций. Наиболее эффективным оказывается применение такого подхода для настройки центров  и дисперсий  гауссовых функций активации.

Настройка данных параметров может быть осуществлена, например по алгоритму, аналогичному алгоритму Уидроу-Хоффа:

 

   

(7)

 

где m – вектор настраиваемых параметров.

В случае использования гауссовых функций в качестве m используются центры  и дисперсии , а векторы частных производных  и  вычисляются по формулам

 

 

где i – номер возбужденной функции принадлежности; j – номер компонент векторов ассоциаций и весов, соответствующих данной функции принадлежности.

Аппаратная реализация. Рассмотрим кодирование переменной xi, представляющей собой n–разрядное двоичное число. Так как входной слой сети СМАС содержит ρ ступеней квантования, таких, что для любой ступени существует другая ступень, на которой области квантования сдвинуты относительно рассматриваемой ступени на один уровень квантования входной переменной xi, являющейся двоичным числом, то такой сдвиг соответствует единице младшего разряда входной переменной. Присвоим ступени квантования индекс .

В связи с тем, что область квантования содержит ρ уровней квантования входной переменной, функция принадлежности, соответствуюая любой области квантования, определена в ρ точках. Аргументом этой функции будет являться значение

 

,

(8)

 

где mod – функция вычисления остатка от целочисленного деления.

Номер активной функции принадлежности на ступени j можно определить как

 

(9)

 

где div – функция целочисленного деления.

Как известно, аппаратная реализация операции деления на произвольное число является либо ресурсоёмкой либо медленной. Поэтому предлагается выбирать значения ρ, равные 2m. В этом случае операция деления может быть заменена операцией сдвига на m разрядов вправо, а остаток от деления, записанный в m младших разрядов, исчезает.

В классическом варианте сети СМАС активационные функции нейронов областей квантования имеют прямоугольную форму. Однако, как показывают исследования, лучший результат достигается при использовании функций высших порядков (линейных, квадратичных, кубических), а также тригонометрических и степенных функций.

Аппаратная реализация широкого спектра функций принадлежности, отличных от прямоугольных, сложна и ресурсоёмка. Поэтому целесообразно функцию активации задавать таблично в ОЗУ, содержащем 2m ячеек. Разрядность ячеек ОЗУ h определяется областью допустимых значений функции принадлежности, а также необходимой точностью задания значений функции принадлежности. Если, например, m = 8, то необходимо ОЗУ ёмкостью 256 ячеек. Блоки ОЗУ такого объёма имеются в большинстве современных ПЛИС (например, семейство ACEX1K фирмы ALTERA). Подобная реализация функций активации является простой и гибкой, так как позволяет задать функцию любого вида.

Структура блока кодирования переменной xi представлена на рис.1. Код переменной xi защелкивается в регистре RgX, откуда поступает на сумматор Σ1. На второй вход этого сумматора поступает m – разрядное значение номера ступени j, на которой в данный момент происходит кодирование. Это значение формируется устройством случайной выборки ступени, служащим для устранения диагональной структуры ассоциативного поля, и, соответственно, улучшения аппроксимирующих свойств сети. С выхода сумматора n – разрядный код поступает на логический сдвигатель (LShLogical Shifter), позволяющий изменять значение m. Значение u определяют m младших разрядов выходного кода LSh, а значение v – соответственно старшие k = n - m разрядов. Значение u через мультиплексор МХ1 поступает на адресные входы ОЗУ хранения функции принадлежности. Мультиплексор МХ1, а также буфер В1 служат для инициализации ОЗУ значениями функции принадлежности от устройства управления. С выхода ОЗУ h – разрядное значение функции принадлежности поступает на регистр Rg VFS, а с регистра – на выход VFSi (Value of Function on Stair i) блока кодирования (СВ – Coding Block). Значение v поступает на регистр Rg NNS, а оттуда – на выход NNSi )Number of Neuron on Stair i) блока. Тактирующие импульсы на регистры, а также сигналы управления ОЗУ формируются устройством управления, общим для всей структуры.

 

Рис. 1. Блок кодирования переменной xi

Таким образом, для кодирования переменной xi с помощью m ступеней квантования необходимо 2m тактов. При m < 5 такое кодирование может осуществляться с частотой 10 – 20 МГц, то есть в реальном времени для обработки телевизионных изображений. В течение этих 2m тактов значение xi хранится во входном регистре RgX и обновляется по их истечении.

Устройство случайной выборки ступени может представлять собой m–разрядный линейный рекуррентный регистр с обратными связями, определяемыми простым полиномом. Такой регистр генерирует 2m–1 различных кодовых комбинаций, обладающих статистическими свойствами равномерно распределённой случайной последовательности. Одна комбинация является запрещённой, так как на очередном такте работы регистра приводит к генерации самой себя. Так как работа блока кодирования предусматривает использование 2m комбинаций, необходимо предусмотреть её аппаратную генерацию и подстановку вместо кода регистра на любом такте (при этом не производится очередной сдвиг регистра). Вид последовательности определяется начальной установкой регистра. Эта операция производится однократно перед первым обучением сети. Регистры, отвечающие за различные входные переменные, должны быть проинициализированы различными значениями. Эти значения, равно как и начальные значения весов в сети, могут быть сформированы аппаратным датчиком случайных чисел [6]. Рассмотрим возможную структуру аппаратной реализации сети СМАС, представленную на рис. 2. Сеть обрабатывает две входные переменные, каждая из которых кодируется блоками CB, содержащими равное число ступеней квантования. Функционирование такой структуры состоит в следующем. На j–м такте блоки СВ формируют значения номеров функций принадлежности в текущих ступенях (NNS1 и NNS2) и значения их функций активации (VFS1 и VFS2). Значения VFS поступают на умножитель М1, формирующий произведение функций активации текущих ступеней. Значение этого произведения поступает на умножитель М2, вычисляющий произведение веса и произведения функций активации. Адрес веса в ОЗУ весов определяется алгоритмом хеширования, входным параметром которого является комбинация значений NNS. Накапливающий сумматор Σ2 вычисляет сумму произведений весов и функций активации и после выполнения m тактов в регистре RgY формирует значение функции, соответствующее входным переменным. С помощью сумматора Σ3 формируется код ошибки ek , определяемый как разность полученного y и требуемого yk значений функции. Значение ошибки поступает на блок реализации алгоритма обучения, который в течение m тактов вычисления накапливал адреса выборки весов, значения весов и произведений функций активации. Получив значение ошибки, алгоритм обучения модифицирует участвовавшие в вычислении веса и записывает их в ОЗУ весов по соответствующим адресам. Координацию работы узлов сети осуществляет устройство управления.

 

 

Рис. 2. Вариант аппаратной реализации сети СМАС

 

Практические результаты. В качестве тестовой рассматривалась задача кодирования изображения, приведенного на рис.3 а). Размерность данного изображения составляет 300х200 пикселей, т.е. для его хранения в формате bmp необходимо 60 Кб памяти, а для хранения весовых параметров сети, с помощью которой осуществлялось кодирование, требуется 8 Кб. Таким образом, коэффициент сжатия составил 7,5 раза. Результаты кодирования данного изображения с помощью сети FСМАС представлены на рис.3 б)-д). Изображение на рис.3 б) получено с помощью сети с косинусоидальными функциями принадлежности, на рис.3 в) – с гауссовыми, а на рис.3 г) – с гауссовыми, параметры которых настраивались по алгоритму (7).

 

        

а)                                                                           б)

 

          

 

в)                                                                           г)

Рис. 3 Результат сжатия изображения

 

Как видно из результатов, настройка параметров функций принадлежности позволяет более точно восстанавливать кодируемые изображения.

Основные результаты и выводы. Как показывают результаты моделирования, нейронная сеть FСМАС является достаточно эффективной и удобной при решении задач обработки, в частности сжатия изображений. Существенная экономия требуемой памяти в сочетании с простыми алгоритмами обучения делают ее особенно привлекательной для реализации в микроконтроллерных системах. Следует отметить, что приведенная в статье аппаратная реализация сети FCMAC является универсальной и может использоваться не только в задачах обработки изображений, но и для аппроксимации функций, идентификации нелинейных объектов и управления ими, т.к. во-первых, при этом возможно использование любых базисных функций, а во-вторых – в схеме предусмотрен блок хеширования информации. Дело в том, что вопрос выбора базисных функций нейронной сети FCMAC остается открытым и определяется характером решаемой прикладной задачи. Хеширование же необходимо при обработке больших объемов информации (изображения высокого качества, объекты большой размерности).

 

In this paper some questions of FCMAC hardware realization and its application for an image compression are considered. The results of some simulated examples performed with assistance of Matlab are presented. It testified the effectiveness of FCMAC for problem solving of image processing in real time.

 

1.                   Albus J.S. A new approach to manipulator control: the cerebellar model articulation controller (CMAC) // ASME Trans., J. Dynamic Systems, Measurement and Control, 1975. – Vol. 97. – №3. – P. 220-227.

2.                   Руденко О.Г., Бессонов А.А. О выборе базисных функций в нейронной сети СМАС // Проблемы управления и информатики. –2004. –№2. – C. 143-154.

3.                   Руденко О.Г., Бессонов А.А. Адаптивное управление нелинейными объектами с помощью нейронной сети СМАС // Проблемы управления и информатики. –2004. –№5. – C. 16-30.

4.                   K. S. Hwang, C. S. Lin and C. L. Chang. Fuzzy Cerebellar Model Articulation Controller // Proc. of the Second Chinese World Congress on Intelligent Control and Intelligent Automation. -  1997. - Pp. 1536-1541.

5.                   Кнут Д.Э. Искусство программирования, том 3. Сортировка и поиск,  2-е изд. - М.: Вильямс, 2000. С. 549-597.

6.                   Торба А.А., Елаков С.Г., Степченко А.З. Генерация равновероятных случайных последовательностей на основе физических датчиков // «Радиотехника»: Всеукр. межвед. науч.-техн. сб. -  Харьков. ХТУРЭ. - 2001. - Вып. 119. - C. 108-113.

 

 





Ответы на вопросы [_Задать вопроос_]

Читайте также

 
Литвиненко В.И. Синтез радиально-базисных сетей для решения задачи дистанционного определения концентрации хлорофилла.

Литвиненко В.И., Четырин С.П. Компенсация ошибок оператора в контуре управления следящей системы на основе синтезируемых вейвелет-сетей

Вайсман В.А., Гогунский В.Д., Руденко С.В. Формирование структур организационного управления проектами

Китаев А.В., Сушич Е.Ф. Приложение положений теории дросселя и трансформатора к расчету и анализу электромагнитом переменного тока.

Кириллов О.Л., Якимчук Г.С. Оптимальное управление технологическим процессом заполнения слабопроводящими заряжающимися жидкостями (СПЗЖ) замкнутых объемов.

Попруга А.Г. Теоретические и экспериментальные исследования электрических нагревателей по критерию экономии энергии.

Евдокимов А.В., Китаев А.В., Агбомассу В.Л. Исследование причин, определяющих вращение рамки с током в магнитном поле после воздействия на нее внешнего импульса

Голощапов С.С., Петровский А.В., Рожко Ж.А., Боярчук А.И. Измерение доб-ротности колебательного контура на основе метода биения частот

Требования к оформлению

Китаев А.В., Клементьев А.В., Якимчук Г.С. Внешние характеристики бесконтактного совмещённого синхронного электрического генератора с периодически изменяющейся структурой обмотки ротора.

Рудакова А.В., Кузик О.В. Использование метода динамического программирования Беллмана в задачах оптимизации быстродействия манипулятора

Хомченко А.Н., Цыбуленко О.В., Дембровская М.В. Барицентрические оценки электростатического поля в круге.

Быченко Ю.Ю., Тодорцев Ю.К. Модернизация аппаратного комплекса для проведения испытания на плотность системы герметичного ограждения энергоблока с реактором ВВЭР-1000.

Кирюшатова Т.Г., Чёрный С.Г. Моделирование процессов распределения функ-ций персонала в управлении организацией.

Информационно-измерительные системы

Ковальов О.І. Вимірювання у процесно-орієнтованих стандартах

Полякова М.В., Ищенко А.В., Худайбердин Э.И. Порогово-пространственная сегментация цветных текстурированных изображений на основе метода JSEG

Дзюбаненко А. В. Организация компьютерных систем для анализа изображений

Гордеев Б.Н., Зивенко А.В., Наконечный А.Г. Формирование зондирующих импульсов для полиметрических измерительных систем

Богданов А.В., Бень А.П., Хойна С.И. Релаксация обратного тока диодов Шоттки после их магнитно-импульсной обработки (МИО)

Тверезовский В.С., Бараненко Р.В. Проектирование измерителя добротности варикапов

Тверезовский В.С., Бараненко Р.В. Оптимизированная модель измерителя доб-ротности варикапов

Руднєва М.С., Кочеткова О.В., Задорожній Р.О. Принципи побудови оптимальної структури інформаційно-вимірювальної системи геометричних розмірів об’єктів в діапазоні від 1 нм до 1000 нм

Биленко М.С., Рожков С.А., Единович М.Б. Идентификация деформаций пе-риодических структур с использованием систем технического зрения

Рашкевич Ю.М., Ковальчук А.М., Пелешко Д.Д. Афінні перетворення в модифікаціях алгоритму RSA шифрування зображень

Дидык А.А., Фефелов А.А, Литвиненко В.И., Шкурдода С.В., Синяков Ф. В. Классификация масс-спектров с помощью кооперативного иммунного алгоритма

Клименко А.K. Обратная модель для решения задач в системах с многосвязными динамическими объектами

Завгородній А.Б. Порівняльне дослідження твердотільних і рідиннофазних об'єктів методом газорозрядної візуалізації

Голощапов С.С., Петровский А.В., Рожко Ж.А., Боярчук А.И. Измерение доб-ротности колебательного контура на основе метода биения частот

Кириллов О.Л., Якимчук Г.С. Диагностирование критерия безопасности при заполнении замкнутых объемов СПЖ косвенным методом

Долина В.Г. Проблеми підвищення точності рефрактометра на основі прозорих порожнистих циліндрів.

Самков О.В., Захарченко Ю.А. Застосування алгоритму клонального відбору для побудови планів модернізації авіаційної техніки

Попов Д.В. Метод формування регламентів технічного обслуговування повітряних суден

Казак В.М., Чорний Г.П., Чорний Т.Г. Оцінювання готовності технічних об’єктів з урахуванням достовірності їх контролю

Тверезовский В.С., Бараненко Р.В. Технические аспекты проектирования цифрового измерителя добротности варикапов

Тверезовский В.С., Бараненко Р.В. Технические аспекты проектирования устройства для разбраковки варикапов по емкостным параметрaм и добротности

Сосюк А.В. Інтелектуальний автоматизований контроль знань в системах дистанційного навчання

Соколов А.Є. Деякі аспекти систезу комп’ютеризованої адаптивної системи навчання

Полякова М.В., Волкова Н.П., Іванова О.В. Сегментація зображень стохастичних текстур амплітудно-детекторним методом у просторі вейвлет-перетворення

Луцкий М.Г., Пономаренко А.В., Филоненко С.Ф. Обработка сигналов акустической эмиссии при определении положения сквозных дефектов

Литвиненко В.И., Дидык А.А., Захарченко Ю.А. Компьютерная система для решения задач классификации на основе модифицированных иммунных алгоритмов

Лубяный В.З., Голощапов С.С. Прямоотсчетные измерители расхождений емкостей

Беляев А.В. Построение навигации для иерархических структур в WEB-системах и системах управления WEB-сайтом

Терновая Т.И., Сумская О.П., Слободянюк И.И., Булка Т.И. Контроль качества тканей специального назначения с помощью автоматических систем.

Шеховцов А.В. Інформаційний аспект: розпізнавання образів індивідуума.

Полякова М.В. Определение границ сегмента упорядоченной текстуры на изображении с однородным фоном с помощью многоканального обнаружения пачки импульсов.

Литвиненко В.И. Прогнозирования нестационарных временных рядов с помощью синтезируемых нечетких нейронных сетей

Ковриго Ю.М., Мисак В.Ф., Мовчан А.П., Любицький С.В. Автоматизована система діагностики генераторів електростанцій

Браїловський В.В., Іванчук М.М., Ватаманюк П.П., Танасюк В.С. Керований детектор імпульсного ЯКР спектрометра

Забытовская О.И. Построение функции полезности по экспериментальным данным.

Шиманські З. Апаратні засоби сегментації мовного сигналу

Хобин В.А., Титлова О.А. К вопросу измерения парожидкостного фронта в дефлегматоре абсорбционно-диффузионной холодильной машины (АДХМ)

Фефелов А. А. Использование байесовских сетей для решения задачи поиска места и типа отказа сложной технической системы

Слань Ю. М., Трегуб В. Г. Оперативна нейромережна ідентифікація складних об’єктів керування

Ролик А.И. Модель управления перераспределением ресурсов информационно-телекоммуникационной системы при изменении значимости бизнес-процессов

Кириллов О.Л., Якимчук Г.С., Якимчук С.Г. Изучение электрического поля с помощью датчика измерителя электростатического потенциала на модели замкнутого металлического объема

Грицик В.В. Застосування штучних нейронних мереж при проектуванні комп’ютерного зору.

Гасанов А.С. Информационные технологии построения систем прогнозирования отказов

Шеховцов А.В., Везумский А.К., Середа Е.С. Алгоритм сжатия информации без потерь: модифицированный алгоритм LZ77

Ходаков В.Е., Жарикова М.В., Ляшенко Е.Н. Методы и алгоритмы визуализации пространственных данных на примере моделирования распространения лесных пожаров.

Полякова М.В., Крылов В.Н. Обобщённые масштабные функции с компактным носителем в задаче сегментации изображений упорядоченных текстур. – C. 75 – 84.

Полторак В.П., Дорогой Я.Ю. Система распознавания образов на базе нечеткого нейронного классификатора.

Литвиненко В.И. Синтез радиально-базисных сетей для решения задачи дистанционного определения концентрации хлорофилла.

Бражник Д.А. Управление совмещением изображения объекта в сцене и эталонного изображения.

Бабак В.П., Пономаренко А.В. Локализация места положения сквозных дефектов по сигналам акустической эмиссии.

Мороз В. В. R-D проблема и эффективность систем сжатия изображений.

Крылов В.Н., Полякова М.В., Волкова Н.П. Контурная сегментация в пространстве гиперболического вейвлет-преобразования с использованием математической морфологии.

Квасников В.П., Баранов А.Г. Анализ влияния дестабилизирующих факторов на работу биканальной координатно-измерительной машины.

Казак В.М., Гальченко С.М., Завгородній С.О. Аналіз можливості застосування імовірнісних методів розпізнавання для виявлення пошкоджень зовнішнього обводу літака.

Тищенко И.А., Лубяный В.З. Управление коммутационными процессами в интегрированных сетях связи.

Корниенко-Мифтахова И.К.,Филоненко С.Ф. Информационно-измерительная система для анализа характеристик динамического поведения конструкций.

Тверезовский В.С., Бараненко Р.В. Модель измерителя емкости с линейной шкалой измерений.

Полякова М.В., Крылов В.Н. Мультифрактальный метод автоматизированного распознавания помех на изображении.

Рожков С.О., Федотова О.М. Алгоритм розпізнавання дефектів тканин для автоматичної системи контролю якості.

Бражник Д.А. Использование проективного преобразования для автоматизации обнаружения объектов.