Главная Контакты Добавить в избранное Авторы Вопросы и ответы
,

УДК 681.306

ПРОГНОЗИРОВАНИЯ НЕСТАЦИОНАРНЫХ ВРЕМЕННЫХ РЯДОВ С ПОМОЩЬЮ СИНТЕЗИРУЕМЫХ НЕЧЕТКИХ НЕЙРОННЫХ СЕТЕЙ

Литвиненко В.И.

Постановка проблемы. Поскольку большинство исследуемых физических, технических или других реальных процессов являются нестационарными, в связи с этим особую актуальность представляет собой решение задач моделирования и прогнозирования нестационарных процессов. Нестационарность проявляется в появлении детерминированного или стохастического тренда, меняющейся во времени дисперсии и ковариации. Таким образом, основными видами нестационарностей, которые встречаются на практике, является наличие детерминированных и стохастических трендов, а также меняющаяся во времени дисперсия.  Довольно часто исследуемые процессы содержат детерминированные и стохастические тренды, т.е., такие процессы являются нестационарными относительно тренда. Другим типом не стационарности, которая часто встречается на практике, является нестационарность относительно дисперсии - гетероскедастические процессы. Оба типа нестационарности требуют применения нестандартных подходов для построения математических моделей и соответствующих им функций прогнозирования. Кроме того, современные процессы например в финансах характеризуются высокой динамикой переменных, наличием производных высоких порядков, которые создают дополнительные трудности при прогнозировании.  Общие тенденции к росту или спаду того или другого процесса характеризуют его трендом. Тренд можно трактовать также как текущее среднее значение временного ряда. Так, рост валового внутреннего продукта развитых стран на длинных временных интервалах характеризуется детерминированным дополнительным трендом, так например, ВВП стран с переходной экономикой довольно часто характеризуется отрицательным трендом. Можно сказать, что детерминированный тренд описывает долгосрочные изменения процессов. Если тренд относительно быстро изменяется во времени в произвольном направлении, то его называют стохастическим. К таким процессам относятся, например, процессы формирования цен на биржах, значительные случайные колебания курсов валют, обусловленные случайными процессами, такими как финансовые кризисы, локальные войны и др.

Анализ предшествующих публикаций и цель статьи. Слабые и сильные стороны ИНС и фаззи-систем дополняют друг друга. ИНС может научиться сложным отображениям на основе представленных данных в виде вход-выход. Но в тоже время ИНС представляет собой идеологию «черного ящика» в системном моделировании, решение полученное при использовании ИНС сложно интерпретировать и добавление априорной информации в нейронную сети также сложно. В тоже же время, фаззи-системы могут обеспечивать сложное отображение вход-выход (в форме базисных правил), основываясь на человеческом восприятии и имеющейся в наличии априорной информации. Потому что фаззи-системы оперируют лингвистическими переменными и правилами, они являются легко интерпретируемыми. Но в свою очередь, фаззи-системы не обладают способностью к обучению [1,2].

Наиболее широко используемым методом обучения таких систем является алгоритм обратного распространения ошибки [9], основанный на градиентном спуске. Наряду с простотой и достаточным качеством для решения многих задач он имеет также существенные недостатки такие, как низкая скорость сходимости, чувствительность к шуму и зависимость качества функционирования от эвристически выбираемого шага обучения. Другим не менее важным недостатком нечетких систем является то, что исходный набор постулируемых нечетких правил формулируется экспертом-человеком и может оказаться неполным или противоречивым, при этом, вид и параметры функций принадлежности, описывающих входные и выходные переменные системы, выбираются субъективно и могут оказаться не вполне отражающими реальную действительность[11].

Для решения данных проблем в работе [7] была описана разработанная нами система на основе методологии синтеза нечетких нейронных сетей с помощью иммунного алгоритма для решения задач аппроксимации на примере прогнозирования электрической нагрузки. Предложенные в данной работе показали высокую эффективность, поскольку снимают проблему выбора и настройки “вручную” функции принадлежности и весов правил в нечетких нейронных сетях. Другой практической проблемой, рассматриваемой в работе, является проблема нестационарных временных рядов. В работе проведены исследования использования комбинированного разложения нестационарного временного ряда с помощью дискретного вей влет-преобразования. Основная идея заключается в разработке гибридной системы позволяющей усиливать сильные стороны вей влет-преобразований, иммунных алгоритмов и нечетких нейронных сетей для решения задачи прогнозирования нестационарных временных рядов.

Решение задачи. Пусть дан временной ряд , где  - значение в дискретное время t, нам необходимо предсказать значение во время  .

Архитектура системы включает шесть главных этапа (Рисунок 1).

 

Рис.1 Структура комбинированного метода прогнозирования

 

На первом этапе осуществляется преобразование данных, посредством вычисления индекса волатильности, вычисляемого по формуле(1):

(1)

На втором этапе осуществляется предобработка данных используя методы многомасштабного вейвелет-анализа для осуществления декомпозиции временного ряда волатильности  с целью получения векторов разложения для входных  низкочастотных и высокочастотных фильтров разложения, обнуление коэффициентов детализации с целью удаления шума. На третьем этапе осуществляется удаление шума (обнуление коэффициентов детализации). На четвертом этапе для каждого вектора разложения  с помощью коэффициента автокорреляции определяются параметры вложения (количество входных элементов). На пятом этапе с помощью алгоритма клонального отбора синтезируется нечеткая нейронная сеть для осуществления одношагового прогноза по каждой вейвлет-компоненте. На шестом этапе прогнозы отдельных вейвлет-компонент повторно объединяются (одномерное вейвлет-восстановление) для получения составного прогноза(агрегация прогноза).

Пусть– временной ряд, – уровень декомпозиции временного ряда, тогда временной ряд можно представить в виде выражения:

(2)

где – детализирующие вейвлет-коэффициенты для различных уровней разложения, а  – аппроксимирующие вейвлет коэффициенты диадного (дискретного) вейвлет-преобразования. Диадное вейвлет-преобразование может быть представлено как итерационный процесс свертки. Процесс свертки диадного вей влет-преобразования в общем случае может быть описан с помощью следующего выражения:

(3)

где – исходный сигнал, – разложенный сигнал с помощью высокочастотного (детализирующие коэффициенты) и низкочастотного (аппроксимирующие коэффициенты) фильтров.

Данное разложение повторяется несколько раз для дальнейшего увеличения частотного разрешения, с дальнейшим прореживанием коэффициентов после НЧ и ВЧ-фильтров. Другими словами, сигнал разбивается на аппроксимирующие и детализирующие коэффициенты, далее они разбиваются на второй уровень аппроксимации и детализации и таким образом процесс повторяется несколько раз. Такая операция последовательной разбивки с помощью низкочастотного фильтра для аппроксимации сигнала и постепенного огрубления была предложена, Маллатом и известна как алгоритм Маллата. Другими словами, если сложить полученные на выходах ах сигналы, то получится исходный сигнал, т.е. будет иметь место полная реконструкция исходного сигнала на начальном уровне. В процессе каждой последующей самый высокий компонент разлагается компонент исходного сигнала. В нашей реализации использована глубина разложения . В качестве базисного вейвлета использовались вейвлеты Добеши (Db4). Полученный ряд  является предобработанным сгенерированным уровнем  вейвлет-разложения в соответствии с формулой (2), на основе алгоритма суммирования. Более низкие уровни вейвелет-декомпозиции являются компонентами с высокой частотой, которые соответствуют шуму исходного сигнала . Мы провели ряд экспериментов с удалением этих компонент, в результате чего получили модифицированный ряд  в соответствии с выражением (4):

                                               

(4)

где  – исходный ряд, –вейвлет-компонента представляющая собой шум.

 Таким образом, новый временной ряд  имеет минимальный уровень шума.При решении задачи синтеза нечеткой нейронной сети рассматривается задача идентификации модели объекта нелинейной структуры вида:

,

(5)

для которого зависимость между входами  и выходом  можно представить в виде нечеткой базы знаний:

(6)

где  – множество нечетких термов входных переменных;  – множество классов выходной переменной; P – множество нечетких правил вида:

,

(7)

где  – количество дизъюнктов в левой части строки базы знаний;  - веса правил; .

 

Рис.2 Обобщенная структура нечеткой нейронной сети

 

 - входной слой с функцией .

 - слой фазификации, для которого определена функция:

,

(8)

где  - множество нечетких подмножеств на .

В качестве функций фазификации были выбраны несколько функций:

- сигмовидная

(9)

которая настраивается при помощи параметров a и b;

- треугольная

 

 

,

(10)

где - настраиваемые параметры функции;

- гауссова

,

(11)

с параметрами a и b.

элементы настройки нечеткой нейронной сети:

- типы функций фаззификации;

-  - параметры настройки функций фазификации;  – общее количество термов всех входных переменных;

-  - веса нечетких правил; p – общее количество правил в базе.

Строку антитела можно условно разделить на три части (Рис.3):

 

Рис.3 Структура антитела для  синтеза нечеткой нейронной сети

 

Рассматриваются задачи многокритериальной оптимизации:

(12)

 

где , n – количество критериев задачи.

обобщенная форма антител представляет собой вектор аргументов , а  в качестве антигенов используются сами критерии , выраженные в виде функций: . Значения  аффинности  вычисляются на основании значений критериев , отображенных во множество неотрицательных чисел, т.е.:

.

(13)

Вычисление аффинности представляет собой поиск значения ошибки модели относительно данных экспериментов и выражается в виде следующей функциональной зависимости:

(14)

где - среднеквадратическая ошибка выхода модели на обучающих данных; q – количество строк таблицы экспериментов;  - реальное значение выхода системы в i-той строке таблицы данных; - значение выхода модели при установке i-того набора входных параметров из таблицы данных.

Экспериментальные результаты. В качестве экспериментальных даннях использовали данные значения 30-минутные значения цены закрытия индекса HER SP за период с 02.01.2002–23.04.2002. Размер обучающей выборки 700 значений  за период с 02.01.2002 по 20.03.2002, размер тестовой выборки 300 за период с 20.03.2002 по 23.04.2002.

 

Рис.4 Исходный ряд  индекса волатильности, вычисляемого по формуле(1)

 

Обучающая выборка была преобразована в ряд  в соответствии с формулой (1). Был выполнен вейвлет-анализ с уровнем вейвлет-разложения  8. Были удалены детализирующие вейвлет-коэффициенты   и , в результате был получен очищенный от шума временной ряд  (выражение (4)).

 

(a)

(b)

(c)

Рис.5 Детализирующие коэффициенты  и  после обработки высокочастотным фильтром

 

Рис.6 Очищенный от шума временной ряд

Для каждого ряда вейвлет-коэффициентов ( и  была синтезированы нечеткие нейронные сети для одношагового прогноза. При этом, для фазификации использовались  сигмовидная (9), треугольная (10) и гауссовая (11) функции, которые использовались для прогноза  каждого отдельного вейвлет-коэффициента. Посредством обратного вейвлет-преобразования прогнозы были объединены и в результате был получен одношаговый прогноз исходного временного ряда.

  Таблица 1

Сравнительная экспериментальная оценка точности прогноза по СКО

Временные ряды

Функции фазификации нечеткой нейронной сети

Сигмовидная

Треугольная

Гауссова

– исходный временной ряд

9.2

8.9

9.9

– преобразованный в ряд волатильности

8.3

 

8.5

8.9

– очищенный от шума ряд волатильности

4.3

5.3

3.6

 

Заключение. В работе представлена методология применения и синтеза нечетких нейронных сетей с помощью алгоритма клонального отбора для решения задач прогнозирования нестационарных временных рядов. Мы показали, как можно  использовать дискретное вейвлет-преобразование, для предобработки нестационарных временных рядов, таким образом позволяя применить для решения задач прогнозирования неслучайных вейвлет-компонентов нечеткие нейронные сети.

Предложенная методология метрология имеет следующие преимущества:

1.                  Результаты экспериментов, выполненные на временных рядах с высоким уровнем волатильности  30-минутная интервалы индекса HER SP показали что подход использующий комбинацию: “вейвлеты – клональный алгоритм отбора – нечеткая нейронная сеть”  дает более точные результаты на очищенном шума ряде волатильности , чем  на непредобработанном исходном ряде и неочищенном от шума волатильном ряде.

2.                  Свойства кратномасштабного дискретного вейвлет-преобразования  позволяет увеличить точность прогноза волатильности нестационарных финансовых временных рядов.

3.                  Проведенные эксперименты также показали, что наиболее эффективным, с точки зрения точности прогноза, является применение в качестве функции принадлежности (функции фазификации) является Гауссовой функции.

 

В дальнейших исследованиях мы планируем сосредоточиться на решении следующих проблем:

o                   очистке нестационарных сигналов от шума;

o                   применения искусственных иммунных сетей для синтеза нечетких нейронных сетей;

o                   решении задачи прогнозирования коллективами нечетких нейронных сетей.

 

In article results of research on application of synthesis of an fuzzy neural network by means of algorithm clonal selection for the decision of a problem of forecasting of non-stationary time series are described. It is offered a technique of a filtration of a time number for removal high-frequency components of a time series. Comparative researches for an estimation of forecasting raw and processed wavelet a time series are carried out at various functions of an accessory. The received results have shown high efficiency of the offered method.

 

1.                  Bodyanskiy Ye., Gorshkov Ye., and Kolodyazhniy V.. Combined neural network for non-linear system modeling. In Proc. Int. Conf. on Computational Intelligence for Modeling, Control and Automation CIMCA’2003, Vienna, Austria, pages 692–703, 2003.

2.                  Bodyanskiy Ye., Gorshkov Ye., and Kolodyazhniy V.. Resource-allocating probabilistic neuro-fuzzy network. In Proc. 3rd Int. Conf. of European Union Society for Fuzzy Logic and Technology (EUSFLAT ’2003), Zittau, Germany, pages 392–395, 2003.

3.                  А.Aussem, and F. Murtagh Comining neural network forecasts on wavelet-transformed time series. Connection Science,  vol.9, pages 113-121,1997.

4.                  B.Kosko Fuzzy systems as universal approximators. In proceedings of the IEEE International Conference on Fuzzy Systems, 1992

5.                  Добеши И. Десять лекций по вейвлетам. - Ижевск 2001

6.                  Фефелов А.О., Литвиненко В.І., Бідюк П.І. Формалізація методів побудови штучних імунних систем // Наукові вісті Національного технічного університету України “Київський політехнічний інститут”, 2007, № 1, 2007, с. 29-41.

7.                  Бардачев Ю.Н., Гринавцев О.В., Литвиненко В.И.,.Шерстюк В.Г Использование искусственных иммунных сетей для синтеза и обучения нечетких нейронных сетей при решении задач прогнозирования энергопотребления//Моделювання та керування станом еколого-економічних систем регіону.– Випуск 3, 2006, с.47-68.

8.                  Литвиненко В.И. Методология прогнозирования гетероскедастических процессов c применением искусственных иммунных систем // Системні технології. Регіональний міжвузівський збірник наукових праць. Випуск 6(53). – Дніпропетровськ, 2007, с. 139-152.

9.                  D.E. Rumelhart, G.R. Hinton, and R.J. Williams. Learning internal representation by error propagation. Parallel Distributed Processing, 1:318–364, 1986.

10.              Ярушкина Н. Г. Нечеткие нейронные сети с генетической настройкой/ Научная сессия МИФИ – 2004. VI Всероссийская научно-техническая конференция «Нейроинформатика–2004»: Лекции по нейроинформатике. Часть 1. – М.: МИФИ, 2004.с151 – 197 с.

 

 

 





Ответы на вопросы [_Задать вопроос_]

Информационно-измерительные системы

Ковальов О.І. Вимірювання у процесно-орієнтованих стандартах

Полякова М.В., Ищенко А.В., Худайбердин Э.И. Порогово-пространственная сегментация цветных текстурированных изображений на основе метода JSEG

Дзюбаненко А. В. Организация компьютерных систем для анализа изображений

Гордеев Б.Н., Зивенко А.В., Наконечный А.Г. Формирование зондирующих импульсов для полиметрических измерительных систем

Богданов А.В., Бень А.П., Хойна С.И. Релаксация обратного тока диодов Шоттки после их магнитно-импульсной обработки (МИО)

Тверезовский В.С., Бараненко Р.В. Проектирование измерителя добротности варикапов

Тверезовский В.С., Бараненко Р.В. Оптимизированная модель измерителя доб-ротности варикапов

Руднєва М.С., Кочеткова О.В., Задорожній Р.О. Принципи побудови оптимальної структури інформаційно-вимірювальної системи геометричних розмірів об’єктів в діапазоні від 1 нм до 1000 нм

Биленко М.С., Рожков С.А., Единович М.Б. Идентификация деформаций пе-риодических структур с использованием систем технического зрения

Рашкевич Ю.М., Ковальчук А.М., Пелешко Д.Д. Афінні перетворення в модифікаціях алгоритму RSA шифрування зображень

Дидык А.А., Фефелов А.А, Литвиненко В.И., Шкурдода С.В., Синяков Ф. В. Классификация масс-спектров с помощью кооперативного иммунного алгоритма

Клименко А.K. Обратная модель для решения задач в системах с многосвязными динамическими объектами

Завгородній А.Б. Порівняльне дослідження твердотільних і рідиннофазних об'єктів методом газорозрядної візуалізації

Голощапов С.С., Петровский А.В., Рожко Ж.А., Боярчук А.И. Измерение доб-ротности колебательного контура на основе метода биения частот

Кириллов О.Л., Якимчук Г.С. Диагностирование критерия безопасности при заполнении замкнутых объемов СПЖ косвенным методом

Долина В.Г. Проблеми підвищення точності рефрактометра на основі прозорих порожнистих циліндрів.

Самков О.В., Захарченко Ю.А. Застосування алгоритму клонального відбору для побудови планів модернізації авіаційної техніки

Попов Д.В. Метод формування регламентів технічного обслуговування повітряних суден

Казак В.М., Чорний Г.П., Чорний Т.Г. Оцінювання готовності технічних об’єктів з урахуванням достовірності їх контролю

Тверезовский В.С., Бараненко Р.В. Технические аспекты проектирования цифрового измерителя добротности варикапов

Тверезовский В.С., Бараненко Р.В. Технические аспекты проектирования устройства для разбраковки варикапов по емкостным параметрaм и добротности

Сосюк А.В. Інтелектуальний автоматизований контроль знань в системах дистанційного навчання

Соколов А.Є. Деякі аспекти систезу комп’ютеризованої адаптивної системи навчання

Полякова М.В., Волкова Н.П., Іванова О.В. Сегментація зображень стохастичних текстур амплітудно-детекторним методом у просторі вейвлет-перетворення

Луцкий М.Г., Пономаренко А.В., Филоненко С.Ф. Обработка сигналов акустической эмиссии при определении положения сквозных дефектов

Литвиненко В.И., Дидык А.А., Захарченко Ю.А. Компьютерная система для решения задач классификации на основе модифицированных иммунных алгоритмов

Лубяный В.З., Голощапов С.С. Прямоотсчетные измерители расхождений емкостей

Беляев А.В. Построение навигации для иерархических структур в WEB-системах и системах управления WEB-сайтом

Терновая Т.И., Сумская О.П., Слободянюк И.И., Булка Т.И. Контроль качества тканей специального назначения с помощью автоматических систем.

Шеховцов А.В. Інформаційний аспект: розпізнавання образів індивідуума.

Полякова М.В. Определение границ сегмента упорядоченной текстуры на изображении с однородным фоном с помощью многоканального обнаружения пачки импульсов.

Ковриго Ю.М., Мисак В.Ф., Мовчан А.П., Любицький С.В. Автоматизована система діагностики генераторів електростанцій

Браїловський В.В., Іванчук М.М., Ватаманюк П.П., Танасюк В.С. Керований детектор імпульсного ЯКР спектрометра

Забытовская О.И. Построение функции полезности по экспериментальным данным.

Шиманські З. Апаратні засоби сегментації мовного сигналу

Хобин В.А., Титлова О.А. К вопросу измерения парожидкостного фронта в дефлегматоре абсорбционно-диффузионной холодильной машины (АДХМ)

Фефелов А. А. Использование байесовских сетей для решения задачи поиска места и типа отказа сложной технической системы

Слань Ю. М., Трегуб В. Г. Оперативна нейромережна ідентифікація складних об’єктів керування

Ролик А.И. Модель управления перераспределением ресурсов информационно-телекоммуникационной системы при изменении значимости бизнес-процессов

Кириллов О.Л., Якимчук Г.С., Якимчук С.Г. Изучение электрического поля с помощью датчика измерителя электростатического потенциала на модели замкнутого металлического объема

Грицик В.В. Застосування штучних нейронних мереж при проектуванні комп’ютерного зору.

Гасанов А.С. Информационные технологии построения систем прогнозирования отказов

Шеховцов А.В., Везумский А.К., Середа Е.С. Алгоритм сжатия информации без потерь: модифицированный алгоритм LZ77

Ходаков В.Е., Жарикова М.В., Ляшенко Е.Н. Методы и алгоритмы визуализации пространственных данных на примере моделирования распространения лесных пожаров.

Полякова М.В., Крылов В.Н. Обобщённые масштабные функции с компактным носителем в задаче сегментации изображений упорядоченных текстур. – C. 75 – 84.

Полторак В.П., Дорогой Я.Ю. Система распознавания образов на базе нечеткого нейронного классификатора.

Литвиненко В.И. Синтез радиально-базисных сетей для решения задачи дистанционного определения концентрации хлорофилла.

Бражник Д.А. Управление совмещением изображения объекта в сцене и эталонного изображения.

Бабак В.П., Пономаренко А.В. Локализация места положения сквозных дефектов по сигналам акустической эмиссии.

Мороз В. В. R-D проблема и эффективность систем сжатия изображений.

Крылов В.Н., Полякова М.В., Волкова Н.П. Контурная сегментация в пространстве гиперболического вейвлет-преобразования с использованием математической морфологии.

Квасников В.П., Баранов А.Г. Анализ влияния дестабилизирующих факторов на работу биканальной координатно-измерительной машины.

Казак В.М., Гальченко С.М., Завгородній С.О. Аналіз можливості застосування імовірнісних методів розпізнавання для виявлення пошкоджень зовнішнього обводу літака.

Тищенко И.А., Лубяный В.З. Управление коммутационными процессами в интегрированных сетях связи.

Корниенко-Мифтахова И.К.,Филоненко С.Ф. Информационно-измерительная система для анализа характеристик динамического поведения конструкций.

Тверезовский В.С., Бараненко Р.В. Модель измерителя емкости с линейной шкалой измерений.

Полякова М.В., Крылов В.Н. Мультифрактальный метод автоматизированного распознавания помех на изображении.

Рожков С.О., Федотова О.М. Алгоритм розпізнавання дефектів тканин для автоматичної системи контролю якості.

Бражник Д.А. Использование проективного преобразования для автоматизации обнаружения объектов.

Ходаков В.Є., Шеховцов А.В., Бараненко Р.В. Математичні аспекти створення автоматизованої системи „Реєстр виборців України”