Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Приложение методов фрактального анализа, теории графов и анализа сложных сетей к исследованию временных рядов.pdf
X
- •Оглавление
- •Введение
- •1.2.4. Метод усредненного вейвлет-коэффициента
- •1.1. Корреляционный анализ
- •1.1.1. Типы автокорреляции
- •1.1.2. Автомодельные процессы
- •1.2. Методы анализа долговременных автокорреляций
- •1.2.1. R/S-анализ
- •1.2.2. Флуктуационный анализ
- •1.2.3. Анализ детрендированных флуктуаций
- •1.2.5. Метод преобразования Фурье
- •1.2.6. Мультифрактальный анализ детрендированных флуктуаций
- •1.3.1. Временной ряд интенсивности новостного потока
- •1.3.2. Анализ самоподобия интенсивности новостей
- •1.4. Измерение долговременных корреляций во временных рядах настроений новостного потока
- •1.4.1. Временные ряды настроений новостей
- •1.4.2. Анализ самоподобия настроений новостей
- •1.4.3. Исследование мультифрактальности
- •2. Методы анализа данных новостной аналитики
- •2.1. Построение графа совместных упоминаний компаний в финансовых новостях
- •2.2. Анализ сети со-упоминания компаний
- •2.2.1. Сетевой анализ, методология анализа социальных сетей
- •2.2.2. Временной ряд интенсивности новостного потока
- •2.2.3. Анализ ключевых компаний
- •2.2.4. Анализ ключевых компаний по секторам экономики
- •2.2.5. Анализ ключевых компаний по биржам
- •2.2.6. Анализ распределения степеней вершин
- •2.2.7. Анализ распределения степеней вершин для подграфов
- •2.2.8. Кластерный анализ
- •2.2.9. Распределение коэффициентов кластеризации для подграфов
- •2.2.10. QAP корреляционный и регрессионный анализ
- •2.2.11. Основные выводы по анализу сети со-упоминания компаний
- •2.3.1. Распределение степеней вершин и коэффициентов кластеризации
- •2.3.2. Эволюция размера максимальных клик
- •3.1. Кластерный подход на основе графов для обнаружения событий
- •3.1.1. Обнаружение событий с помощью временных и атрибутивных ограничений
- •3.1.2. Описание данных
- •3.1.3. Результаты обнаружения событий
- •Заключение
- •Список литературы

Глава 1
Методы анализа фрактальности во временных
рядах и их приложение
В главе описываются разные методы анализа фрактальной структуры временных рядов. Эти методы используются для выявления долговременных автокорреляций и самоподобия в финансовых и экономических временных рядах [7, 19–26], гидрологии [8, 27], биомедицинских
сигналах [6, 28–34], человеческой походке [35–37], термодинамических
системах [38], последовательностях аминоксилот в ДНК [4,39, 40], турбулентности [41,42], динамике интернет-трафика [5], длине пряжи [43],
плодородии почв [44–46], распространении болезней [47], исследовании эритроцитов крови [48], системах распределения электроэнергии
[49,50], нефтегазовой литологии [51], прогнозировании осадков [52].
Первое эмпирическое исследование самоподобия было опубликовано в 1951 г. Хёрстом (Herst) [8]. За последние 50 лет было разработано много методов и техник для изучения масштабирующих свойств и
долговременной зависимости во временных рядах, проявляющих самоподобное поведение. Среди них анализ масштабированного спектра [8],
метод структурной функции [53], подход максимума модуля вейвлетпреобразования [54], анализ детрендированных флуктуаций (DFA) [2],
метод вычитанием тренда скользящей средней (DMA) [3], метод вейвлет-преобразования [55].
В данной работе некотрые из перечисленных методов применены к
анализу новостного потока. Это позволяет подтвердить присутствие самоподобного поведения во временных рядах интенсивности и настроений потока экономических и финансовых новостей. Продемонстрировано также преимущество метода DFA в сравнении с R/S-анализом и
методом преобразования Фурье, заключающееся в более стабильном поведении флуктуационной функции, что дает возможность подтвердить
ярко выраженный эффект кроссовера.
11

Приложение методов фрактального анализа, теории графов
1.1. Корреляционный анализ
Под случайным (стохастическим) процессом будем понимать слу-
чайную последовательность X = (xt)
+∞
, представляющую собой ста-
t=−∞
тистическое явление, развивающееся во времени согласно законам теории вероятностей. Временной ряд (выборка случайного процесс а) – это
лишь один из видов реализации данного теоретического случайного
процесса: (xt)
n
, где n – длина временного ряда. Таким образом, меж-
t=1
ду стохастическим процессом и временным рядом нет принципиального
различия, они отличаются только характером своей области определения. Большинство известных примеров стохастических процессов можно рассматривать как временные ряды. Например, число пятен на Солнце измеряется не непрерывно, а лишь раз в сутки и поэтому является
реализацией временного ряда. Отказы оборудования и курс валют тоже
определяются не непрерывно, а следовательно, их можно рассматривать
как временные ряды. Наглядным примером стохастического процесса
является напряжение в электросети, которое регистрируется вольтметром непрерывно.
Для выявления зависимостей во временном ряду применяются ме-
тоды корреляционного и R/S-анализа.
Ковариация стационарного случайного процесса Xtназывается ав-
токовариацией с лагом (задержкой) s и определяется формулой
B(t, s) = cov(Xt,X
) = M[(Xt− M(Xt))(X
t+s
t+s
− M(X
))]),s = 1, 2, . .. .
t+s
Автокорреляцией с лагом s является нормированная автоковариация
C(t, s) = B(t, s)/σtσs,
где σ2= D(Xt) – дисперсия, −1 ≤ C(t, s) ≤ 1.
Автокорреляция определяет степень линейной взаимосвязи между
Xtи X
. Совокупность значений автокорреляций при всевозможных
t+s
значениях s называется автокорреляционной функцией случайного процесса. Автокорреляционная функция показывает статистическую зависимость взаимосвязей значений временного ряда при разных сдвигах
времени. Необходимо отметить, что при больших значениях s оценка
коэффициента автокорреляции не надежна. Если рассматриваемый случайный процесс близок к белому шуму, то автокорреляционная функция
близка к нулю. Если ряд стационарный, то автокорреляционная функция
начиная с некоторого момента затухает или совсем исчезает. Например,
12

Глава 1. Методы анализа фрактальности во временных рядах и их приложение
для модели авторегрессии (AR) и модели скользящего среднего (MA) она
затухает по синусоиде либо экспоненциально убывает.
Долговременная (длинная) память – это свойство, означающее существование значимой автокорреляции в моментах высших порядков
(долговременных корреляций). Таким образом, если временному ряду
свойственна длинная память, то существует зависимость даже между
наблюдениями, далеко отстоящими друг от друга во времени. Подтверждение или отклонение этой гипотезы осуществляется на основе разных
методов фрактального анализа.
1.1.1. Типы автокорреляции
Временной ряд можно рассматривать как наблюдаемые значения
одного из видов реализации случайного процесса для моментов времени
t = 0,1, . . . ,n.
Пусть X = (xt)
n
является достаточно продолжительным времен-
t=1
ным рядом длиной n и пусть s ∈ N, s ≪ n. Обозначим C(s) коэффициент
(авто)корреляции между X1= (xt)
n−s
t=1
и X2= (x
n−s
)
. Можно выделить
t+s
t=1
следующие типы корреляционной зависимости:
1) отсутствие автокорреляции – очевидно, что если X1и X2некоррелированы, то C(s) стремится к нулю при n → ∞, C(s) = 0;
2) краткосрочная корреляция (xt)
альном убывании C(s), т. е. C(s) ∼ e
3) долговременная корреляция (xt)
n
– наблюдается при экспоненци-
t=1
−s/s
0
n
t=1
, где s0– параметр;
, C(s) убывает по степенному за-
кону: C(s)∼ s−γ, 0 < γ < 1.
Важно отметить, что при анализе графиков выборочных автокорре-
ляционных функций необходимо ориентироваться на анализ скорости
убывания значений выборочных коэффициентов автокорреляции. Отдельные высокие или низкие значения не являются свидетельством наличия или отсутствия долговременной памяти. Более важным является
определение скорости стремления автокорреляций к нулю с увеличением лага. Чем выше степень персистентности (устойчивости) процесса,
тем более медленной будет конвергенция (сходимость) к нулю и тем
большей будет сумма корреляций.
Примеры графиков автокорреляционной функции процессов, по-
рождаемых моделями ARFIMA, авторегрессии, броуновского движения
и фрактального броуновского движения приведены на рис. 1.1, 1.2.
13

Приложение методов фрактального анализа, теории графов
0.8
0.6
0.4
ACF
0.2
0
0 10 20 30 40
Лаг
Рис. 1.1. Коррелограмма рядов с короткой (AR)
и длинной (ARFIMA) памятью
ARFIMA
AR(1)
50
0.6
0.4
ACF
0.2
0
0 10
Рис. 1.2. Коррелограмма рядов с короткой (Gn)
и длинной (f Gn) памятью
20 30 40
Лаг
Gn; H = 0.5
f Gn; H = 0.6
f Gn; H = 0.9
50
Визуальный анализ выявляет медленное убывание автокорреляций
рядов, порождаемых моделями ARFIMA и фрактального броуновского движения. Это свидетельствует о присутствии долговременной памяти для таких временных рядов. Напротив, процессы с короткой па-
14

Глава 1. Методы анализа фрактальности во временных рядах и их приложение
мятью (авторегрессия и броуновско е движение) характеризуются лишь
несколькими значимыми автокорреляциями при малых лагах.
1.1.2. Автомодельные процессы
Как уже отмечалось, вывод о наличии долговременной памяти во
временных рядах зависит от поведения автокорреляционной функции
при больших лагах, которые может быть трудно оценить эмпирически.
По этой причине модели с долговременной зависимостью часто сформулированы в терминах автомодельных процессов, которые позволяют
экстраполировать шкалы времени и вывести долгосрочное поведение из
краткосрочного, которое легче наблюдать.
Случайный процесс X = (xt)
называется автомодельным (само-
t≥0
подобным, self-similar), если для каждого c > 0 можно найти такое b > 0,
что случайные процессы Xctи bXtимеют одинаковый закон конечномерных распределений [56]:
Law{Xct} = Law{bXt}.
Случайный процесс X = (xt)
называется автомодельным процес-
t≥0
сом с показателем Хёрста H, если для любого c > 0 параметр b = cH,
т. е. если существует H > 0 такое, что для любого коэффициента масштабирования c > 0 процессы (xct)
n
t=1
и (cHxt)
n
имеют одинаковый
t=1
закон конечномерных распределений:
Law{xct} = Law{cHxt}.
С наглядной точки зрения это означает, что изменение временной шкалы
(t → at) приводит к тому же результату, что и изменение фазовой шкалы (x → bx). Величина D =
1
называется статистической фрактальной
H
размерностью случайного процесса X.
Данное определение означает, что малая часть временного ряда подобна большей его части. Параметр H называется показателем (экспонентой) Хёрста и является безразмерной оценкой степени самоподобия
процесса X [53]. Показатель H(0 < H < 1) характеризует меру долговременной зависимости случайного процесса, т. е убывание автокорреляционной функции C(s) по степенному закону C(s)∼s−γ,H = 1 −(γ/2).
Заметим, что самоподобный процесс не может быть стационарным, так
как дисперсия стационарного процесса не изменяется во времени. Поэтому приведенное выше определение долговременной зависимости может применяться только к нестационарным процессам.
15

Приложение методов фрактального анализа, теории графов
В 1968 году Мандельброт (Mandelbrot) и Ван Несс (van Ness) [27]
установили связь между автомодельными процессами и долговременной зависимостью в стационарных временных рядах с помощью фрактального гауссовского шума ( f Gn) и получили его спектральную плотность f (λ) ∼ cH |λ|
1−2H
(1/2 < H < 1) с интегрируемым полем в начале
координат, что приводит к понятию «1/f-шум» (фликкер-шум или розовый шум) [57]. Фрактальное броуновское движение ( f Bm) является типичным примером самоподобного процесса, приращения которого демонстрируют долговременную зависимость: фрактальное броуновское
движение с показателем самоподобия H∈]0,1[ является реальным центрированным гауссовским процессом со стационарными приращениями
H
n
(B
)
с ковариационной функцией:
t
t=1
cov(B
H
,B
t
1
H
) =
(|t|2H+ |s|2H− |t −s|2H).
s
2
Отметим, что приращения процесса f Bmмоделируются как процесс
f Gnс тем же параметром Хёрста H . При H = 1/2 получаем броунов-
ское движение, т. е приращения не коррелированны. При 0 < H < 1/2
приращения имеют краткосрочную зависимость; при 1/2 < H < 1 мы
имеем дело с долговременной зависимостью приращений [27, 58]. Но
самоподобие никоим образом не подразумевает долговременной зависимости: α-стабильные процессы Леви [59, 60] являются примерами автомодельных процессов с независимыми приращениями. Самоподобие
также не подразумевается зависимостью на больших расстояниях: Черидито (Cheridito) [61] приводит несколько примеров гауссовых процессов
с такими же характеристиками зависимости на больших расстояниях,
что и дробный броуновский шум, но без самоподобия. Сравнение дробных броуновских движений и α-стабильных процессов Леви показывает,
что самоподобие может иметь самые разные причины: оно может возникать из-за высокой изменчивости в ситуациях, когда приращения являются независимыми и тяжеловесными (стабильные процессы Леви),
или из-за сильной зависимости между приращениями даже при отсутствии большой изменчивости, что иллюстрируется на примере дробного
броуновского движения. Эти два механизма самоподобия были названы
Мандельбротом эффектом Ноя и эффектом Джозефа [62]. Смешивая эти
эффекты, можно построить автомодельные процессы, в которых присутствуют как долговременная зависимость, т ак и тяжелые хвосты: такие
примеры предлагают дробно-устойчивые процессы [58, 63].
16

Глава 1. Методы анализа фрактальности во временных рядах и их приложение
Присутствие долговременной памяти означает, что информация, содержащаяся в прошлом поведении временного ряда, может быть использована для прогноза его будущих значений. Объяснение возможных
причин возникновения явления долговременной памяти в финансовых
временных рядах будет предложено в ходе эмпирического анализа интенсивности и настроений новостного потока.
1.2. Методы анализа долговременных автокорреляций
1.2.1. R/S-анализ
Метод нормированного размаха накопленных сумм, или R/S-анализ
(R/S analysis, R/S), является одним из популярных методов обнаружения
циклов и долговременной памяти во временных рядах [64–68]. Эмпирическим путем Хёрст определил следующее соотношение в терминах
асимптотического поведения масштабированного диапазона:
"
#
R(s)
E
где H – экспонента Хёрста,
R(s) – размах накопленных отклонений первых s значений от сред-
него значения ряда,
S(s) – стандартное отклонение,
s – число точек в отрезке временного ряда,
K – постоянная.
R/S-анализ включает следующие этапы:
– разбиение. Разобьем (xk)
валов X
(i)
(s) := {x
(i−1)s+1
начиная с x1;
– расчет отклонения от среднего:
(i)
y
j
1
где x(s) =
is
∑
t=(i−1)s+1
s
xt– среднее значение для i-го отрезка длиной s,
и j = (i − 1)s + 1, . . . ,is;
– расчет размаха:
(i)
R
(s) = max
(i−1)s+1≤ j≤is
= KsH,s → ∞, (1.1)
S(s)
n
на ns= [n/s] не пересекающихся интер-
k=1
,. . . , xis}, i = 1,. .. , ns, одинаковой длины s,
j
(s) =
t=(i−1)s+1
{y
(xt− x(s)),
∑
(i)
(s)} − min
j
(i−1)s+1≤ j≤is
{y
(i)
j
(s)};
17

Приложение методов фрактального анализа, теории графов
– расчет ст андартного отклонения для каждого периода. Для каж-
дого отрезка i = 1,.. ., nsвычисляется стандартное отклонение:
v
u
(s) =
u
t
(i)
S
1
∑
s
t=(i−1)s+1
is
(xt− x(s))2;
– расчет средних значений R/S для разных длин s:
n
(i)
s
1
R
⟨R(s)/S(s)⟩ :=
n
s
∑
i=1
(s)
(i)
S
(s)
, s = s1,. . . , sL;
– расчет показателя Хёрста. Логарифмируя уравнение (1.1) и ис-
пользуя метод наименьших квадратов, рассчитывают показатель
Хёрста:
L
(log(⟨R(sj)/S(sj)⟩) − H logsj− K )2→ min
∑
j=1
H,K
.
В работе [69] указано, что R/S-анализ не подходит для небольших выборок, но может быть весьма эффективным в случае достаточно
длинных временных рядов и часто дает довольно точную картину присутствия или отсутствия долговременной зависимости в данных. Кроме
того, оценки экспоненты Хёрста получены R/S-методом, устойчивы при
распределениях с тяжелыми хвостами [64–67].
Однако R/S-анализ чувствителен к присутствию краткосрочных корреляций. Поэтому многие авторы указывают на присущие данному методу недостатки, считают его не строго обоснованным.
1.2.2. Флуктуационный анализ
Алгоритм флуктуационного анализа (Fluctuation analysis, FA) включает два следующих шага:
– интеграцию. Вычисляется накопленная сумма отклонений
k
где x =
yk=
n
xt;
∑
t=1
(xt− x), k = 1, 2,. . . , n, (1.2)
∑
t=1
18

Глава 1. Методы анализа фрактальности во временных рядах и их приложение
– подсчет функции флуктуации FA, который определяется следующим
образом [1]:
F(s) = FFA(s) =
1
n − s
n−s
∑
k=1
(y
k+s
− yk)
!
1/2
2
.
Функция флуктуаций F (s) позволяет изучить зависимость F от s.
В случае дальней степенной корреляции xt(обладает долговременной
памятью) функция F должна следовать степенному закону
F(s) ∼ s
α
(1.3)
для достаточно больших s. Параметр флуктуаций α связан со значением
корреляционного показателя γ согласно формуле (см. [70])
α = 1 − γ/2, 0 < γ < 1.
Если параметр 0 < α < 1, то X является стационарным процессом
и показатель Хёрста H совпадает с α. Если параметр 1 < α < 2, то X
является нестационарным процессом и H = α − 1. Параметр корреляции
α отражает автокорреляционные свойства временного ряда следующим
образом:
1) α = 1/2, временной ряд является некоррелируемым (белый шум)
или присутствует короткодействующая корреляция;
2) α < 1/2, временной ряд является антикоррелированным;
3) α > 1/2, временной ряд обладает дальней степенной корреляцией;
4) α = 1, 1/f шум;
5) α = 3/2, броуновское движение.
Таким образом, показатель масштабирования α является оценкой
показателя Хёрста H .
1.2.3. Анализ детрендированных флуктуаций
Метод детрендированных флуктуаций (Detrended fluctuation analysis,
DFA) был предложен в [1, 2]. Эффективность применения метода DFA
продемонстрирована на значительном числе примеров его успешного
использования для решения разных проблем как в науке, так и в инженерной области включая анализ ДНК [4,39,40], обработку биомедицинских сигналов [6, 28–31], исследование динамики ежедневного интернет-трафика [5], анализ экономических и финансовых временных рядов [7, 19–22]. Несмотря на то что некоторые исследователи указывают на недостатки данного метода [71], он хорошо себя зарекомендовал
19

Приложение методов фрактального анализа, теории графов
при исследовании долгосрочных корреляций во временных рядах [72].
Обоснование метода DFA можно найти в работе [73].
Алгоритм DFA включает следующие шаги:
– интеграцию. Найдем yk, k = 1, 2,. .. , n, используя (1.2);
– разбиение. Разобьем (yk)
n
на ns= [n/s] непересекающихся интер-
k=1
валов одинаковой длины s начиная с y1;
– локальные тренды. Для каждого интервала l = 1, .. . , nsметодом
наименьших квадратов находятся параметры линейного или степен-
ного тренда Pl, (yk)
ls
k=(l−1)s+1
. Обозначим y
*
= Pl(k);
k
– детрендирование. Из временного ряда удаляется тренд εk(s) = yk−
*
− y
.
k
– нахождение дисперсии остатков εi:
s
1
F
2
l
(s) =
2
ε
∑
s
i=1
(s), l = 1, .. . , ns;
(l−1)s+i
– подсчет функции флуктуации DFA, т. е.
F(s) = F
[m]
DFA
(s) =
n
s
1
∑
n
s
l=1
!
1/2
2
F
(s)
l
.
Для функции флуктуаций F (s), полученной в DFA, также имеет
место соотношение (1.3).
1.2.4. Метод усредненного вейвлет-коэффициента
Метод усредненного вейвлет-коэффициента (The Average Wavelet
Coefficient Method, AWC) был предложен в работах [55,74].
Метод используется для измерения временных самоподобных кор-
реляций временного ряда путем оценки его показателя Хёрста. Метод
AWC основан на вейвлет-преобразовании (хороший обзор вейвлет-преобразования можно найти в книгах [75, 76]).
Стратегия анализа данных методом AWC состоит из трех основных
этапов:
1) вейвлет-преобразования данных X(t) в вейвлет-домен, W [X ](a, b),
где a, b – параметры масштаба и местоположения соответственно
[75,76];
20
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
