- •Введение
- •Основные понятия и определения
- •Типы данных
- •1.1.1. Понятие типа данных
- •1.2.2. Внутреннее представление базовых типов в оперативной памяти
- •1.2.2. Внутреннее представление структурированных типов данных
- •1.2.3. Статическое и динамическое выделение памяти
- •Абстрактные типы данных (атд)
- •Понятие атд
- •1.2.2. Спецификация и реализация атд
- •Структуры данных
- •1.3.1. Понятие структуры данных
- •1.3.2. Структуры хранения — непрерывная и ссылочная
- •1.4.3. Классификация структур данных
- •Алгоритмы
- •1.4.1. Понятие алгоритма
- •1.4.2. Способы записи алгоритмов.
- •1.4.3. Введение в анализ алгоритмов Вычислительные модели
- •Задача анализа алгоритмов
- •Время работы алгоритма
- •Время выполнения в худшем и среднем случае
- •1.4.3. Введение в рекурсию
- •Первые примеры
- •1.5.1. Введение в «длинную» арифметику
- •1.5.2. Рекурсия
- •1.5.3. Поразрядные операции. Реализация атд «Множество»
- •2. Линейные структуры данных
- •2.1. Атд "Стек", "Очередь", "Дек"
- •2.2. Реализация стеков
- •2.2.1. Непрерывная реализация стека с помощью массива
- •2.2.2. Ссылочная реализация стека в динамической памяти
- •2.2.3. Примеры программ с использованием стеков
- •2.3. Реализация очередей
- •2.3.2. Непрерывная реализация очереди с помощью массива
- •2.3.2. Ссылочная реализация очереди в динамической памяти
- •2.3.3. Ссылочная реализация очереди с помощью циклического списка
- •2.3.4. Очереди с приоритетами
- •2.3.5. Пример программы с использованием очереди
- •2.4. Списки как абстрактные типы данных
- •2.4.1. Модель списка с выделенным текущим элементом
- •2.4.2. Однонаправленный список (список л1)
- •2.4.3. Двунаправленный список (список л2)
- •2.4.4. Циклический (кольцевой) список
- •2.5. Реализация списков с выделенным текущим элементом
- •2.5.1. Однонаправленные списки Ссылочная реализация в динамической памяти на основе указателей
- •2.5.2. Двусвязные списки
- •2.5.3. Кольцевые списки
- •2.5.4. Примеры программ, использующих списки Очередь с приоритетами на основе линейного списка
- •Задача Иосифа (удаление из кольцевого списка)
- •2.6. Рекурсивная обработка линейных списков
- •2.6.1. Модель списка при рекурсивном подходе
- •2.6.2. Реализация линейного списка при рекурсивном подходе
- •3. Иерархические структуры данных
- •3.1. Иерархические списки
- •3.1.1 Иерархические списки как атд
- •3.1.2. Реализация иерархических списков
- •3.2. Деревья и леса
- •3.2.1. Определения
- •3.2. Способы представления деревьев
- •3.2.3. Терминология деревьев
- •3.2.4. Упорядоченные деревья и леса. Связь с иерархическими списками
- •3.3. Бинарные деревья
- •3.3.1. Определение. Представления бинарных деревьев
- •3.3.2. Математические свойства бинарных деревьев
- •3.4. Соответствие между упорядоченным лесом и бинарным деревом
- •3.5. Бинарные деревья как атд
- •3.6. Ссылочная реализация бинарных деревьев
- •3.6.1. Ссылочная реализация бинарного дерева на основе указателей
- •3.6.2. Ссылочная реализация на основе массива
- •3.6.3. Пример — построение дерева турнира
- •3.7. Обходы бинарных деревьев и леса
- •3.7.1. Понятие обхода. Виды обходов
- •3.7.2. Рекурсивные функции обхода бинарных деревьев
- •3.7.3. Нерекурсивные функции обхода бинарных деревьев
- •3.7.4. Обходы леса
- •3.7.5. Прошитые деревья
- •3.8. Применения деревьев
- •3.8.1. Дерево-формула
- •3.8.2. Задача сжатия информации. Коды Хаффмана
- •4. Сортировка и родственные задачи
- •4.1. Общие сведения
- •4.1.1. Постановка задачи
- •4.1.2. Характеристики и классификация алгоритмов сортировки
- •4.2. Простые методы сортировки
- •4.2.1. Сортировка выбором
- •4.2.2. Сортировка алгоритмом пузырька
- •4.2.3.Сортировка простыми вставками.
- •4.3. Быстрые способы сортировки, основанные на сравнении
- •4.3.1. Сортировка упорядоченным бинарным деревом
- •Анализ алгоритма сортировки бинарным деревом поиска
- •4.3.2. Пирамидальная сортировка
- •Первая фаза сортировки пирамидой
- •Вторая фаза сортировки пирамидой
- •Анализ алгоритма сортировки пирамидой
- •Реализация очереди с приоритетами на базе пирамиды
- •4.3.2. Сортировка слиянием
- •Анализ алгоритма сортировки слиянием
- •4.3.3. Быстрая сортировка Хоара
- •Анализ алгоритма быстрой сортировки
- •4.3.4. Сортировка Шелла
- •4.3.5. Нижняя оценка для алгоритмов сортировки, основанных на сравнениях
- •4.4. Сортировка за линейное время
- •4.4.1. Сортировка подсчетом
- •4.4.2. Распределяющая сортировка от младшего разряда к старшему
- •4.4.3. Распределяющая сортировка от старшего разряда к младшему
- •5. Структуры и алгоритмы для поиска данных
- •5.1. Общие сведения
- •5.1.1. Постановка задачи поиска
- •5.1.2. Структуры для поддержки поиска
- •5.1.3. Соглашения по программному интерфейсу
- •5.2. Последовательный (линейный) поиск
- •5.3. Бинарный поиск в упорядоченном массиве
- •5.4. Бинарные деревья поиска
- •5.4.1. Анализ алгоритмов поиска, вставки и удаления Поиск
- •Вставка
- •Удаление
- •5.4.3. Реализация бинарного дерева поиска
- •5.5. Сбалансированные деревья
- •Определение и свойства авл-деревьев
- •Вращения
- •Алгоритмы вставки и удаления
- •Реализация рекурсивного алгоритма вставки в авл-дерево
- •5.5.2. Сильноветвящиеся деревья
- •Бинарные представления сильноветвящихся деревьев
- •5.5.3. Рандомизированные деревья поиска
- •5.6. Структуры данных, основанные на хеш-таблицах
- •5.6.2. Выбор хеш-функций и оценка их эффективности
- •Модульное хеширование (метод деления)
- •Мультипликативный метод
- •Метод середины квадрата
- •5.6.2. Метод цепочек
- •5.6.3. Хеширование с открытой адресацией
- •5.6.4. Пример решения задачи поиска с использованием хеш-таблицы
5.6.4. Пример решения задачи поиска с использованием хеш-таблицы
Для примера рассмотрим следующую задачу. Необходимо реализовать быстрый поиск слов в текстовом файле. Для упрощения реализации будем считать, что достаточно определить, встречается ли заданное слово в файле и если встречается, то сколько раз. Разумеется, можно расширить такую постановку задачи и определять номера позиций (строк, страниц), в которых встречается заданное слово, при этом поиск выполнять по коллекции текстовых файлов, можно искать сочетания нескольких слов и т.д. Для демонстрации идеи использования хеш-таблицы такие детали несущественны. Важно другое — в нашей задаче разрешено потратить какое-то начальное время перед поиском на предварительное построение любой подходящей структуры в оперативной памяти (индекса), если поиск в индексе будет выполняться существенно быстрее, чем в исходном файле.
В данном случае весьма подходящей структурой индекса может оказаться не только дерево поиска, хотя этот вариант также может рассматриваться. Однако при удачном выборе хеш-функции индекс на основе хеш-таблицы может обеспечить наименьшее время поиска в среднем на обычных текстовых файлах, содержащих, например, текст на естественном языке или исходные тексты программ на каком-либо языке программирования.
В примере для вычисления хеш-значения каждого слова был использован алгоритм, подробно разобранный в [16]. Его суть в том, что вместо простого вычисления суммы кодов символов слова используется следующая рекуррентная формула:
hi+1=k*hi+si , где i=0,1, …,n-1 (n – длина слова). При этом h0=0.
Здесь si — очередной символ слова, k — специально подобранный множитель, его рекомендуемые значения 31 или 37 (мы взяли 31). За счет умножения частичной суммы hi на этот множитель обеспечивается более равномерное распределение слов в хеш-таблице, чем при использовании многих других хеш-функций [16].
Для реализации хеш-таблицы был выбран метод цепочек, в качестве которых используются обычные однонаправленные связанные списки. Элементы хеш-таблицы в качестве информационной части содержат значение слова (ключ) и количество повторений этого слова в файле (связанные данные). Размер массива указателей (N=2013) выбирался, исходя из того, что общее количество различных слов в реальных текстах вряд ли превысит 10 000, выбранная хеш-функция обеспечивает хорошее равномерное их перемешивание, поэтому цепочки не должны быть слишком длинными.
#include <iostream.h>
#include <fstream.h>
#include <string.h>
#define N 2013 //размер массива указателей – простое число
//небольшая служебная функция для извлечения слов из файла
int getword(ifstream *, char *, char *,int *);
// описание всех необходимых структур данных
struct item // элемент данных
{ char word[40]; // слово
int count; //число повторений в файле
};
struct h_item // элемент хеш-цепочки
{ item data;
h_item *next;
};
h_item *a[N]; // массив указателей на цепочки
unsigned int hashnumber(char *s)// вычисление хеш-значения
{ const int k=31;
unsigned int h=0; char *a;
for (a = (unsigned char *) s; *a!= '\0'; a++)
{ h = k*h+*a;
h = h % N;
}
return h;
}
bool insert(char *w)//вставка нового значения в хеш-таблицу
{ unsigned int n=hashnumber(w);
h_item *i=a[n];
while (i)
{ if (strcmp(i->data.word,w)==0)
{ i->data.count++;
break;//нашли такое слово
}
i=i->next;
}
if (i==NULL)//слова нет, добавляем новый элемент
{i=new h_item;
strcpy(i->data.word,w);
i->data.count=1;
i->next=a[n];
a[n]=i;
return false;
}
return true;
}
//загрузка слов текстового файла в хеш-таблицу
bool create_hash(char *name)
{ ifstream f(name);
if (f.bad()) {return false;}
char s[100]="", w[40]; int first=1;
for (int n=0; n<N; n++) a[n]=NULL;
while (!getword(&f,s,w,&first)) insert(w);
return true;
}
//поиск слова в хеш-таблице, возвращает количество слов
//если слово не найдено, возвращает нуль
int seach(char *w)
{ unsigned int n=hashnumber(w);
h_item *i=a[n];
while (i)
{ if (strcmp(i->data.word,w)==0)
return i->data.count;
i=i->next;
}
return 0;
}
main()
{ // небольшая демонстрационная программа
char name[50]; // вначале строится хеш-таблица
cout<<"Vvedite imya faila "; cin.getline(name,50);
if (!create_hash(name))
{cout<< "not found"; cin.get();return 1;
}
cout<<"хеш-таблица построена"; cin.get();
char w[40];//выполняется поиск слов до ввода пустой строки
for(;;)
{cout<<"7";cin.getline(w,40); if (strlen(w)==0) break;
int i=seach(w);
if (i==0) cout<<"слово не найдено"<<endl;
else cout<<"слово встречается" <<i<<"раз"<<endl;
}
cin.get(); return 0;
}
int getword(ifstream *f,char *s, char *w, int *first)
{//служебная функция для извлечения слов из файла
char *w1=NULL;
do
{ if (*first)
{ w1=strtok(s," .,;()!?");
*first=0;
}
else w1=strtok(NULL," .,;()!?");
if (w1==NULL)
if (f->getline(s,80)) *first=1;
else return 1;
}
while (w1==NULL); strcpy(w,w1);
return 0;
}
В дополнение к рассмотренным методам хеширования в следующем разделе будет рассмотрен метод расширяемого хеширования применительно к файлам данных, расположенным во внешней памяти.
Введение 4
1. Основные понятия и определения 6
1.1. Типы данных 6
1.1.1. Понятие типа данных 6
1.2.2. Внутреннее представление базовых типов в оперативной памяти 8
1.2.2. Внутреннее представление структурированных типов данных 10
1.2.3. Статическое и динамическое выделение памяти 11
1.2. Абстрактные типы данных (АТД) 12
1.2.1. Понятие АТД 12
1.2.2. Спецификация и реализация АТД 15
1.3. Структуры данных 18
1.3.1. Понятие структуры данных 18
1.3.2. Структуры хранения — непрерывная и ссылочная 19
1.4.3. Классификация структур данных 21
1.4. Алгоритмы 23
1.4.1. Понятие алгоритма 23
1.4.2. Способы записи алгоритмов. 24
1.4.3. Введение в анализ алгоритмов 25
1.4.3. Введение в рекурсию 34
1.5. Первые примеры 37
1.5.1. Введение в «длинную» арифметику 37
1.5.2. Рекурсия 38
1.5.3. Поразрядные операции. Реализация АТД «Множество» 40
2. Линейные структуры данных 45
2.1. АТД "Стек", "Очередь", "Дек" 46
Pop2: Non_null_stack ( α ) α Stack ( α ). 47
2.2. Реализация стеков 49
2.2.1. Непрерывная реализация стека с помощью массива 49
2.2.2. Ссылочная реализация стека в динамической памяти 53
2.2.3. Примеры программ с использованием стеков 55
2.3. Реализация очередей 58
2.3.2. Непрерывная реализация очереди с помощью массива 58
2.3.2. Ссылочная реализация очереди в динамической памяти 62
2.3.3. Ссылочная реализация очереди с помощью циклического списка 66
2.3.4. Очереди с приоритетами 66
2.3.5. Пример программы с использованием очереди 67
2.4. Списки как абстрактные типы данных 69
2.4.1. Модель списка с выделенным текущим элементом 69
2.4.2. Однонаправленный список (список Л1) 71
2.4.3. Двунаправленный список (список Л2) 71
2.4.4. Циклический (кольцевой) список 72
2.5. Реализация списков с выделенным текущим элементом 73
2.5.1. Однонаправленные списки 74
2.5.2. Двусвязные списки 83
2.5.3. Кольцевые списки 85
2.5.4. Примеры программ, использующих списки 85
2.6. Рекурсивная обработка линейных списков 89
2.6.1. Модель списка при рекурсивном подходе 89
2.6.2. Реализация линейного списка при рекурсивном подходе 92
3. Иерархические структуры данных 97
3.1. Иерархические списки 97
3.1.1 Иерархические списки как АТД 97
3.1.2. Реализация иерархических списков 101
3.2. Деревья и леса 105
3.2.1. Определения 106
3.2. Способы представления деревьев 107
3.2.3. Терминология деревьев 110
3.2.4. Упорядоченные деревья и леса. Связь с иерархическими списками 111
3.3. Бинарные деревья 112
3.3.1. Определение. Представления бинарных деревьев 112
3.3.2. Математические свойства бинарных деревьев 114
3.4. Соответствие между упорядоченным лесом и бинарным деревом 117
3.5. Бинарные деревья как АТД 120
3.6. Ссылочная реализация бинарных деревьев 122
3.6.1. Ссылочная реализация бинарного дерева на основе указателей 124
3.6.2. Ссылочная реализация на основе массива 126
3.6.3. Пример — построение дерева турнира 129
3.7. Обходы бинарных деревьев и леса 131
3.7.1. Понятие обхода. Виды обходов 131
3.7.2. Рекурсивные функции обхода бинарных деревьев 133
3.7.3. Нерекурсивные функции обхода бинарных деревьев 134
3.7.4. Обходы леса 140
3.7.5. Прошитые деревья 141
3.8. Применения деревьев 143
3.8.1. Дерево-формула 143
3.8.2. Задача сжатия информации. Коды Хаффмана 152
4. Сортировка и родственные задачи 162
4.1. Общие сведения 162
4.1.1. Постановка задачи 162
4.1.2. Характеристики и классификация алгоритмов сортировки 163
4.2. Простые методы сортировки 167
4.2.1. Сортировка выбором 167
4.2.2. Сортировка алгоритмом пузырька 168
4.2.3.Сортировка простыми вставками. 170
4.3. Быстрые способы сортировки, основанные на сравнении 171
4.3.1. Сортировка упорядоченным бинарным деревом 171
Анализ алгоритма сортировки бинарным деревом поиска 173
4.3.2. Пирамидальная сортировка 174
Первая фаза сортировки пирамидой 175
Вторая фаза сортировки пирамидой 177
Анализ алгоритма сортировки пирамидой 178
Реализация очереди с приоритетами на базе пирамиды 179
4.3.2. Сортировка слиянием 181
Анализ алгоритма сортировки слиянием 183
4.3.3. Быстрая сортировка Хоара 183
Анализ алгоритма быстрой сортировки 186
4.3.4. Сортировка Шелла 187
4.3.5. Нижняя оценка для алгоритмов сортировки, основанных на сравнениях 189
4.4. Сортировка за линейное время 191
4.4.1. Сортировка подсчетом 191
4.4.2. Распределяющая сортировка от младшего разряда к старшему 193
4.4.3. Распределяющая сортировка от старшего разряда к младшему 195
5. Структуры и алгоритмы для поиска данных 197
5.1. Общие сведения 197
5.1.1. Постановка задачи поиска 197
5.1.2. Структуры для поддержки поиска 199
5.1.3. Соглашения по программному интерфейсу 200
5.2. Последовательный (линейный) поиск 201
5.3. Бинарный поиск в упорядоченном массиве 204
5.4. Бинарные деревья поиска 206
5.4.1. Анализ алгоритмов поиска, вставки и удаления 207
5.4.3. Реализация бинарного дерева поиска 212
5.5. Сбалансированные деревья 216
5.5.1. АВЛ-деревья 217
5.5.3. Рандомизированные деревья поиска 236
5.6. Структуры данных, основанные на хеш-таблицах 240
5.6.2. Выбор хеш-функций и оценка их эффективности 244
Модульное хеширование (метод деления) 244
Мультипликативный метод 245
Метод середины квадрата 245
Хеш-функции для строк переменной длины 246
5.6.2. Метод цепочек 247
5.6.3. Хеширование с открытой адресацией 249
5.6.4. Пример решения задачи поиска с использованием хеш-таблицы 251