МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ

МОСКОВСКИЙ ИНЖЕНЕРНО-ФИЗИЧЕСКИЙ ИНСТИТУТ

(ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ)

Сергиевский Г.М., Короткова М.А.

Введение в математическую лингвистику и теорию автоматов.

Конспект лекций

МОСКВА 2004

УДК 519.713(075)+519.76(075)

ББК 22.18я7

С32

Сергиевский Г.М., Короткова М.А. Введение в математическую лингвистику и теорию автоматов. Конспект лекций. – М., МИФИ, 2004

Учебное пособие предназначено для студентов факультета Кибернетики, изучающих на пятом семестре математическую лингвистику и основы теории автоматов. Пособие представляет собой конспект лекций по этому курсу. В дальнейшем планируется расширить представленный материал и дополнить его методическими указаниями, примерами и задачами. Пособие может быть полезно всем желающим получить начальные знания по изложенным разделам дискретной математики.

Рецензент В.П. Румянцев

Рекомендовано редсоветом МИФИ

в качестве учебного пособия

© Г.М.Сергиевский, М.А.Короткова, 2004

© Московский инженерно-физический институт

(государственный университет), 2004

Содержание

1. Алфавит, слова, операции над словами 4

2. Языки. Операции над языками 5

2.1. Теоретико-множественные операции 5

2.2.Специфические операции 6

3. Абстрактные формальные системы 6

4. Формальные порождающие грамматики 8

5. Классификация грамматик 10

6. А-языки. Конечные лингвистические автоматы 12

6.1. Диаграмма грамматики 12

6.2. Порождение и распознавание цепочек 14

6.3. Детерминизация недетерминированных автоматов 17

6.4. Автоматы с -переходами 20

6.5. Минимизация числа состояний автомата 25

6.6. Регулярные множества и регулярные выражения 30

6.7. Разрешимые проблемы для А-грамматик 36

7. Нотации для задания КС-грамматик 37

7.1. Математическая нотация 37

7.2. Бекусова нормальная форма 37

7.3. Расширенная форма Бекуса – Наура (РБНФ) 39

7.4. Синтаксическая диаграмма 40

8. Структура цепочек. СУ-схемы 41

9. Преобразования КС-грамматик 46

9.1 Устранение непроизводящих правил 46

9.2. Устранение недостижимых нетерминалов 47

9.3. Устранение -правил 49

9.4. Устранение цепных правил (правил вида А  В) 50

10. Разрешимые и неразрешимые свойства КС-грамматик 51

10.1. Разрешимые свойства КС-грамматик 51

10.2. Неразрешимые свойства КС-грамматик 53

11. Синтаксический анализ для КС-языков 55

11.1. Типовая задача синтаксического анализа 55

11.2. LL(k)-грамматики 56

11.3. Восходящий анализ 62

12.Элементы теории конечных автоматов 67

12.1. Автомат Мили 67

12.2. Автоматы Мура 73

12.3. Частичные автоматы 77

13. Сети автоматов. Их анализ и синтез 80

13.1. Синхронные сети автоматов 81

13.2. Правильно построенные логические сети 85

Пособие рассматривает основные понятия и теоремы математической лингвистики, а также включает некоторые аспекты теории автоматов.

1. Алфавит, слова, операции над словами

Пусть V={v₁, v₂,…,v_n}, n1 – некоторый алфавит. Тогда любая последовательность x₁x₂…x_k, k0, где x_i V, 1  i k , слово в алфавите V; при k=0 –получается пустое слово, обозначим его . Множество всех слов алфавита V обозначается V*.

Слово X =x₁…x_k графически совпадает со словом Y=y₁…y_m, если x_iV (1  i k), y_jV (1  j m), m=k, и для любого i ,1  i k, x_i=y_i. Графическое совпадение слов обозначается X=Y.

Длиной слова Х (обозначается Х) называется число вхождений символов в слово Х. Если X =x₁…x_k, то Х=k . =0.

Конкатенацией слов X =x₁…x_k и Y=y₁…y_l называется слово Z= =XY= x₁…x_k y₁…y_l. Например, конкатенацией слов «поло» и «вина» будет слово «половина».

Свойства конкатенации:

1.  является единицей для конкатенации, т.е. для любого слова Х верно, что Х=Х=Х.

2. Операция конкатенации является ассоциативной, т.е. (XY)Z=X(YZ).

3. Операция конкатенации не является коммутативной, XYYX.

Для конкатенации, как и для произведения, конкатенация n одинаковых слов X обозначается Xⁿ. Считаем, что

X⁰= для любого слова Х. Множество V* всех слов алфавита V является полугруппой относительно операции конкатенации.

Полугруппа – множество с заданной на нем ассоциативной бинарной операцией.

Если слово Х=Х₁ Х₂, то Х₁ – начало слова Х, а Х₂ – конец слова Х.

Определим, что слово P входит в слово Q, если существует пара слов R и S, такая, что R – первый элемент пары, S – второй элемент пары, и Q =R P S.

Легко доказать следующее

Утверждение. Если слово P входит в слово Q, то существует некоторое слово U, такое, что P – начало U, а U – конец Q.

Следствие. Если слово P входит в слово Q, то P есть начало некоторого конца Q (или конец некоторого начала Q).

Если P есть некоторое начало (конец) Q и P  Q, то P – собственное начало (конец) Q.

Конкретные вхождения слова P в слово Q обозначаются RPS, где R, P,S – слова в алфавите V, V. Тогда R – левое крыло вхождения, S – правое крыло вхождения, P – основа.

Определим, что вхождение P₁ слова P в слово Q предшествует вхождению P₂ слова P в это же слово, если левое крыло вхождения P₁ является собственным началом левого крыла вхождения P₂.

2. Языки. Операции над языками

Произвольное множество цепочек над алфавитом V, иначе любое подмножество свободной полугруппы V*, называется фомальным языком над V. Поэтому язык может быть задан как любое множество:

• перечислением элементов;

• ограничивающим свойством;

• через известные множества;

• порождающей процедурой.

В основном будем использовать четвёртый способ, но рассмотрение языков начнем с третьего способа их представления.

Например, для любого V множество слов четной длины является языком. Множество слов нечетной длины также является языком, но в отличие от первого — не замкнутым относительно операции конкатенации. Будем обозначать языки буквой L (с индексами или без них). Рассмотрим операции над языками.

Так как язык является множеством, то применимы все соответствующие операции, для которых выполняются все законы теории множеств.

В частности,  L,  L.