Пиотровский

Т а б л и ц а 5.2

Распределение вероятностей букв в русских литературных текстах

Опыт МНОГИХ наук, да м вся практическая-деятельность человека показывают, что результаты отдельных статистических испытаний могут давать заметные флуктуации. Однако при большом числе испытаний N статистические флуктуации начинают сглаживаться, а относительная частота / обнаруживает все большую устойчивость. Иными словами, в случайных явлениях имеется некоторое объективно существующее свойство, которое имеет тенденцию оставаться постоянным и проявляется все яснее при увеличении объема исследуемого материала. Указанное свойство измеряется некоторой постоянной величиной, которая является количественной объективной числовой характеристикой изучаемого явления. Эта постоянная величина и называется вероятностью случайного события А [будем по-прежнему обозначать ее символом Р (Л)]. Экспериментальными значениями вероятности являются относительные частоты интере- - сующего нас события / (Л) в определенных сериях наблюдений. Определенная таким образом вероятность случайного события носит название статистической вероятности.

Следует обратить внимание читателя на то, что точное численное значение статистической вероятности остается, вообще говоря, неизвестным. За численное значение вероятности обычно принимается при большом количестве испытаний либо сама частость события А, либо некоторое число, близкое к этой частости, например некоторое среднее арифметическое относительных частот, полученных из нескольких достаточно больших серий испытаний*.

Оставляя в стороне методологические дискуссии, связанные со статистическим определением вероятности [14, с. 17 и сл.], необходимо подчеркнуть, что этот подход имеет принципиальное значение для

* Разумеется, это не значит, что вероятность события вообще не может быть точно определена. Если мы имеем дело со схемой с л у ч а е в , то вероят-

ность вычисляется по формуле (5.7). Кстати, если нас интересует вероятность появления глагола быть только в произведениях Пушкина, то, используя классическое определение вероятности, нетрудно показать, что она равна

0,0161.

120

прикладных исследований, в том числе и лингвистических, например при составлении частотных словарей. Не имея обычно возможности обследовать всю генеральную совокупность возможных исходов (например, всю совокупность словоупотреблений, составляющих все когда-либо написанные русские тексты), мы вынуждены производить серию наблюдений, охватывающих некоторую частную совокупность (например, определенную выборку из русских текстов). В результате таких исследований мы получаем относительные частоты для случайных событий (в нашем случае —словоформ или слов). По этим относительным частотам необходимо оценить численные значения вероятностей, которые, как уже указывалось, являются числовой характеристикой изучаемых явлений Эта оценка сводится к выяснению того, насколько далеко отклоняются экспериментальные частоты от вероятности. Решение такой задачи является по существу узловым вопросом всех статистических исследований.

4. Аксиоматическое построение теории вероятностей. Все только

что рассмотренные определения вероятности имеют существенные недостатки и ограничения

Интуитивная оценка вероятности зависит от тезауруса© познающего субъекта, который обычно не поддается измерению. Схема случаев применима лишь к таким опытам, которые заведомо дают симметрию конечного числа равновероятных исходов. При статистическом подходе понятие вероятности вообще остается в тени.

Широкое проникновение вероятностно-статистических исследований в естественные и гуманитарные исследования потребовало создания формально-логического обоснования всего аппарата теории вероятностей; это обоснование дано в аксиоматическом построении теории вероятностей, предложенном А Н Колмогоровым [19].

Поскольку аксиоматика Колмогорова позволяет преодолеть ряд трудностей, возникающих при использовании теории вероятностей

вязыкознании, мы рассмотрим ее основные идеи и положения.

Ваксиоматике Колмогорова случайное событие не рассматривается как исходное первичное понятие, но образуется на основе других элементарных понятий. Чтобы пояснить это положение, рассмотрим два примера.

в те или иные подобласти точек и являются случайными событиями. Одновременно каждое случайное событие выступает в качестве некоторого подмножества множества точек U (рис. 36)

Возьмем другой пример Пусть имеется текст, написанный на некотором естественном языке. Этот текст можно рассматривать как некоторое лингвистическое пространство (множество словоупотреблений) U. Подобластями (подмножествами) А, В, ..., Z этого пространства являются группы словоупотреблений, имеющие абсолютно одинаковое написание (т. е. словоупотребления, реализую-

121

Из словаря берется некоторая словоформа, например науке, и накладывается наугад на одно из словоупотреблений текста. Словарная единица науке может совпасть с текстовым словоупотреблением науке (в этом случае мы имеем дело с попаданием словарной единицы в подмножество науке), а может и не совпасть с указанным текстовым словоупотреблением. Попадание или непопадание словарной единицы в то или иное подмножество является случайным событием.

Нетрудно, заметить, что представленные здесь требования аналогичны условиям, на которых строилось поле событий £2 в клас* сическом определении вероятности, сводящемся к схеме случаев. Однако к полю событий в аксиоматике Колмогорова предъявляется еще одно требование, позволяющее применять ее к речевым ситуациям, в которых число исходов опыта не является конечным. Это требование можно сформулировать так:

Изложив основную идею аксиоматики Колмогорова, перечислим теперь основные аксиомы, определяющие вероятность.

1°. Каждому случайному событию А из поля событий 5 можно поставить в соответствие неотрицательное число Р (А) ^ 0, называемое его вероятностью.

2°. U является событием с вероятностью Р (U) = 1.

122

123

Приведенные аксиомы и следствия мы проиллюстрируем в дальнейшем по ходу описания Лингвистических приложений теории вероятностей.

Аксиоматическое построение основ теории вероятностей характеризуется следующими особенностями:

I. Вероятностные понятия получают здесь теоретико-множест- венную интерпретацию. Сущность ее состоит в том, что все возможные для данного опыта элементарные события, их суммы к произведения, а также невозможные события рассматриваются как элементарные множества 5, причем каждому элементу этого множества ставится в соответствие некоторое число (норма), являющееся его счетно-аддитивной (т. е. способной к арифметическому сложению), неотрицательной мерой. Такая интерпретация вероятностных понятий принципиально важна для лингвистического приложения теории вероятностей: она позволяет перебросить естественный мост между алгебраическим (по своей природе теоретико-множествен- ным) языкознанием, квантитативной (по своему существу—вероят- ностной) лингвистикой и нечетко-множественным языкознанием [26, с. 207—269]; 165].

II. Аксиоматика Колмогорова исходит из свойств и понятий вероятности, сформулированных уже в классическом и статистическом ее определениях. Эти последние целиком включаются в аксиоматическое определение вероятности как ее частные случаи. Вместе с тем аксиоматика Колмогорова преодолевает ограниченность как классического, так и статистического определений. С одной стороны, удается избежать тех логических трудностей, которые связаны, с несовместимостью понятий иррегулярности и требования о существовании предела, — понятий, постулируемых в статистическом определении вероятности. С другой гтороны, преодолевается ограниченность схемы случаев, оперирующей лишь о конечным числом результатов. Введение А. Н. Колмогоровым в определение вероятности аксиомы непрерывности, а также расширенной аксиомы сложения позволяет рассматривать события, подразделяющиеся на бесконечное число частных случаев. Этот факт имеет принципиальное значение для языкознания, которое постоянно имеет дело с речевыми процессами, охватывающими бесконечное число словоформ, словосочетаний и предложений.

124

§4. Вероятности сложных лингвистических событий

1.Сложение вероятностей. Языковеда редко интересуют элемен- тарные события, чаще всего ему приходится иметь дело со сложными лингвистическими событиями, например с суммой элементарных со- бытий. Выбор правил, с помощью которых вычисляется вероятность сложного события, определяется тем, являются ли составляющие его элементарные события несовместимыми или совместимыми.

Согласно правилам 3° (аксиома сложения) и 5° (расширенная аксиома сложения), вероятность наступления одного из попарно независимых событий {Ах + Аг + ... + Ап + ...) равна сумме вероятностей этих событий:

Р (Л, + Л2 + ... + Ап + ...) = = Р (Л0 + Р (Аг) + ... +Р (Ап)+ ... .

Однако если два события совместимы, то их вероятность определяется как сумма вероятностей этих событий минус произведение вероятностей этих событий:

При вычислении вероятности суммы нескольких совместимых событий обычно, пользуются правилом, согласно которому вероятность появления хотн бы одного из нескольких совместимых событий Аи Л2, ..., Ап равна разности между единицей и вероятностью совместного наступления (умножения) всех противоположных событий. Иными словами,

2. Прогнозирование вероятностей лингвистических событий при повторении опытов. Рассмотренные правила широко используются при прогнозировании событий в разного рода вероятностно-лингви- стических, инженерно-лингвистических и информационных задачах. Рассмотрим в этой связи следующий пример.

Для расчета памяти вероятностного автомата, распознающего устную речь, и построения алгоритма его работы приходится вычислять вероятность совпадения хотя бы одной из словоформ обрабатываемого текста с соответствующей лексемой, заданной в словаре автомата.

Предположим, что нужно определить вероятность того, что хотя

В — второе появление этого же местоимения. События А и В совместимы, поскольку можно извлечь одновременно слово он как из первого, так и из второго отрывков. Поэтому при решении нашей задачи необходимо воспользоваться формулой (5.16). Значение ста-

125

тистической вероятности согласно данным частотного словаря [39] равно 0,0099. Учитывая это, получаем

Р (А + В) = 0,0099 + 0,0099 — 0,0099 • 0,0099 « 0,020.

Теперь предположим, что распознающий автомат анализирует десять взятых наугад словоформ, и попробуем определить вероятность того, что хотя бы одна из этих словоформ окажется местоимением он. Для этого воспользуемся формулой (5.17), обозначив через А совпадение текстовой словоформы с местоимением он, а через С — появление в нашем опыте хотя бы одного он. Поскольку вероятность Р (А) для всех отрывков одинакова, на основании равенства (5.17) найдем

Р (С) = 1 — (1 — 0.0099)10 ~ 0,095.

Таким образом, вероятность получить хотя бы одно местоимение он при десятикратном извлечении словоформы из текста заметно выше вероятности получить его при однократном или двукратном извлечении.

3. Зависимые лингвистические события и условные вероятности.

До сих пор мы имели дело с независимыми событиями, т. е. с такими событиями, вероятность появления которых не зависела от вероятности -появления другого лингвистического события — эти вероятности называются безусловными. Однако языкознание сравнительно

появления букв, фонем, слогов, морфем и т. д. являются условными, так как зависят от позиции этих лингвистических объектов в слове, словосочетании и предложении. Например, как показывают табл. 5.3

126

Таблица 5.4

а также безусловных й условных вероятностей на примере искусственного лингвистического опыта.

Словоформа мамам (дательный падеж множественного числа от мама) составлена из букв разрезной азбуки. Карточки с буквами этого слова положены в урну. Производится испытание, состоящее

впоследовательном извлечении карточки с буквой и возвращении ее обратно в урну. Событием В считается извлечение буквы м в первом испытании (тогда В будет извлечение из урны не м, т. е. буквы а), событием А — извлечение буквы а во втором опыте (тогда А будет извлечение из урны не а, т. е. буквы м). В силу того, что вынутая

впервый раз буква возвращается обратно в урну, перед вторым опытом количество букв в урне не изменяется. Поэтому вероятность

события А является б е з у с л о в н о й , поскольку она не зависит от того, была ли извлечена до этого из урны буква м (событие В) или буква а (событие В), и остается равной 2/5. Безусловной является и вероятность события В. Если изменить условия опыта и не возвращать извлеченную букву обратно в урну, то вероятности получить при втором, третьем и т. д., извлечениях букву а или м будут существенно зависеть от того, какие буквы были извлечены перед этим из урны.

Пусть исходом первого извлечения была буква м\ тогда вероятность вытащить при втором извлечении букву а составит 2/4 = 1/2. В том же случае, когда в результате первого опыта получена буква а (событие В), вероятность вытащить второй раз букву а равна 1/4. Сходное положение возникает при определении вероятности появления буквы м (событие А) во втором извлечении при условии, что в первый раз была получена буква м (событие В) или а (событие В). Иными словами, события А и В являются з а в и с и м ы м и , а их вероятности — у с л о в н ы м и .

127

Условная вероятность события А при условии, что произошло событие В, обозначается Р (А/В), Так, в рассмотренном выше примере

Р (А/В) = 1/2, Р (А/В) = 1/2, Р (А/В) = 1/4, Р (А/В) = 3/4.

Величина условной вероятности всегда заключена в том же отрезке, что и величина абсолютной вероятности, т. е.

О^Р (A/B^JB, . . . ) < 1.

4. Правило умножения вероятностей и вычисление вероятностей цепочек языковых элементов. Каждый текст или его часть можно рассматривать как совместное наступление некоторой линейной последовательности лингвистических событий—совместное появление цепочки словоформ, последовательности слогов, цепочек фонем или букв. Определение вероятностей появления этих цепочек опирается на т е о р е м у у м н о ж е н и я в е р о я т н о с т е й , согласно которой вероятность совместного наступления двух событий равна произведению вероятности первого события на условную вероятность второго, вычисленную при условии, что первое событие имело место:

128