книги из ГПНТБ / Теплов Л. Очерки о кибернетике

автомата, записывать чередование выигрышей и проигрышей, чтобы оты­ скать какую-нибудь «программу», какую-нибудь закономерность и обыграть автомат. Но он потеряет время впустую, так как механизм автомата представляет собой надежный генератор случайных величин. Машина работает, впрочем, с одним ограничением: часть монет она пря­ чет в недрах ящика для своего хозяина.

Существует практическая необходимость во всякой сложной авто­ матической системе сохранять элемент случайности в решении, что под­ тверждается, в частности, старинной притчей о буридановом осле. Этот осел, как рассказывал французский философ И. Буридан (1297—1358), был большой любитель размышлять. И из-за этой своей склонности он сдох с голоду, хотя справа и слева от него лежали охапки сена. Беда случилась потому, что охапки были совершенно одинаковые и лежали на равном расстоянии от морды осла, так что у него не было никаких оснований выбрать ту, с которой следовало начать.

Никакая память и никакая логика, как заметил Буридан, выдумав­ ший, конечно, своего осла-формалиста, не могут помочь автомату в этом затруднении. В ситуации, где доводы «за» и «против» совершенно рав­ ны, мы, люди, после размышления обычно находим хоть мнимый и шат­ кий, но все-таки логический довод в пользу одного из вариантов. Но то, что доступно нам, недоступно, например, червяку. Однако ни один чер­ вяк еще не замирал от нерешительности. Если у него не бывает никаких оснований предпочесть то или иное направление движения, то он все-та­ ки ползет вправо или влево, вперед или назад, просто так, без всяких на то оснований.

В 1924 г. зоолог Альвердес поставил опыт, где маленькие рачки дафнии оказались в положении буриданова осла. Дафнии всегда плывут на свет, и Альвердес пропускал их сквозь отверстие в перегородке, опу­ щенной в аквариум прямо напротив двух одинаковых ламп. Пока лам­ пы были далеко, дафнии плыли, направляясь к середине расстояния между лампами. Приблизившись, они обязательно поворачивали к од­ ной из ламп, причем точка поворота («точка решения», как назвал ее Альвердес) у них приблизительно совпадала. Количества дафний, соб­ равшихся у левой и правой лампы, оказались равными.

В технике существует понятие «мертвой точки» движения. Если не учитывать ее наличия, если не накапливать в маховике энергию для преодоления мертвых точек, то ни паровая машина, ни дизель работать не смогут. Очевидно, и в сигнальных системах могут возникать своеоб­

разные состояния мертвых точек, и автомат должен находить выход из этого положения.

Когда система достаточно сложна, выход приходит сам собой. По­ пав в логически неразрешимое положение, автомат повторяет цепь дей­ ствий снова и снова, пока... где-нибудь не собьется. При возрастании числа элементов вероятность сбоя возрастает, и автомат оказывается защищенным от ловушки Буридана, причем он тем легче из нее выби­ рается, чем ниже качество элементов его управления.

299

<*

Таким образом, то, что считается в обычных машинах серьезнымнедостатком, например шумы и помехи в лампах, сможет стать необ­ ходимым и полезным для автомата. В случайных отклонениях режима работы элементов можно видеть, по мнению математика О. Шмидта, «основы воображения и инициативы у вычислительных машин, прояв­ ляющихся, например, как готовность принять вероятное решение, даже если оно не вполне обосновано, как желание попробовать не что иное, как узнавание далекой аналогии, даже если ее нельзя полностью дока­ зать» '.

В простых системах приходится вводить специальный источник шума.

У. Р. Эшби в 1948 г. построил прибор, названный «гомеостатом». Это были четыре реостата, соединенные между собой всеми возможными’ прямыми и обратными связями. Если движки всех четырех реостатов находятся посреди своих сопротивлений, сигналы в связях отсутствуют, система находится в равновесии. Если отклонить один движок, равнове­

цати связей даст огромное количество вариантов состояний системы в целом.

Но, оказывается, сколько бы ни продолжались колебания движков, они в конце концов вырабатывают вариант, обеспечивающий равнове­ сие системы: подача сигналов прекращается.

«Она ведет себя подобно спящей кошке, — замечает один исследо­ ватель,— которая, если ее толкнуть, устраивается удобнее и снова за­ сыпает».

Можно произвольно варьировать настройку каждой из обратных связей, изменяя условие устойчивости: но если оно вообще возможно, то когда-нибудь оно будет найдено прибором. Наконец, можно устроить какой-нибудь источник шума в виде, например, пары разболтанных ко­ лес или шумовой радиолампы, дающей в любом коде произвольные зна­ чения настроек; тогда гомеостат начнет отбирать из шума варианты, соответствующие критерию «сохранить состояние равновесия».

При четырех элементах гомеостат Эшби на каждое изменение на­ стройки отвечал опробованием 390 625 вариантов состояния системы, что могло продолжаться около часа. Конечно, реостаты, снабженные устрой­ ствами для тушения собственных колебаний (демпферами), работают очень медленно. Аналогичная электронная система совершала бы отбор неизмеримо быстрее. Ни для одной реальной среды невозможен полный автомат со столь малым количеством регулировок, а расчеты показы­ вают, что для 100 элементов, например, время нахождения устойчивогосостояния далеко превышает величину любых геологических эпох, даже если пользоваться быстродействием электроники.1

1 Симпозиум «Проектирование машин, имитирующих человеческий мозг». «Кибер нетический сборник», вып. 1, М., 1960, стр. 75.

300

Это не покажется странным, если вспомнить, что все устойчивые и неустойчивые состояния при подсчетах Эшби считал равновероятными. На самом деле реальные регуляторы с обратными связями поиск нового устойчивого состояния ведут вслед за сравнительно плавным измене­ нием условий, не отрываясь от него, и опробование новых состояний на­ чинается от достигнутого, ранее устойчивого положения с размахом, возрастающим в случае неудач. Статистическая машина это и есть си­ стема, способная к следящему поиску, причем величина «размаха» яв­ ляется для нее новой характеристикой, независимой от двух основных характеристик обычных машин — быстродействия и емкости памяти. Удобно применить, однако, для выражения новой характеристики обрат­ ную ей величину, которую можно назвать «дисциплиной». В дискретных

максимуме дисциплины она способна только воспроизводить имеющиеся в ней сведения.

Однако закон сохранения информации предупреждает нас, что при

.всякомотклонении дисциплины от максимума количество информации в замкнутой системе может только уменьшаться. Порядок теряется, и не­ организованность системы сигналов возрастает, если вне с е бя данная машина не находит критерия отбора вновь возникающих комбинаций. Можно, конечно, попытаться собрать часы необычным способом: наки­ дав в коробку винтиков, колесиков и других деталей, трясти ее до тех

.пор, пока изнутри не раздастся тиканье. Практически это — безнадеж­ ное дело. В реальных условиях часы могут от тряски только разбол­ таться и постепенно развалиться на составные части.

Второе ограничение Косса гласит: «Машина не может обучаться». В книге П. Латиля «Искусственная мысль» приведен мысленный опыт с большой электронной машиной, которая может решать разно- -образные, сложнейшие задачи, но отказывается играть с мальчиком в прятки, потому что она «не имеет программы игры в прятки». Этот пример восторженно подхвачен другими авторами для посрамления ма­ шин и доказательства «невозможности электронного мозга» Т Странно, что авторы не учитывали, во-первых, невозможность для машины пря­ таться, даже двигаться. Во-вторых, все маленькие мальчики тоже дол­ гое время не умели играть в прятки и на подобное предложение сначала отвечали: «А что это такое? Я не умею». Детей, от рождения способных играть в прятки, попрост'у не существует. Их, если можно так выразить­ ся, впоследствии «программируют» другие дети. Этот процесс всегда

.-заключается в сведении неизвестной игры к известным действиям. «Ты умеешь бегать? Можешь добежать до угла или забора, когда я не буду

301

чин, мешающих машине после такого инструктажа сыграть в прятки до­ ступным ей способом, например пряча управляемую по радио вагонетку.

Следовательно, обучение является необходимым этапом для пере­ хода машины и всякой другой автоматической системы (даже мальчи­ ка) от того, что он умеет делать, к тому, что он в принципе делать мо­ жет, но еще не умеет. К сожалению, понятия «обучаться» и «ученый» имеют очень неопределенный смысл: один — в сочетании «ученая мор­ ская свинка» и другой — когда говорят, например, о «конференции уче­ ных». Считается, что нельзя назвать обучением вкладывание в электрон­ ную вычислительную машину программы и словаря для автоматическо­ го перевода, хотя результат этой операции совпадает с результатом обу­ чения студентов на курсах иностранного языка: машина прежде была неспособна переводить тексты, а после получения программы этой спо­ собностью обладает. Интуитивно можно понять, что «настоящее» обуче­ ние, похожее на человеческое, должно быть связано с использованием неполной информации, хотя степень ее неопределенности различна: для крохотных первоклассников любое слово учителя имеет большую сте­ пень вероятности и почти программа, а когда ученые обучают друг дру­ га на конференции, каждый считает своим долгом сильно, хотя и вежли­ во, сомневаться в справедливости слов коллеги.

Три года назад в Москве группа студентов Энергетического инсти­ тута в содружестве с профессором-психиатром С. Н. Брайнесом построи­ ла машину, обучаемую через неполную информацию. Идея ее возникла из наблюдений за выработкой условных рефлексов у собак, а также из некоторых гипотез относительно роли нейронов коры головного мозга при получении рефлексов.

Эта машина имеет на входе три кнопки, а на выходе — три лампы. Генератор случайных величин так влияет на коммутацию цепей, что при нажатии на кнопку непременно зажигается одна лампа, но какая из трех — предсказать невозможно: вероятность зажигания, например, третьей лампы при включении первой кнопки равна одной трети, такова же эта вероятность для первой и второй ламп. На пульте машины имеет­ ся особая кнопка П — «подкрепление». Если нажимать ее каждый раз, когда загорается третья лампа, то специальный элемент памяти реги­ стрирует совпадения, и после некоторого числа их вероятность скачком изменяется до значения 1: при включении первой кнопки всегда будет зажигаться третья лампа.

Установка привлекла внимание работников промышленности, и ве­ дется исследование возможности применения таких систем для управ­ ления процессом производства синтетического каучука. О ней снят фильм «Мозг и машина», она демонстрировалась на Выставке достиже­ ний народного хозяйства и получила награду выставки.

Интерес промышленности к модели, которая вначале кажется бес­ конечно примитивной, объясняется тем, что при управлении множеством производственных процессов исследовать их и разложить в четкие цепи логических отношений практически очень трудно. Есть хороший опера­

302

тор, который «особым чутьем» ведет процесс, например, варки стали, но не может дать полной информации о том, как он это делает. Есть пло­ хой оператор, который гонит продукцию в брак партию за партией, хотя,, кажется, он пользуется теми же приемами работы, что и хороший. Воз­ никает заманчивая идея: подключить машину к хорошему оператору, чтобы она переняла неясные ему самому приемы, отработала их и ис­ пользовала в дальнейшей практической деятельности.

Можно ли сделать такую машину?

По-видимому, можно, так как при обучении закон сохранения ин­ формации не нарушается. Больше того, обычное обучение всегда свя­ зано с известной потерей потенциала информации: ученик никогда не станет знать больше учителя, если он т о л ь к о учится у него, всегда уровень его знаний хоть на немного будет ниже знаний учителя.

Но как математически сформулировать требования к обучающейся машине? Какое устройство она должна иметь?

Подобно всем открытым управляющим системам она должна иметь, вход информации, скажем, клавиатуру; выход — какое-нибудь пишущее устройство; обширную память, где разные сообщения и команды долж­ ны принять форму, удобную для переработки. Пусть это будут бумаж­ ные ленты с отверстиями, как в машине Тьюринга.

Для простоты предположим, что вся информация, поступающая в машину, выражена последовательностями дискретных сигналов, скажем, нулей и единиц, и на выходе получаются тоже длинные ряды этих двух цифр. Известно, что количество информации зависит от маловероятно­ сти тех или иных комбинаций знаков. Практически же всегда прихо­ дится иметь дело с частотами, а не самими вероятностями. Поэтому за­ дачу машине можно сформулировать так:

выдавать последовательности знаков, имеющие примерно те же ча­ стоты, комбинаций, которыми отличаются исходные последовательности.

Эта задача выглядит несколько абстрактно, и мы поясним ее при­ мерами.

Возьмем, например, альбом типографских шрифтов, выберем на­ угад три с половиной десятка букв и получим вполне добротную бес­ смыслицу:

фрюлгюио ыщаеиигуфтдарбрвмокзчхейы.

Примерно такой результат получается, если взять 32 буквы, напи­ сать их на одинаковых кубиках, ссыпать кубики в мешок, не глядя вы­ нимать один, списывать с него букву, а потом кидать обратно.

Следует подчеркнуть, что, повторяя опыт, вы практически никогда не получите той с а м о й комбинации, которая здесь приведена, но вся­ кая другая комбинация, полученная тем же способом, будет иметь то же статистическое качество, тот же нулевой уровень смысла или нуль количества информации. Но если вы станете добывать бессмыслицу, выписывая наугад буквы из первой попавшейся книги, результат будет

303

,гораздо «хуже». Буква О встречается в русских текстах в 45 раз чаще, чем буква Ф, а буква С — вдвое реже, чем О. Ясно, что в получившемся

.образце С, О и Ф будут попадаться неодинаково часто. Эта зависимость давно известна, например, заводам, изготовляющим типографские шрифты: в партии нового шрифта они делают всегда много О, Е, А, И, Т, Н и очень мало Ф, Э, Щ, Ц. В образце

чвзиоря тка ож тзлеильлл и ичердатрооюк,

.который получен при наложении линейки поперек строк какой-то газе­ ты, нет ни одного Э и щ, но зато четыре О и два Е.

Промежуток между словами можно считать за нулевую букву, ко­ торая, согласно наблюдениям, встречается примерно вдвое чаще, чем О, ,и гораздо чаще других букв.

Есть ли смысл в полученном образце?

Каждый скажет, что нет. Однако будем осторожны, так как пока (Неизвестно, что значит — «смысл». Скажем точнее: образец отражает ■частоту изолированных звуков русской речи. Ведь русская речь опреде­ ляется и другими частотами.

При учете частоты т р е х б у к в е н н ы х сочетаний, встречающихся в русском языке, московский математик Р. Добрушин получил такую последовательность:

ПОКАК ПОТ ДУРНОСКАКА НАКОНЕПНО ЗНЕ СТВОЛОВИЛ СЕ ТВОИ ОБНИЛЬ.

А при учете четырех:

ВЕСЕЛ ВРАТЬСЯ НЕ СУХОМ И НЕПО И КОРКО1

Каждый может, если захочет, сделать подобные сочетания сам, без машины. Для этого надо взять любую русскую книжку и наугад выбрать в ней три или четыре буквы. Затем, откинув первую букву группы и вы­ писав ее отдельно, надо найти в другом месте то, что осталось, припи­ сать в группу букву, которая встретилась, и так сделать несколько раз. Из проб, например,

...Подчеркиваем... ОДНозначно... свобоДНО... НО С таким...

получается последовательность:

подно с...

Иногда, как можно заметить, у Добрушина получались даже на­ стоящие русские слова «весел», «твой», отрицание «не», а в других — очень близкие нашему языку, легко произносимые и будто бы знакомые слова.

Они поразительно похожи на бормотание Корейши. Больше того, они, по-видимому, отражают известный этап всякого «естественного» обучения языку. Действительно, побывав недолго в Китае, автор этой

1 Р. Добрушин. Математические методы в лингвистике. «Математическое просве­

щение», вып, 6, 1959

304

статистические пробы описанным способом. Очень простая и понятная получается, например, из буквопечатающего телеграфного аппарата — телетайпа. Линия телетайпа— это как бы две пишущие машинки, кла­ виатура каждой из которых с помощью электрических сигналов подает сигналы о выборе букв на печатный аппарат другой. Телеграфная линия способна пропускать сигналы с большей скоростью, чем оператор подает их с клавиатуры, и поэтому нередко прибегают к такому приему: когда оператор работает на клавиатуре, сигналы поступают на перфоратор, приставляемый к аппарату, и записываются в виде пробоин на бумаж­ ной ленте. Когда линия освобождается, ленту с большой скоростью пропускают через другую приставку — трансмиттер, в которой имеются контакты, превращающие комбинации пробивок в электрические им­ пульсы, посылаемые на линию.

Чтобы получить статистическую пишущую машинку, мы ставим на телетайп одновременно перфоратор и трансмиттер, а у перфоратора при­ делываем ряд контактов-. Исходный материал — любой текст — перено­ сится с помощью клавиатуры и перфоратора в виде отверстий на доста­ точно длинную ленту (память), и эта лента, замкнутая в кольцо, встав­ ляется в трансмиттер.

С помощью перфоратора на другой ленте (ленте задания) выби­ вается затравка — несколько знаков. Затем реверсивный механизм воз­ вращает ленту назад, и начинается процесс проб. Если знак, передавае­ мый с трансмиттера, совпадает со знаком, находящимся под контактами

Схема самой простой машины для статистической выборки. Эта машина представляет собой переделанный буквопечатный телеграфный аппарат — телетайп.

перфоратора, реверсивный механизм подает ленту на один знак и, если следующий знак не совпадает, возвращает ее назад. Если совпали два, три и больше знаков, лента задания выдвигается все дальше и дальше. Так продолжается до тех пор, пока не замкнется контакт, переставляе­ мый ручкой, которую мы назовем «ручкой дисциплины». Тогда выдви­ нутый отрезок ленты снова уходит назад, включается печатающий аппа­ рат, и первый знак с выдвигаемого последний раз отрезка печатается на. третьей ленте обычными буквами, а из памяти на ленту задания перепи­ сывается новая буква, примыкающая к опознанной комбинации.

Правда, такая машинка может оказаться не очень практичной по трем причинам. Во-первых, весь исходный материал для выборки при­ дется вручную переписывать на перфораторе. Лучше было бы, напри­ мер, читать его в микрофон, чтобы соответствующая схема сама превра­ щала звуки в комбинации сигналов, которые машинка может сопостав­ лять. Во-вторых, время выборки может стать довольно большим, а длину ленты памяти по конструктивным соображениям нельзя увеличивать без конца. Использование электронных устройств повысило бы быстродей­ ствие и объем памяти машинки, но лишило бы ее работу наглядности..

Поэтому оставим ее, как она получилась, и посмотрим, на что она годится.

306

Мы уже сетовали на то, что «смысл» в комбинациях букв, выдавае­ мых при статистических пробах, появляется крайне неохотно и не до­ стигает того уровня, который обычно называют «здравым смыслом», А что получится, если, например, вместо букв взять ноты, если в каче­ стве материала закладывать музыкальные произведения?

Ответ на этот вопрос сейчас известен: получатся новые музыкаль­ ные произведения в духе тех, которые в машинку вложены.

Многие зарубежные исследователи — П. Пинкертон, Ф. и К. Альтнив, Ф. Брукс и другие — показали, что не очень сложным мелодиям, например детским колыбельным песенкам, ковбойским песням и гим­ нам, машинка может подражать отлично.

Если «дисциплина» слаба, получаются ревущие, режущие слух со­ четания звуков. С увеличением числа одновременно сопоставляемых зву­ ков плавность и благозвучность мелодии растет.

Если «дисциплина» велика, а материала в распоряжении машины мало, она начинает поступать, на наш взгляд, не совсем честно: ворует

целые музыкальные фразы, так сказать, цитирует без кавычек. Вполне понятно, почему это происходит: перебрав весь запас памяти и не найдя второй раз заданной группы, машина возвращается в исходное положе­ ние и неуклонно ноту за нотой списывает мелодию из готовой музыки до тех пор, пока в другом месте не обнаружит такой же группы нот.

Если снабжать машину только фокстротами, она никогда не выр­ вется из объятий легкого жанра. Если музыка будет разнохарактерная, есть опасения, что продукция машины-композитора окажется безликой.

В методике Р. Добрушина есть одна неоправданная условность. Почему промежуток между словами считается за один звук или букву?

В речи это гораздо больший интервал.

Считая промежуток за «немой конец» слова, дополняющий его до стандартной длины, и повысив «дисциплину», мы фактически перейдем к статистике сочетаний слов. Но слова в речи тоже сочетаются не оди­ наково: «темная ночь» бывает, а «голубое труба» или «наизнанку два» без точки между ними не встречаются никогда. Кстати, в одноязычных словарях неясное для читателя слово «поясняется» тем, что просто ука­ зывается, с каким другим словом оно обычно употребляется.

Статистика двухсловных и трехсловных сочетаний уже содержит в себе часть смысла текста. Действительно, произведя на машине и вруч­ ную соответствующие выборки, автор получал тексты, в которых не толь­ ко сохранялось согласование форм слов по правилам грамматики рус­

ского языка, что уже само по себе интересно, но и возникали определен­ ные признаки смысла. Так, при статистической выборке из текста одной книжки по психологии сразу появилась «складная фраза»:

Абстрактное — это и есть явление, отображаемое посредством ло­ гической характеристики.

Кстати, когда эта фраза была предъявлена некоторым специалистам

•с вопросом: «Как вы расцениваете это определение?» — результат был

•неожиданный. Психологи, уклонясь от оценки по существу, в свою оче­ редь спросили: «А кто это сказал?»

При обработке сборника народных сказок «Иван меньшой — разу­ мом большой» было получено следующее подражание:

«•Жил-был царь. Пожил старый царь с царицей. А царь загадал, Спрашивает коня: — Каменная гора? Остановился. Старик со старухой жили-горевали...»

Знаки тут расставлены по смыслу.

Выходит, что, задав машине начало — первое слово сочинения, ко­ торое можно считать заголовком или темой, мы получим от нее вариа­ ции более или менее осмысленные и, как это бывает у незадачливых ораторов, чем дальше, тем больше отходящие от темы. Сходство нашей машины с плохим оратором подчеркивается и тем обстоятельством, что сама по себе, без постороннего вмешательства, она не может остано­ виться. Как и в области музыки, в литературном творчестве при недо­ статке материала для собственных построений и большой «дисциплине» она станет довольно часто прибегать к спасительным цитатам, ловко подогнанным одна к другой.

Такое поведение машины становится скандально похожим на кари­ катурное изображение некоторых темных явлений, встречающихся в пи­ сательской и музыкальной среде. Приходится еще раз заметить, что ни­ какой «программы» передразнивания плагиаторов или начетчиков в ма­ шине не имеется; в ней нет даже программы честного литературного или музыкального труда, поскольку никто толком не знает, на какие элемен­ тарные операции этот труд разлагается. Никто сознательно не пытался разработать методы машинного творчества, они считались либо совер­ шенно неосуществимыми, либо бесконечно сложными. Теоретики взялись за нотные тетради и томики стихов только для того, чтобы вычислить ве­ личины энтропий, и сами удивились, когда эксперимент показал, что по­ строения с равной величиной энтропии при определенных условиях вы­ глядят подражаниями. Машина стала плагиатором раньше, чем кто-ли­ бо успел догадаться, как именно она может впасть в этот грех. Сначала был неопровержимо установлен факт, что она ворует мелодии и строки, а уже затем мы поняли, что она делает это по бедности, и надо либо снизить «дисциплину», либо увеличить объем ее внутренней информа­ ции, так сказать «эрудицию» машины.

Одной из наиболее доступных' анализу умственных операций яв­ ляется игра. Может ли статистическая машина научиться играть в шаш­

308