Теория информации
1. Дайте определение науки информатика? Дайте определение термину информация? В каких единицах происходит измерение информации? Напишите формулу Хартли с пояснениями и примерами.
Информатика — наука о методах и процессах сбора, хранения, обработки, передачи, анализа и оценки информации с применением компьютерных технологий.
Информация – сведения об объектах и явлениях окружающей среды, их параметрах, свойствах и состоянии, которые уменьшают имеющуюся о них степень неопределенности, неполноты знаний.
Единицы измерения информации: биты, байты, килобайты и т.д.
Формула
Хартли
Где
N — количество символов в используемом
алфавите (мощность алфавита), K —
длина сообщения (количество символов
в сообщении), I — количество информации
в сообщении в битах.
Пример:
восьмеричная система счисления -> N=8,
сообщение “145” -> K=3,
тогда I=9 бит.
2. Дайте определение следующим терминам: канал связи, сигнал, помехи, алфавит, код, язык, сообщение, данные. Приведите пример системы по передачи данных.
Канал связи — среда передачи сигналов между устройствами. Сигнал — материальное воплощение сообщения для использования при передаче, переработке и хранении информации. Помехи — нежелательные искажения или вмешательства в сигнал. Алфавит — набор символов для представления данных. Код — система условных знаков, применяемых для передачи, обработки, хранения информации. Язык — множество конечных слов (строк, цепочек) над конечным алфавитом. Сообщение — передаваемая информация. Данные — факты, числа, текст и т.д., обрабатываемые устройствами.
Пример системы передачи данных: Компьютер передает текстовое сообщение принтеру через кабель, где возможны помехи. Принтер получает сигнал, декодирует его и выводит текст на бумаге.
3. Что такое информационная энтропия? В чем смысл информационной энтропии? Напишите формулу информационной энтропии Шеннона. Приведите пример вычисления информационной энтропии по формуле Шеннона.
Информационная энтропия — мера неопределённости, хаотичности информации. Смысл: чем выше энтропия, тем больше неопределённости в сообщении и тем больше бит информации требуется для его передачи.
Формула
информационной энтропии Шеннона
,
где pi
– вероятность появления события i.
Пример:
Красный
сигнал появляется с вероятностью 0,25, а
зелёный – с вероятностью 0,75. Информационная
энтропия сообщения
Если
бы сигналы появлялись равновероятно,
то
бит
Теория автоматов
1. Введение в теорию автоматов: основные определения и понятия. Что такое автомат и какие типы автоматов существуют? Сформулируйте абстрактный автомат.
Теория автоматов — раздел дискретной математики, изучающий абстрактные автоматы — вычислительные машины, представленные в виде математических моделей — и задачи, которые они могут решать.
Автомат:
В общем: самостоятельно действующее по заданной программе устройство.
Абстрактный автомат — модель дискретного устройства, имеющего один вход, один выход и в каждый момент времени находящегося в одном состоянии из множества возможных.
Типы автоматов:
Конечный автомат (число возможных внутренних состояний конечно)
Детерменированный конечный автомат (следующее состояние однозначно определяется текущим состоянием и входным символом)
Недетерминированный конечный автомат (следующее состояние в общем случае не определено)
Вероятностный конечный автомат (переход в последующие состояния происходит с некоторыми вероятностями)
2. Сформулируйте конечный детерминированный автомат с пояснениями. Какие существуют способы задания конечного автомата? Приведите пример. (?)
Конечный детерминированный автомат (ДКА) — математическая модель с ограниченным числом состояний, где переходы определены символами алфавита, и есть начальное и конечные состояния.
Способы задания конечного автомата
Табличный (матрицы переходов и выходов)
Графический (с помощью графов)
Аналитический (с помощью формул)
3. Что такое синтез автомата? Что представляет собой граф переходов автомата? Что такое таблица переходов автомата? Приведите пример конечного автомата. (?)
Синтез автомата — это процесс создание автомата на основе заданных условий.
Граф переходов представляет собой графическое изображение состояний и переходов между ними с учетом символов алфавита.
Таблица переходов — это структурированная форма, автомата где пересекаются состояния и символы, указывая соответствующие переходы.
Пример
4. Детерминированные и недетерминированные конечные автоматы: определение и основные характеристики. В чем разница между детерминированными и недетерминированными конечными автоматами? Как определить, является ли конечный автомат детерминированным или недетерминированным? Каковы основные характеристики детерминированных и недетерминированных конечных автоматов?
Детерминированный конечный автомат (ДКА) — автомат, где для каждой пары состояние-входной символ существует единственный переход. Полностью определен и предсказуем.
Недетерминированный конечный автомат (НКА) — автомат, где для некоторых пар состояние-входной символ существует более одного возможного перехода. Допускает неоднозначность и более сложное поведение.
Определение типа автомата
ДКА: Для каждой пары состояние-входной символ существует единственный переход.
НКА: Для некоторых пар состояние-входной символ существует более одного возможного перехода.
5. Автоматы Мили и Мура: определение, особенности и взаимосвязь. Дайте формальное определение автоматам Мили и автоматам Мура. В чем состоят особенности каждого из этих типов автоматов? (?)
Автомат Мили
Выход зависит от текущего состояния и входного символа.
Выход меняется сразу после изменения входа.
Автомат Мура
Выход зависит только от текущего состояния.
Выход меняется при переходе между состояниями.
Взаимосвязь Оба типа автоматов представляют собой конечные автоматы. Различие в том, как изменяются выходные сигналы: при изменении входа (Мили) или при переходе между состояниями (Мура).
Формальные определения
Автомат Мили
Состояния: S
Входной алфавит: X
Выходной алфавит: Y
Переходы: δ: S × X → S
Выходы: λ: S × X → Y
Начальное состояние: s0∈S
Автомат Мура
Состояния: S
Входной алфавит: X
Выходной алфавит: Y
Переходы: δ: S × X → S
Выходы: λ: S → Y
Начальное состояние: s0∈S
Схемы
1) Схема логических вентилей на КМОП логике (И, ИЛИ, НЕ, ИЛИ-НЕ, И-НЕ)
2)
Построить схему мультиплексора с двумя
управляющими битами
3) Построить схему демультиплекссчора с двумя управляющими битами
4) Построить схему полусумматора из логических вентилей, построить схему полного однобитного сумматора из двух полусумматоров. Обозначить входы и выходы и написать, что они означают.
Полусумматор (carry – перенос)
Полный однобитный сумматор (CI – перенос из предыдущего сумматора, CO – перенос в следующий сумматор)
5) Построить вычитатель из сумматора и инвертора, используя готовый сумматор. Обозначить входы и выходы.
Инвертор
Вычитатель
(заменить
стандартный сумматор на 4-х битный)
6) Построить сумматор с аккумулятором, используя готовый сумматор и готовый регистр.
Сумматор с аккумулятором
7) Построить асинхронный RS-триггер из логических вентилей.
8) Построить синхронный RS-триггер из логических вентилей
9) Построить D-триггер, работающий по уровню из логических вентилей. Обозначить входы и выходы.
По верхнему уровню
10)Построить D-триггер, работающий по фронту используя готовые D-триггеры, работающие по уровню. Обозначить входы и выходы.
По переднему фронту (поменять стандартные D-триггеры на высокий уровень)
11)Построить T-триггер из D-триггеров, работающих по уровню. Обозначить входы и выходы.
T-триггер (поменять стандартные D-триггеры на высокий уровень)
12)Построить 4х битный регистр из D-триггеров. Обозначить входы и выходы.
Асинхронный
регистр
13)Построить счетчик из T-триггеров. Обозначить входы и выходы.
14)Построить делитель частоты из D-триггеров.
15)Построить память на 4 бита и 4 ячейки.
(поменять стандартные регистры на 4-х битные)
