Экзаменационный билет №3
1.Энтропия информации.
Информационная энтропия — мера неопределённости или непредсказуемости информации, неопределённость появления какого-либо символа первичного алфавита. При отсутствии информационных потерь численно равна количеству информации на символ передаваемого сообщения.
Например, в последовательности букв, составляющих какое-либо предложение на русском языке, разные буквы появляются с разной частотой, поэтому неопределённость появления для некоторых букв меньше, чем для других. Если же учесть, что некоторые сочетания букв (в этом случае говорят об энтропии nn {\displaystyle n} -го порядка) встречаются очень редко, то неопределённость уменьшается еще сильнее.
Энтропия — это количество информации, приходящейся на одно элементарное сообщение источника, вырабатывающего статистически независимые сообщения.
Информационная двоичная энтропия для независимых случайных событий x x {\displaystyle x} с n n {\displaystyle n} возможными состояниями (от 1 1 {\displaystyle 1} до nn {\displaystyle n} , pp {\displaystyle p} — функция вероятности) рассчитывается по формуле
H
= – ∑ pi
pi
Эта величина Hi = - 𝐥𝐨𝐠𝟐 Pi также называется средней энтропией сообщения. Величина H i = − log 2 p ( i ) {\displaystyle H_{i}=-\log _{2}{p(i)}} называется частной энтропией, характеризующей только ii {\displaystyle i} -e состояние.
Таким образом, энтропия события x x {\displaystyle x} является суммой с противоположным знаком всех относительных частот появления события ii {\displaystyle i} , умноженных на их же двоичные логарифмы. Это определение для дискретных случайных событий можно расширить для функции распределения вероятностей.
2.Таблица операции сложения по модулю два.
Сложение по модулю 2— булева функция, а также логическая и битовая операция. В случае двух переменных результат выполнения операции является истинным тогда и только тогда, когда лишь один из аргументов является истинным. Для функции трёх и более переменных результат выполнения операции будет истинным только тогда, когда количество аргументов равных 1, составляющих текущий набор — нечетное.
А |
В |
а⊕b |
0 |
0 |
0 |
0 |
1 |
1 |
1 |
0 |
1 |
1 |
1 |
0 |
Экзаменационный билет №4
1.Системы счисления. Схема Горнера.
Схема Горнера (или правило Горнера, метод Горнера) — алгоритм вычисления значения многочлена, записанного в виде суммы мономов (одночленов), при заданном значении переменной. Метод Горнера позволяет найти корни многочлена, а также вычислить производные полинома в заданной точке. Схема Горнера также является простым алгоритмом для деления многочлена на бином вида x-cx − c {\displaystyle x-c} . Метод назван в честь Уильяма Джорджа Горнера.
2.Таблица операции эквивалентности.
Логическая равнозначность или эквивале́нция (или эквивалентность)— это сложное логическое выражение, которое является истинным тогда и только тогда, когда оба простых логических выражения имеют одинаковую истинность. Двуместная логическая операция обычно обозначается символом ≡ или ↔.
A |
B |
A ≡ B |
0 |
0 |
1 |
0 |
1 |
0 |
1 |
0 |
0 |
1 |
1 |
1 |