Материал: Тесты

ТЕСТ 1

1. На выходе дискретного источника информации:

а) реализация непрерывного случайного процесса

б) детерминированный дискретный процесс

в) реализация дискретного случайного процесса.

Выбери правильный ответ.

2. Один из символов дискретного источника появляется на его выходе с вероятностью . Найти его собственную информацию в битах.

Ответ: 1.514.

3. Дискретный источник без памяти имеет объем алфавита . Чему равна максимально возможная энтропия такого источника.

Ответ: 1.585

4. Даны три дискретных источника с объемом алфавита . Один – источник без памяти с вероятностями выхода символов , другой – стационарный источник с равновероятными символами, третий – источник без памяти с равновероятными символами. Какой из указанных источников обладает большей энтропией.

Источник без памяти с равновероятными символами – это пример максимальной энтропии для заданного алфавита. А так как эта энтропия будет максимальна, то и смысла считать их все - нет. Ответ: 3.

5. Дискретный источник без памяти имеет алфавит из 5 символов, каждый из которых появляется с вероятностью 1/5. Выход источника кодируется равномерным двоичным кодом (каждому символу ставится в соответствие кодовая комбинация, соответствующая номеру символа от 1 до 5). Какова эффективность данного способа кодирования?

Ответ: 0.774.

6. Выход дискретного источника без памяти с объемом алфавита кодируется уникальным кодом фиксированной длины (каждому символу источника ставится в соответствие уникальная кодовая комбинация). Определить длину кода.

Ответ: 3.

7. Стационарный дискретный источник целесообразно кодировать

а) кодом Хаффмена

б) кодом Фано

в) используя алгоритм Лемпела-Зива

8. Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой кГц. Определите минимально возможную частоту дискретизации сигнала на выходе источника.

Ответ: 10 кГц.

9. Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой кГц. Определите максимально возможный шаг дискретизации сигнала на выходе источника.

Ответ:

10. Выход непрерывного источника информации кодируется ИКМ сигналом. Сигнал источника имеет верхнюю частоту спектра равную кГц, количество уровней квантования . Определите ширину полосы ИКМ сигнала.

Ответ:

11. Выход непрерывного источника информации кодируется ИКМ сигналом. Сигнал источника имеет верхнюю частоту спектра равную кГц, количество уровней квантования . Определите битовую скорость на выходе кодера ИКМ.

Ответ: 10 Кбит/сек.

12. Определите дисперсию шума квантования, если равномерный квантователь имеет шаг квантования В. Предполагается, что шум квантования распределен равномерно в интервале .

Ответ: 0.03

13. Определите дифференциальную энтропию (бит) гауссовского источника информации, если известна дисперсия сообщения .

Так как источник гауссовский, то его дифференциальная энтропия может посчитана так:

Ответ: 3.547

14. Найти значение эпсилон-энтропии равномерного источника, если мощность сообщения на его выходе равна 3 мВт ( ), а мощность шума воспроизведения 0.5 мВт ( )?

Ответ: 1.037

15. Найти избыточность непрерывного источника, выдающего сообщение с равномерным законом распределения и независимыми отсчетами при отношении сигнал/шум .

Ответ: 0.1969

ТЕСТ 2

1. Энтропия дискретного источника измеряется

а) в битах

б) в битах в секунду

в) величина безразмерная

2. Один из символов дискретного источника появляется на его выходе с вероятностью . Найти его собственную информацию в битах.

Ответ: 4.454

3. Дискретный двоичный источник информации без памяти выдает символы с вероятностями . Найти энтропию источника, если .

Ответ: 0

4. Дискретный источник без памяти имеет объем алфавита . Чему равна максимально возможная энтропия такого источника.

Ответ: 3

5. Даны три дискретных источника без памяти. У одного объем алфавита , символы на его выходе равновероятны, у второго , символы источника равновероятны, у третьего - , символы появляются с вероятностями . Какой их этих источников обладает большей энтропией.

Ответ: 2

6. Выход дискретного источника без памяти кодируется кодом Хаффмена переменной длины. В первом случае используется посимвольное кодирование, во втором – блочное. Эффективность кодирования:

а) выше в первом случае

б) выше во втором случае

в) одинакова в обоих случаях

7. Выход дискретного источника без памяти с объемом алфавита кодируется уникальным кодом фиксированной длины (каждому символу источника ставится в соответствие уникальная кодовая комбинация). Определить длину кода.

Ответ: 3

8. Выход дискретного источника без памяти с объемом алфавита кодируется кодом фиксированной длины следующим образом: блоку из символов источника ставится в соответствие уникальная кодовая комбинация длиной . Определите длину кодового слова, если .

Ответ: 4

9. Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой кГц. Определите минимально возможную частоту дискретизации сигнала на выходе источника.

Ответ: 14 кГц

10. Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой кГц. Определите максимально возможный шаг дискретизации сигнала на выходе источника.

Ответ: 0.2

11. Выход непрерывного источника информации кодируется ИКМ сигналом. Сигнал источника имеет верхнюю частоту спектра равную кГц, количество уровней квантования . Определите битовую скорость на выходе кодера ИКМ.

Ответ: 24

12. Определите десятичное число, закодированное двоичным кодом 10011010.

Ответ: 154

13. Определите дифференциальную энтропию (бит) гауссовского источника информации, если известна дисперсия сообщения .

Ответ: 2.708

14. Какой из трех непрерывных источников информации обладает наибольшей энтропией:

а) источник с равномерным распределением сигнала на выход

б) гауссовский источник

в) источник Лапласа.

15. Дискретный источник информации без памяти с объемом алфавита обладает энтропией . Найти избыточность данного источника.

(Бля, легчайшая задача, по сравнению с прошлым тестом)

Ответ: 0.25

Тест 3.

1. Взаимная информации двух независимых величин равна

а) 0

б) собственной информации

в) 1

2. Один из символов дискретного источника появляется на его выходе с вероятностью . Найти его собственную информацию в битах.

Ответ: 3.32

3. Дискретный двоичный источник информации без памяти выдает символы с вероятностями . Найти энтропию источника, если .