Даны три дискретных источника с объемом алфавита . Один – источник без памяти с вероятностями выхода символов , другой – стационарный источник с равновероятными символами, третий – источник без памяти с равновероятными символами. Какой из указанных источников обладает большей энтропией Третий источник имеет наибольшую энтропию, так как символы равновероятны и независимы. Эти два критерия максимизируют энтропию. В стационарном источнике вообще следующий символ связан с предыдущим(и), так что энтропия заведомо ниже.

Ответ: 3

10. Определите дифференциальную энтропию (бит) гауссовского источника информации, если известна дисперсия сообщения . Ответ: 2.708

11. Найти эпсилон - производительность равномерного источника, если мощность сообщения на его выходе равна 3 мВт, его полоса Гц, а мощность шума воспроизведения 0.5 мВт? Ответ: 0.0622

Определите апостериорные вероятности передачи символов в двоичном дискретном канале связи, если канал задан матрицей переходных вероятностей и . Ответ:

13. Двоичный дискретный источник информации без памяти имеет энтропию . Найти избыточность данного источника. Ответ: 0.11

14. Найти пропускную способность гауссовского канала связи, имеющего полосу кГц, если на его вход поступает сигнал, мощность которого мВт, а в канале действует шум со спектральной плотностью мощности мкВт/Гц. Ответ: 15861

15. Минимальное кодовое расстояние равно 7. Сколько код может обнаружить и исправить ошибок. Ответ: 6 и 3

Тест 23

1. На выходе дискретного источника информации: а) реализация непрерывного случайного процесса, б) детерминированный дискретный процесс, в) реализация дискретного случайного процесса. Выбери правильный ответ.

2. Один из символов дискретного источника появляется на его выходе с вероятностью . Найти его собственную информацию в битах. Ответ: 1.514

3. Энтропия двоичного дискретного источника без памяти максимальна при а) , б) , в) не зависит от вероятности.

4. Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой кГц. Определите максимально возможный шаг дискретизации сигнала на выходе источника. Ответ: 0.1

5. Эффективность кодирования блоков символов источника увеличивается а) при увеличении длины блока, б) при сокращении длины блока, в) при длине блока равном 1 (посимвольное кодирование).

6. Выход непрерывного источника информации кодируется ИКМ сигналом. Сигнал источника имеет верхнюю частоту спектра равную кГц, количество уровней квантования . Определите ширину полосы ИКМ сигнала. Ответ: 120

7. Выход непрерывного источника информации кодируется ИКМ сигналом. Сигнал источника имеет верхнюю частоту спектра равную кГц, количество уровней квантования . Определите битовую скорость на выходе кодера ИКМ. Ответ: 48

8. Определите дисперсию шума квантования, если равномерный квантователь имеет шаг квантования В. Предполагается, что шум квантования распределен равномерно в интервале . Ответ: 0.75

9. Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой кГц. Определите минимально возможную частоту дискретизации сигнала на выходе источника. Ответ: 2

10. Определите дифференциальную энтропию (бит) гауссовского источника информации, если известна дисперсия сообщения . Ответ: 2.047

11. Найти значение эпсилон - энтропии равномерного источника, если мощность сообщения на его выходе равна 3 мВт, а мощность шума воспроизведения 0.5 мВт? Ответ: 1.0379

Определите апостериорные вероятности передачи символов в двоичном дискретном канале связи, если канал задан матрицей переходных вероятностей и . Ответ:

13. Определите нормированную пропускную способность( ) в двоичном симметричном канале связи, если задана вероятность ошибки . Ответ: 0.119

14. Найти пропускную способность гауссовского канала связи, имеющего полосу кГц, если на его вход поступает сигнал, мощность которого мВт, а в канале действует шум со спектральной плотностью мощности мкВт/Гц. Ответ: 7075

Проверочная матрица линейного блочного кода определяется как . Найдите синдром , соответствующий двойной ошибке . Ответ: