всех возможных сообщений х0 является
Предположим, что совокупность
Х0 всех возможных сообщений х0 является дискретной (имеется не более чем счетное число различных сообщений
x0, поступающих с соответствующими вероятностями
P0(x0), x0 О X0) и условие точности передачи
v состоит в том, что принимаемое сообщение
x3 должно просто совпадать с переданным сообщением
x3 =
x0 с вероятностью 1. Тогда

Предположим далее, что имеется лишь конечное число
N
различных входных сигналов х1 и нет никаких ограничений на вероятности P{
x1 = x1}, x1 О X1. Кроме того, предположим, что передаваемые сигналы принимаются без искажений, то есть с вероятностью 1
x2= x1. Тогда емкость канала выражается формулой C = log2N, т.е. передаваемое количество информации I(
x1, x
2 ) будет максимальным в том случае, когда сигналы x1 О X1 равновероятны.
Если сообщения

поступают независимо друг от друга, то количество информации, которое несет группа сообщений

Пусть H<C, положим также d=(1/2)(C-H). Согласно закону больших чисел, примененному к последовательности независимых и одинаково распределенных случайных величин

с математическим ожиданием

для любого e >0 найдется такое n(e), что при всех n і n(e )
P{-H-d Ј (1/n)logP( x 0n) Ј H+d } і 1-e, где

Полученное неравенство говорит о том, что все группы сообщений х0n можно разбить на два класса. К первому классу

и количество которых Mn не больше чем 2n(H+d ):
Mn Ј 2n(H+d )
Ко второму классу
х0n:

Каждую группу высоковероятных сообщений х0n можно в принципе передать, закодировав ее соответствующей комбинацией сигналов


передавать некоторый один и тот же сигнал


, то с вероятностью, не меньшей чем 1-e, на выходе канала связи будет приниматься последовательность
Содержание Назад Вперед
Forekc.ru
Рефераты, дипломы, курсовые, выпускные и квалификационные работы, диссертации, учебники, учебные пособия, лекции, методические пособия и рекомендации, программы и курсы обучения, публикации из профильных изданий