Как рассчитать количество информации в двоично-симметричном канале?

Question

[GONJY MONJY]

Доброго времени суток
Передо мной была поставлена задача, которую я не смог понять как решить.

В двоично-симметричном канале передаётся ФИО ввиде ASCII символов без пробелов (допустим Иванов Иван Иванович). Получим такое сообщение message = "IVANOVIVANIVANOVICH". Каждый i-ый сивол передаётся с ошибкой. Рассчитать количество (в битах и процентах) потерянной информации, при условии, что i = 3.

Было вариант такой, что в процентах рассчитывается вот так:

Количество неправильных символов
Ne = length(message) * 8 / i

Количество потерянной информации в процентах
I = (message * 8) / Ne

Тогда я уже не понимаю, как рассчитать в битах

Возможно я не до конца понял условие, и i-ый символ - это символ самого сообщения, а не битов сообщения.

Comments

[Saboteur]

С точки зрения банальной эрудиции, если каждый третий символ (i-3) передается с ошибкой, то процент потерянной информации 33.(3)%
С точки зрения бит, считаем количество символов в "IVANOVIVANIVANOVICH" = 19. Каждый третий символ битый, количество битых символов 6, умножаем 6 на 8 бит, получаем 48 бит.

[GONJY MONJY]

Saboteur,

С точки зрения банальной эрудиции, если каждый третий символ (i-3) передается с ошибкой, то процент потерянной информации 33.(3)%

Да, тут с вами не поспоришь.

Возможно я слишком намудрил для себя из-за "количества информации". Я думал стоит найти эффективную энтропию и как-то работать с ней по формуле:

He = 1 - (-p*log2(p) - q*log2(q))

где p - вероятность ошибки, а q - вероятность правильно переданного бита.

Ибо есть формула для нахождения количества информации:

I = He * L

где He - энтропия, а L - длина сообщения в битах.

[Alex G.]

GONJY MONJY, У меня получилось 100% и 144 бита потерянных )

[GONJY MONJY]

Alex G., а можно вас попросить подробно расписать ваши вычисления? Было бы очень полезно для понимания