@1Danshin1

Если бы в компьютере было 3 уровня напряжения, то формула информации имела место быть?

В учебнике есть формула D = log2(степень логарифма)N bits, где D-объем информации, N-кол-во различных состояний. Я вообще не понял откуда здесь степень 2 у логарифма, через поисковик нашел доказательство через энтропию, что для того, чтобы знак стал информацией необходимо задать ему вопрос, ответ на который даст 1 бит информации, а сам вопрос будет иметь два вывода: да и нет. Но если бы у нас было 3 состояния, то формула при 1 знаке выдала бы 2 бита(округляем в большую сторону, ведь чтобы закодировать двумя значениями 3 состояния надо минимум 2 бита: 00, 01, 10), хотя у нас по факту вопрос уже содержит не два ответа, а три, тем самым при записи одного знака мы также должны получать 1 бит информации. Разве на данный момент эта формула не частный случай для представления информации через двоичную систему, когда как в интернете преподносят это, как общую формулу информации?
https://medium.com/nuances-of-programming/введение...
  • Вопрос задан
  • 105 просмотров
Решения вопроса 1
wataru
@wataru
Разработчик на С++, экс-олимпиадник.
Тут все завязано на то, что бит - это 2 состояния. Поэтому и логарифм двоичный. Если бы бит имел 3 состояния, то он не был бы 2 двоичных бита - нельзя так округлять (давайте вы свою квартплату так же до 100000 округлите, вам нормально?). Логарифмы были бы по основанию 3, ведь каждый новый трибит умножал бы количество возможных состояний на 3.
Ответ написан
Пригласить эксперта
Ответы на вопрос 1
@rPman
Эта формула как мера, не предполагает конкретное значение, а описывает ее порядок/степень для оценки зависимости,
та же самая ситуация с трудоемкостью
, вас не сильно волнует (пока до конкретики не дойдешь) какая константа N у формулы N*x*log(x), вас волнует только X*log(x) ибо точно описывает на сколько алгоритм сложный


Так вот у логарифма есть свойство, что логарифм любой степени можно свести к логарифму любой другой степени, умножив на константу потому что logA(b)=logC(b)/logC(A), т.е. если у тебя основание 3 то log3(b)=log2(b)/log2(3) ~ 0.6309*log2(b) , константу убирают из рассмотрения и все сводится к тому же логарифму двойной степени

Т.е. при переходе от 2 к 3 битам количество информации изменится на константу, а не в степень, а значит незначительно и может быть исключено из рассмотрения
Ответ написан
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы