Слайд 2Вопрос: «Как измерить информацию?» очень непростой.
Ответ на него зависит от
того, что понимать под информацией. Но поскольку определять информацию можно по-разному, то и способы измерения тоже могут быть разными.
Слайд 3Для человека информация — это знания человека. Рассмотрим вопрос с этой
точки зрения.
Получение новой информации приводит к расширению знаний. Если некоторое сообщение приводит к уменьшению неопределенности нашего знания, то можно говорить, что такое сообщение содержит информацию.
Отсюда следует вывод, что сообщение информативно (т.е. содержит ненулевую информацию), если оно пополняет знания человека. Например, прогноз погоды на завтра — информативное сообщение, а сообщение о вчерашней погоде неинформативно, т.к. нам это уже известно.
Нетрудно понять, что информативность одного и того же сообщения может быть разной для разных людей. Например: «2x2=4» информативно для первоклассника, изучающего таблицу умножения, и неинформативно для старшеклассника.
Слайд 4Единица измерения информации была определена в науке, которая называется теорией информации.
Эта единица носит название «бит». Ее определение звучит так:
Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.
Неопределенность знаний о некотором событии — это количество возможных результатов события.
Очевидно, различать лишь две ситуации: «нет информации» — «есть информация» для измерения информации недостаточно. Нужна единица измерения, тогда мы сможем определять, в каком сообщении информации больше, в каком — меньше.
Слайд 5После сдачи зачета или выполнения контрольной работы ученик мучается неопределенностью, он
не знает, какую оценку получил.
«Зачет», «незачет»? «2», «3», «4» или «5»?
Наконец, учитель объявляет результаты, и он получаете одно из двух информационных сообщений: «зачет» или «незачет», а после контрольной работы одно из четырех информационных сообщений: «2», «3», «4» или «5».
Информационное сообщение об оценке за зачет приводит к уменьшению неопределенности знания в два раза, так как получено одно из двух возможных информационных сообщений. Информационное сообщение об оценке за контрольную работу приводит к уменьшению неопределенности знания в четыре раза, так как получено одно из четырех возможных информационных сообщений.
Слайд 6Если обозначить возможное количество событий, или, другими словами, неопределенность знаний N,
а буквой I количество информации в сообщении о том, что произошло одно из N событий, то можно записать формулу:
2I = N
Количество информации, содержащееся в сообщении о том, что произошло одно из N равновероятных событий, определяется из решения показательного уравнения: 2I = N.
Слайд 7Сколько информации содержит сообщение о выпадении грани с числом 3 на
шестигранном игральном кубике?
Слайд 8Алфавитный подход к измерению информации
Познакомимся с способом измерения информации, который не
связывает количество информации с содержанием сообщения, и называется он алфавитным подходом.
При алфавитном подходе к определению количества информации отвлекаются от содержания информации и рассматривают информационное сообщение как последовательность знаков определенной знаковой системы.
Применение алфавитного подхода удобно прежде всего при использовании технических средств работы с информацией. В этом случае теряют смысл понятия «новые — старые», «понятные — непонятные» сведения. Алфавитный подход является объективным способом измерения информации в отличие от субъективного содержательного подхода.
Слайд 9Алфавит и его мощность
Все множество используемых в языке символов будем традиционно
называть алфавитом.
Обычно под алфавитом понимают только буквы, но поскольку в тексте могут встречаться знаки препинания, цифры, скобки, то мы их тоже включим в алфавит. В алфавит также следует включить и пробел, т.е. пропуск между словами.
Полное количество символов алфавита принято называть мощностью алфавита.
Будем обозначать эту величину буквой N. Например, мощность алфавита из заглавных русских букв и отмеченных дополнительных символов равна 54.
АБВГДЕЁЖЗИЙКЛМНОПРСТУФХЦЧШЩЬЪЭЮЯ0123456789().,!?«»:-; (пробел)
Слайд 10Определите информационный объем страницы книги, если для записи текста использовались только
заглавные буквы русского алфавита, кроме буквы Ё.
Решение:
N = 32
2I = N
2I = 32
I = 5
На странице 3000 знаков, тогда объем информации = 3000 * 5 = 15000 бит.
Слайд 11Вопросы:
Что такое «алфавит»? Что такое «мощность алфавита»?
Как определяется количество информации в
сообщении с алфавитной точки зрения?
Сколько информации содержится в сообщении, если для кодирования одного символа использовать 1 байт:
«Компьютер – универсальный прибор.»
Два текста содержат одинаковое количество символов. Первый текст составлен в алфавите мощностью 32 символа, второй – мощностью 64 символа. Во сколько раз отличается количество информации в этих текстах?