Слайд 2Неопределенность знаний
Неопределенность знаний - сообщение, которое содержит сведения о том, что
произошло одно из конечного множества (N) возможных событий.
Слайд 3Равновероятные события
События равновероятны, если ни одно из них не имеет преимущества
перед другими.
С этой точки зрения выпадение «герба» или «решки» – равновероятно.
Слайд 4Определение количества информации
Слайд 5Определение информации
Будем бросать монету.
Сколько вариантов выпадения может быть? – 2
Вероятность выпадения
«герба» или «решки» - ½.
Количество информации – 1 бит.
Слайд 6Определение информации
Будем бросать 2 монеты.
Бросание 2 монет должно
принести 2 бита
информации, так количество монет увеличилось в 2 раза.
Количество различных вариантов выпадения по две монеты: 4.
Вероятность появления 1 варианта – ¼
Слайд 7Определение информации
Будем бросать 3 монеты.
При бросание 3 монет количество информации увеличится
в 3 раза по сравнению с бросанием 1 монеты.
Количество различных вариантов выпадения по 3 монеты: 8
Вероятность выпадения 1 варианта: 1/8.
Слайд 8Определение информации
Если N = 2 (2=21),
то уравнение примет вид 2i =
21,
отсюда i = 1.
Если N = 4 (4=22),
то уравнение примет вид 2i = 22,
отсюда i = 2.
Если N = 8 (8=23),
то уравнение примет вид 2i = 23,
отсюда i = 3.
В общем случае, если N = 2k,
где k- целое число,
то уравнение примет вид 2i = 2k,
отсюда i = k.
Слайд 9Алфавитный подход к определению количества информации
Слайд 10Существует и другой способ измерения количества информации – алфавитный.
Это - измерение
количества информации в тексте (символьном сообщении), составленном из символов некоторого алфавита.
К содержанию текста такая мера информации отношения не имеет.
Поэтому такой подход можно назвать объективным, то есть не зависящим от воспринимающего его субъекта.
Слайд 11 Алфавитный подход удобен при подсчете количества информации, хранимого, передаваемого и обрабатываемого
техническими устройствами.
Устройствам нет дела до содержательной стороны сообщений.
Компьютеры, принтеры, модемы работают не с самой информацией а с ее представлением в виде сообщений.
Оценить информационные результаты их работы как полезные или бесполезные может только человек.
Слайд 12Алфавит
Алфавит – конечное множество символов, используемых для представления информации.
Слайд 13Мощность алфавита
Число символов в алфавите называется мощностью алфавита.
Чем меньше знаков
в используемом алфавите, тем длиннее сообщение.
Так, например, в алфавите азбуки Морзе всего три знака (точка, тире, пауза), поэтому для кодирования каждой русской или латинской буквы нужно использовать несколько знаков, и текст, закодированный по Морзе, будет намного длиннее, чем при обычной записи.
Пример:
Сигнал SOS: 3 знака в латинском алфавите;
11 знаков в алфавите Морзе: ··· пауза – – – пауза ···.
Слайд 14Количество информации, которое несет в тексте каждый символ (i), вычисляется из
уравнения Хартли:
2i = N,
где N – мощность алфавита.
Величину i можно назвать информационным весом символа.
Отсюда следует, что количество информации во всем тексте (I), состоящем из К символов, равно произведению информационного символа на К:
I = i * K.
Эту величину можно назвать информационным объемом текста.
Слайд 15Односимвольный алфавит
Сообщение любой длины, использующее односимвольный алфавит, содержит нулевую информацию.
Доказательство:
Предположим,
что используемый алфавит состоит из одного символа, например, «1».
Интуитивно понятно, что сообщить что-либо с помощью единственного символа невозможно.
Но это же доказывается строго с точки зрения алфавитного подхода.
Информационный вес символа в таком алфавите находится из уравнения:
2i = 1
Но поскольку
1 = 20,
то отсюда следует, что
i = 0 бит
Слайд 16Пример
Представьте себе толстую книгу в 1000 страниц, на всех страницах которой
написаны одни единицы (единственный символ используемого алфавита).
- Сколько информации в ней содержится?
Ответ: Нисколько, ноль.
11111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111
Слайд 17Минимальная мощность алфавита
Минимальная мощность алфавита, пригодного для передачи информации, равна 2.
Такой
алфавит называется двоичным алфавитом.
Информационный вес символа в двоичном алфавите легко определить.
Поскольку
2i = 2,
то i = 1 бит
Один символ двоичного алфавита несет 1 бит информации.
1 бит – исходная единица измерения информации.
Слайд 18Мощность русского алфавита
Каждая буква русского алфавита
(если считать, что е =
ё)
несет информацию 5 бит
(32 = 25).
Слайд 19Компьютерный алфавит
Современный компьютер может обрабатывать числовую, текстовую, графическую, звуковую и видео
информацию.
Все эти виды информации в компьютере представлены в двоичном коде, т. е. используется алфавит мощностью два (всего два символа 0 и 1).
Связано это с тем, что удобно представлять информацию в виде последовательности электрических импульсов: импульс отсутствует (0), импульс есть (1).
Такое кодирование принято называть двоичным, а сами логические последовательности нулей и единиц - машинным языком.
Слайд 20Байт
Компьютер для внешнего представления текстов и другой символьной информации использует
алфавит мощностью
256
символов.
Байт вводится как информационный вес символа из алфавита мощностью 256.
Так как
256 = 28,
то 1 байт = 8 бит.
Слайд 21Производные единицы измерения информации
Килобайт больше байта в 1024 раза, а число
1024 = 210.
При приближенных вычислениях можно использовать коэффициент 1000.
1 Мегабайт (1 Мб) = 1024 Кбайт ≈ 1000 Кб
1 Гигабайт (1Гб) = 1024 Мбайт ≈ 1000 Мб
1 Терабайт (1Тб) = 1024 Гигабайт ≈ 1000 Гб
1 Петабайт (Пб) = 1024 Терабайт ≈ 1000 Тб
Слайд 22Задачи для закрепления
Задача 1.
Книга, набранная с помощью компьютера, содержит 159 страниц.
На
каждой странице – 40 строк.
В каждой строе – 60 символов.
Каков объем информации в книге?
Решение:
Мощность компьютерного алфавита равна 256.
Один символ несет 1 байт информации.
Значит, страница содержит 40 * 60 = 2400 байт информации.
Объем всей информации в книге (в разных единицах):
2400 * 150 = 360 000 байт
360000/1024 = 351,5625 Кбайт
351,5625/1024 = 0,3433 Мбайт.
Слайд 23Задачи для закрепления
Задача 2.
Объем сообщения, содержащего 2048 символов, составил 1/512 часть
Мбайта.
Каков размер алфавита, с помощью которого записано сообщение?
Решение:
Переведем информационный объем сообщения в биты:
I = 1/512 * 1024 * 1024 * 8 = 16384 бит.
Поскольку такой объем информации несут 1024 символа (К), то на один символ приходится:
i = I/K = 16384/1024 = 16 бит.
Отсюда следует, что размер (мощность) использованного алфавита равен 216 = 65536 символов.
Слайд 24Задачи для самостоятельного решения
Задача 1.
Алфавит племени Мульти состоит из 8 букв.
Какое
количество информации несет одна буква этого алфавита?
Задача 2.
Сообщение, записанное буквами из 64-х символьного алфавита, содержит 20 символов.
Какой объем информации оно несет?
Слайд 25Задачи для самостоятельного решения
Задача 3.
Племя Мульти имеет 32-х символьный алфавит.
Племя Пульти
использует 64-х символьный алфавит.
Вожди племен обменялись письмами.
письмо племени мульти содержало 80 символов, а письмо племени Пульти – 70 символов.
Сравните объем информации, содержащейся в письмах.
Слайд 26Задачи для самостоятельного решения
Задача 4.
Информационное сообщение объемом 1,5 Кбайт содержит 3072
символа.
Сколько символов содержит алфавит, при помощи которого было записано это сообщение?
Задача 5.
Сколько килобайтов составляет сообщение, содержащее 12288 битов?
Слайд 27Задачи для самостоятельного решения
Задача 6.
Сколько килобайтов составит сообщение из 384 символов
16-ти символьного алфавита?
Задача 7.
Для записи текста использовался 256-символьный алфавит.
Каждая страница содержит 30 строк по 70 символов в строке.
Какой объем информации содержат 5 страниц текста?
Слайд 28Задачи для самостоятельного решения
Задача 8.
Сообщение занимает 3 страницы по 25 строк.
В
каждой строке записано по 60 символов.
Сколько символов в использованном алфавите, если все сообщение содержит 1125 байтов?
Слайд 29Задачи для самостоятельного решения
Задача 9.
Для записи сообщения использовался 64-х символьный алфавит.
Каждая
страница содержит 30 строк.
Все сообщение содержит 8775 байтов информации и занимает 6 страниц.
Сколько символов в строке?