2. Содержательный подход к
измерению информации
Сообщение содержит информацию для человека, если
заключенные в нем сведения являются для этого человека
новыми и понятными и, следовательно, пополняют его
знания.
При содержательном подходе возможна качественная оценка
информации: полезная, важная, вредная ...
3. Неопределенность знаний и единица
информации
Можно различить две ситуации: «нет информации» - «есть
информация» т.е. количество информации равно нулю или не
равно нулю). Нужна единица измерения, тогда можно
определить, в каком сообщении информации больше, в каком
– меньше. Эта единица называется бит.
Сообщение, уменьшающее неопределенность знаний в
два раза, несет 1 бит информации.
Неопределенность знаний о некотором событии – это
количество возможных результатов события.
Что такое «неопределенность знаний»? Рассмотрим
примеры:
4. Пример 1
Вы бросаете монету, загадывая, что
выпадет: орел или решка?
Решение: Есть два варианта
возможного результата бросания
монеты. Ни один из этих вариантов не
имеет преимущества перед другим
(равновероятны).
Перед подбрасыванием монеты неопред
еленность знаний о результате равна двум.
После совершения действия
неопределенность уменьшилась в 2
раза. Получили 1 бит информации.
Ответ: Результат подбрасывания
монеты принес 1 бит информации.
5. Пример 2
Студент на экзамене может получить одну из четырех оценок: 5, 4, 3, 2.
Учится неровно и с одинаковой вероятностью может получить любую
оценку. После сдачи экзамена, на вопрос: «Что получил?» - ответил:
«Четверку». Сколько бит информации содержится в его ответе?
Решение: Если сразу сложно ответить на вопрос, то можно отгадать
оценку, задавая вопросы, на которые можно ответить только «да» или «
нет», т.е. поиск осуществляется отбрасыванием половины вариантов.
Вопросы будем ставить так, чтобы каждый ответ уменьшал количество
вариантов в два раза и, следовательно, приносил 1 бит информации.
1 вопрос: -Оценка выше тройки? - ДА
(число вариантов уменьшилось в два раза.) Получен 1 бит информации.
2 вопрос: -Ты получил пятерку? - НЕТ
(выбран один вариант из двух оставшихся: оценка – «четверка».) Получен
еще 1 бит.
В сумме имеем 2 бита.
Ответ: Сообщение о том, что произошло одно из четырех
равновероятностных событий несет 2 бита информации.
6. Пример 3
На книжном стеллаже восемь полок.
Книга может быть поставлена на любую
из них. Сколько информации содержит
сообщение о том, где находится книга?
1 вопрос: - Книга лежит выше четвертой
полки? - НЕТ (1, 2, 3, 4) - 1 бит
2 вопрос: - Книга лежит ниже третьей
полки? - ДА (1, 2) - 1 бит
3 вопрос: - Книга – на второй полке?
- НЕТ (1) - 1 бит
Книга лежит на первой полке.
Ответ: 3 бита информации (каждый
ответ уменьшал неопределенность в два
раза. Всего было задано три вопроса.)
7. Главная формула информатики
Обозначим: N – количество возможных событий
(неопределенность знаний)
i - количество информации в сообщении о том, что
произошло одно из N событий.
В примере с монетой N = 2, i = 1 21 = 2
В примере с оценками N = 4, i = 2 22 = 4
В примере со стеллажом N = 8, i = 3 23 = 8
Получаем формулу: 2i = N
Вывод: Для определения количества информации i,
содержащейся в сообщении о том, что произошло одно
из N равновероятных событий, нужно решить показательное
уравнение:
2i = N
8. Измерение информации – содержательный подход
Измеряется количество информации в сообщении о результате
некоторого события
Равновероятные результаты:
никакой результат не имеет преимущества перед другими
Неопределенность знания – Количество информации в
число возможных результатов сообщении об одном результате
(вариантов сообщения) - N события – i битов
Главная формула информатики: 2i=N
Частный случай: два равновероятностных результата события
N=2 i=1 бит
1 бит- количество информации в сообщении об одном из двух
равновероятных результатов некоторого события
http://www.youtube.com/watch?v=6niDlWTgMwI
Дополнительная информация
9. Задания
1. Сколько битов информации несет
сообщение о том, что из колоды в 32карты
достали «даму пик»?
2. Проводятся две лотереи: «4 из 32» и «5 из
64». Сообщение о результатах какой из
лотерей несет больше информации и во
сколько раз?
10. Использованные источники
• Семакин И.Г. Информатика и ИКТ. Базовый уровень:
учебник для 10-11 классов/ И.Г.Семакин, Е.К.Хеннер. – 8-е
изд. – М.: БИНОМ. Лаборатория знаний, 2012.
• lit.wl.dvfu.ru/inf/kspi.doc
• http://www.kolomna-school7-ict.narod.ru/st10201.htm
