SlideShare a Scribd company logo
1 of 32
Download to read offline
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ
ФЕДЕРАЦИИ
ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ
ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ
«ШУЙСКИЙ ГОСУДАРСТВЕННЫЙ ПЕДАГОГИЧЕСКИЙ
УНИВЕРСИТЕТ»
Теоретические основы информатики
Методические рекомендации по решению задач
Шуя, 2008
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
2
ББК 32.97
УДК 004.3
М 54
Печатается по решению редакционно-
издательского Совета ГОУ ВПО «Шуйский
государственный педагогический университет»
Автор-составитель: Завьялова О.А.
Рецензент: к. п. н., доцент Замогильнова Л.В.
М 54 Теоретические основы информатики. Методические
рекомендации по решению задач. – Шуя: Изд-во «Весть». ГОУ ВПО
«Шуйский государственный педагогический университет, 2008.
Практикум содержит основные теоретические сведения, примеры
и задачи по темам «Различные подходы к определению количества
информации», «Оптимальное кодирование», «Представление и
обработка чисел на компьютере», «Передача информации в линиях связи»
и предназначены для проведения практических работ по курсу
«Теоретические основы информатики», для организации
самостоятельной работы, подготовки к экзаменам.
Пособие предназначено для студентов, обучающихся по
дополнительной специальности «Информатика».
(с) ГОУ ВПО «Шуйский государственный
педагогический университет, 2008
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
3
Содержание
ТЕМА 1. РАЗЛИЧНЫЕ ПОДХОДЫ К ОПРЕДЕЛЕНИЮ
КОЛИЧЕСТВА ИНФОРМАЦИИ.......................................................... 4
ПРАКТИЧЕСКАЯ РАБОТА № 1. ФОРМУЛА ХАРТЛИ ОПРЕДЕЛЕНИЯ
КОЛИЧЕСТВА ИНФОРМАЦИИ. ................................................................... 4
Теоретические сведения.................................................................... 4
Примеры решения задач ................................................................... 5
Задачи для самостоятельного решения.......................................... 6
ПРАКТИЧЕСКАЯ РАБОТА № 2. ФОРМУЛА ШЕННОНА ОПРЕДЕЛЕНИЯ
КОЛИЧЕСТВА ИНФОРМАЦИИ. ................................................................... 8
Теоретические сведения.................................................................... 8
Примеры решения задач ................................................................... 9
Задачи для самостоятельного решения.......................................... 9
ТЕМА 2. ОПТИМАЛЬНОЕ КОДИРОВАНИЕ ИНФОРМАЦИИ.. 11
ПРАКТИЧЕСКАЯ РАБОТА № 3. ПОСТРОЕНИЕ ПРЕФИКСНЫХ КОДОВ....... 11
Теоретические сведения.................................................................. 11
Примеры решения задач ................................................................. 12
Вопросы и задачи для самостоятельного решения...................... 13
ТЕМА 3. ПРЕДСТАВЛЕНИЕ И ОБРАБОТКА ЧИСЕЛ НА
КОМПЬЮТЕРЕ ...................................................................................... 14
ПРАКТИЧЕСКАЯ РАБОТА № 4. СИСТЕМЫ СЧИСЛЕНИЯ. ПРАВИЛА ПЕРЕВОДА
ЧИСЕЛ..................................................................................................... 15
Примеры решения задач ................................................................. 15
Задачи для самостоятельного решения........................................ 19
ПРАКТИЧЕСКАЯ РАБОТА №5. ПРЕДСТАВЛЕНИЕ ЧИСЕЛ В КОМПЬЮТЕРЕ 20
Теоретические сведения.................................................................. 20
Примеры решения задач ................................................................. 23
Задачи для самостоятельного решения........................................ 25
ТЕМА 4. ОБЩАЯ СХЕМА ПЕРЕДАЧИ ИНФОРМАЦИИ В ЛИНИЯХ
СВЯЗИ....................................................................................................... 26
ПРАКТИЧЕСКАЯ РАБОТА № 6. ПЕРЕДАЧА ИНФОРМАЦИИ В КОМПЬЮТЕРНЫХ
СЕТЯХ ..................................................................................................... 26
Теоретические сведения.................................................................. 26
Задачи для самостоятельного решения........................................ 31
ЛИТЕРАТУРА......................................................................................... 32
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
4
Тема 1. Различные подходы к определению количества
информации
Согласно американскому ученому и инженеру Клоду Шеннону,
информация – это снятая неопределенность.
Шеннон впервые ввел такую трактовку в теории связи. Позднее она
нашла применение во всех областях науки, где играет роль передача
информации в самом широком смысле этого слова.
Согласно Шеннону, информативность сообщения характеризуется
содержащейся в нем полезной информацией, т.е. той частью сообщения,
которая полностью снимает, или уменьшает существующую до ее
получения неопределенность какой-либо ситуации.
Неопределенность некоторого события – это количество возможных
исходов данного события.
Такой подход называют вероятностным.
С другой стороны, всякое сообщение можно закодировать с
помощью конечной последовательности символов некоторого алфавита. А
информативность последовательности символов характеризуется
безотносительно к содержанию представленного ей сообщения ее
сложностью, которая согласно Колмогорову, определяется минимально
необходимым количеством символов, необходимых для кодирования
данной последовательности. Этот подход называется алфавитным. Был
разработан А.Н. Колмогоровым.
Определения Шеннона и Колмогорова несмотря на свою
различность хорошо согласуются друг с другом.
Хотя информацию нельзя определить, ее можно измерить.
1 бит – количество информации, уменьшающее неопределенность в
2 раза.
1 бит – количество информации, которое можно передать в
сообщении, состоящем из одного двоичного знака (0 или 1).
Практическая работа № 1. Формула Хартли определения
количества информации.
Теоретические сведения
Формула Хартли. Пусть мы имеем алфавит, мощностью N, все
символы которого встречаются с одинаковой частотой. Количество
информации, которое вмещает один символ N элементного алфавита,
равно log2N.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
5
Другими словами, количество информации, которое необходимо
для устранения неопределенности из N равнозначных вариантов равно
log2N бит.
Н=log2N
Н – количество информации в битах, которое несет 1 символ N-
символьного алфавита, в котором все символы равновероятны.
log2N1N2= log2N1 +log2N2
Закон аддитивности информации: количество информации Н(x1,
x2) необходимое для установления пары (x1, x2) равно сумме количеств
информации Н(x1) и Н(x2), необходимых для независимого установления
элементов x1 и x2.
Н(x1, x2)= Н(x1)+Н(x2)
Это следует из логарифмического тождества: log2N1N2= log2N1
+log2N2
Примеры решения задач
Пример 1.1. В бассейне 6 дорожек для плавания. Тренер сказал, что
команда будет плавать на третьей дорожке. Какое количество
информации получили пловцы?
Решение:
Количество возможных вариантов N=6. Все варианты
равновероятны.
Количество информации в сообщении равно
Н=log26=lg6/lg20,77815/0,3010292,58496 (бит)
Ответ: Н2,6 бит.
Примечание. Для приближенного вычисления log2N
воспользуйтесь формулой
a
b
a
b
ba
ln
ln
lg
lg
log  .
lg20,301029 ln20,693147
Пример 1.2. Сообщение занимает 2 страницы и содержит 1/16
Кбайт информации. На каждой странице записано 128 символов.
Какова мощность используемого алфавита?
Решение.
Вычислим количество информации, содержащееся на одной странице, в
битах.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
6
битбитКб 256
32
81024
216
1




Вычислим количество информации, которое несет 1 символ.
Н=256/128=2 бита
Вычислим мощность алфавита. Н=log2N, N=2Н
N=22
=4
Ответ: мощность алфавита – 4 символа.
Пример 1.3. Подсчитать, какое количество информации несет
прогноз погоды. Предположим, что нужно предсказать дневную
температуру (обычно выбор делается из 16 возможных для данного
сезона значений) и одного из четырех значений облачности
(солнечно, переменная облачность, пасмурно, дождь).
Решение:
1 способ:
N1=16, N2=4
H1=log2N1, H1=log216=4 бита
H2=log2N2, H2=log24=2 бита
Согласно закону аддитивности информации Н=Н1+Н2.
Н=4+2=6 бит.
2 способ:
Количество возможных вариантов прогноза погоды N=16*4=64
Н=log264=6 бит.
Ответ: прогноз несет 6 бит информации.
Задачи для самостоятельного решения
1. В библиотеке 16 стеллажей, в каждом стеллаже 8 полок. Какой
количество информации несет сообщение, что нужная книга
находится на четвертой полке второго шкафа?
2. Была получена телеграмма: «Встречайте вагон 7 поезд 32». Какое
количество информации получил адресат, если известно, что в
этот город приходят четыре поезда, а в каждом в среднем 16
вагонов?»
3. Сколько информации получит ученик, если в 10.00 увидит
сообщение о том, что классный час состоится в 14 часов, при
условии, что в этот день всегда бывает классный час? Ответ
обоснуйте.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
7
4. В классе 4 ряда парт по 4 парты в каждом ряду. Каждая парта
имеет два места. Все места заполнены учениками. Учитель
задумал одного из них. Какое количество информации мы
получим, если зададим следующие два вопроса и получим на них
а)положительный ответ б)отрицательный ответ? 1. Сидит ли
задуманный ученик на первых двух рядах? 2. Сидит ли
задуманный ученик на первой парте?
5. Пусть имеются 3 варианта голосования – «за», «против»,
«воздержался». Требуется закодировать результаты голосования,
содержащиеся в n бюллетенях. Рассмотрите различные
результаты кодирования: при кодировании бюллетеней по
одному, троек бюллетеней, пятерок бюллетеней.
6. Верно ли, что для любого m при организации m-блочного
кодирования результатов голосования из предыдущей задачи
(m+1) – блочное кодирование всегда ближе к оптимальному, чем
m-блочное.
7. Объясните как, используя формулу Хартли, можно сразу
измерить любую, например графическую, информацию в байтах,
а не в битах?
8. В анкете предлагаются следующие варианты ответа на вопрос о
степени владения английским языком: «не владею», «читаю со
словарем», «могу объясняться», «владею хорошо», «могу
переводить синхронно». Какое количество информации несет в
себе ответ на данный пункт анкеты? Предложите различные
способы кодирования ответов, при условии, что обработке
подлежит большое количество подобных анкет.
9. Определите количество информации в своей фамилии, при
условии, что для кодирования фамилий будет использоваться 32-
символьный алфавит.
10. Алфавит некоторого языка состоит из 32 символов. За сколько
секунд мы сможем передать 1600 символов, если скорость
передачи составляет 100 байт в секунду?
11. В течении 5 секунд было передано сообщение, объем которого
составил 375 байт. Каков размер алфавита, с помощью которого
составлено это сообщение, если скорость его передачи составила
200 символов в секунду?
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
8
12. При игре в кости используют 2 одинаковых кубика. Сколько
информации несет сообщение о том, что при бросании двух
кубиков выпало число 12?
13. В языке некоторого племени всего 16 различных букв. Все слова
состоят из 5 букв. Сколько компьютерной памяти потребуется для
хранения всех 8000 слов этого языка?
Задачи о взвешивании монет
1. Какое количество информации будет получено при взвешивании
равного количества монет на чашечных весах, если известно, что
среди них может быть фальшивая монета (легче остальных)?
2. Изобразите в виде дерева алгоритм поиска фальшивой (легкой)
монеты среди 9 монет. Каждый узел соответствует взвешиванию.
Какое минимальное число взвешиваний надо произвести?
3. Пусть неизвестно легче и тяжелее фальшивая монета. Какое
количество взвешиваний потребуется? Составьте алгоритм ее
поиска а)среди 12 монет. Б) Среди 13 монет.
Практическая работа № 2. Формула Шеннона определения
количества информации.
Теоретические сведения
Формула Шеннона. Пусть мы имеем алфавит, состоящий из N
символов, с частотной характеристикой p1,p2,…pN, где pi – выражает
вероятность появления i-го символ, так что все вероятности
неотрицательны и их сумма равна 1. Тогда средний информационный вес
символа такого алфавита выражается формулой
Н=P1log2(1/p1)+ P2log2(1/p2)+ …+ PNlog2(1/pN).
Н – среднее количество информации в битах, которое несет 1
символ N-символьного алфавита, в котором символы встречаются с
разной частотой p1,p2,…pN.
Пусть символ встречается в сообщениях с вероятностью p.
Тогда количество информации, которое он несет, вычисляется по
формуле:
H= log2
р
1
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
9
Примеры решения задач
Пример 2.1. В результате многолетних наблюдений учитель
информатики знает, что у половины его учеников годовой оценкой
будет «четверка», у ¼ учеников – «пятерка», а у 1/8 – «тройка».
Остальные ученики по разным причинам окажутся не
аттестованными. Какое количество информации мы получим после
того, как узнаем, какую именно оценку получил ученик?
Решение.
р4=0,5 - вероятность оценки «4»
р5=0,25 - вероятность оценки «5»
р3=0,125 - вероятность оценки «3»
Вычислим количество информации, которое несет каждая оценка:
Н4= log2
5,0
1
=log22=1 бит Н5= log2
25,0
1
=log24=2 бит
Н3= log2
125,0
1
=log28=3 бита
Ответ: оценка «4» несет 1 бит информации, оценка «5» – 2 бита,
оценка «3» – 3 бита.
Пример 2.2. В русском языке буква «А» встречается с вероятностью
0,072, буква «Х» с вероятностью 0,009. Определить количество
информации в слове «АХ».
Решение.
H=log2
р
1
, Н=Ha+Hx,
Н= log2
072,0
1
+ log2
009,0
1
= log213,9+ log2111,1=3,79+6,79=10,58 бит
Ответ: слово «ах» несет 10,58 бит информации.
Задачи для самостоятельного решения
1. Всегда ли ответ «да» или «нет» несет 1 бит информации? Какое
наибольшее количество информации он может нести?
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
10
2. Какое количество информации несет символ алфавита
мощностью N, если он является одним из m символов этого
алфавита?
3. С учетом частот появления букв русского алфавита подсчитайте
информационный вес своей фамилии. Сравните с результатом,
который получится по формуле Хартли (с учетом того, что для
кодирования одного слова пробел не используется и буквы «е» и
«ё» можно отождествить)
Буква пробел о е а и т н с р в л
Частота 175 90 72 62 62 53 53 54 40 38 35
Буква к м д п у я ы з ь,ъ б г
Частота 28 26 25 23 21 18 16 16 14 14 13
Буква ч й х ж ю ш ц щ э ф
Частота 12 10 9 7 6 6 4 3 3 2
В таблице приведены средние частоты употребления букв русского
алфавита и символа «пробел» на 1000 символов текста.
4. При игре в кости используют два одинаковых кубика, грани
которых помечены от 1 до 6. Сколько информации несет
сообщение о том, что при бросании двух кубиков в сумме выпало
4 очка.
5. В урне находятся 8 белых и 24 черных шара. Какое количество
информации несет сообщение о том, что из урны достали белый
шар? Черный шар? Черный шар после белого?
6. Сообщение о том, что найден цветок сирени с 5 лепестками,
содержит 7 бит информации. Как часто встречаются подобные
цветы на сирени?
7. Для ремонта школы использовали белую, синюю и коричневую
краски. Израсходовали одинаковое количество белой и синей
краски. Сообщение о том, что закончилась банка коричневой
краски несет 2 бита информации. Синей краски израсходовали 8
банок. Сколько банок коричневой краски израсходовали на
ремонт школы?
8. Постройте график функции H(p)=log21/p на интервале (0,1]. Какие
выводы можно сделать при исследовании этого графика?
9. В языке некоторого племени всего 16 различных букв. Все слова
состоят из 5 букв. Словарный запас языка - 8000 слов. Сколько
информации несет словарь этого языка, если 16 букв встречаются
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
11
в словаре со следующими частотными характеристиками: ¼, 1/8,
1/16, 1/32, 1/32, 1/8, 1/32, 1/16, 1/64, 1/64, 1/16, 1/16, 1/32, 1/32,
1/32, 1/32?
10. Рассмотрите двузначные числа, у которых число единиц меньше,
чем число десятков. Сколько информации первая цифра этого
числа несет о второй цифре?
Тема 2. Оптимальное кодирование информации
Выгодность кодирования при передаче и хранении – это
экономический фактор, поскольку более эффективный код позволяет
затратить на передачу сообщения меньше энергии, а также времени и,
соответственно, меньше занимать линию связи; при хранении
используется меньше площади поверхности (объема) носителя.
Рассмотрим задачу сжатия обычного текстового файла. Различные
символы встречаются в тексте с различной частотой. Естественно
кодировать их так, чтобы те, которые встречаются чаще, кодировались
более коротко. Но если мы имеем неравномерный код, то возникает
проблема – как понять, где закончился код одного символа, и начался код
другого? Эта проблема решается путем построения префиксного кода.
Практическая работа № 3. Построение префиксных кодов.
Теоретические сведения
Код, обладающий свойством: код одного символа не может быть
началом кода другого символа, - называется префиксным.
При использовании префиксных кодов сообщение может быть
однозначно декодировано.
Первая теорема Шеннона о передаче информации (Основная
теорема о кодировании при отсутствии помех):
При отсутствии помех передачи всегда возможен такой
вариант кодирования сообщения, при котором избыточность
кода будет сколь угодно близкой к нулю.
Обозначим за A – первичный алфавит. В качестве вторичного
алфавита будем использовать двоичный алфавит. Тогда избыточность
сообщения Q вычисляется по формуле:
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
12
)2(
)(
1
1
K
H
Q
A
 , где
Q – избыточность сообщения. Эта величина показывает, насколько
операция кодирования увеличила длину исходного сообщения,
)(
1
A
H - средний информационный вес символа первичного алфавита
(вычисляется по формуле Шеннона),
К(2)
- средняя длина двоичного кода символов алфавита.
Примеры решения задач
Префиксный код Шеннона-Фано (был предложен в 1948-49 гг.
независимо этими учеными).
Пример 3.1.
Пусть имеется первичный алфавит, состоящий из 6 знаков а1,…,а6 с
вероятностями появления в сообщении соответственно 0,3, 0,2, 0,2, 0,15,
0,1, 0,05. Расположим знаки в порядке убывания вероятностей. Разделим
на две группы таким образом, чтобы суммы вероятностей в каждой из них
были приблизительно равны. В первую группу попадут а1 и а2 с суммой
вероятностей 0,5. У них первый знак будет «0». У остальных – «1».
Продолжим деление по тому же алгоритму, так чтобы на каждом шаге
суммы вероятностей в соседних подгруппах были возможно более
близкими.
Знак рi Разряды кода Код
1 2 3 4
а1 0,30 0 0 00
а2 0,2 0 1 01
а3 0,2 1 0 10
а4 0,15 1 1 0 110
а5 0,10 1 1 1 0 1110
а6 0,05 1 1 1 1 1111
К(А,2)=0,3*2+0,2*2+0,2*2+0,15*3+0,1*4+0,05*4=2,45
Для произвольного алфавита одним из наиболее применяемых
алгоритмов построения префиксного кода, близкого к оптимальному
является алгоритм Хаффмана.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
13
Алгоритм Хаффмана
Кодирование по Хаффману определяется рекурсивно. Если текст
содержит всего два символа, то один из них кодируется 0, другой 1.
Предположим, что для алфавита из N символов кодирование по
Хаффману уже определено. Рассмотрим алфавит, в котором N+1 символ.
Отождествим два наиболее редко встречающихся символа и построим код
Хаффмана для получившегося N-символьного алфавита. Если b1 b2… bk –
код Хаффмана для «склеенного»символа, то не изменяя кодов остальных
символов определим коды слипшихся символов как b1 b2… bk0 и b1 b2… bk1.
Т.к. последовательность b1 b2… bk не является началом никакого другого
кода, то построенный код является префиксным. Алгоритм Хаффмана
дает наилучший двоичный префиксный код.
Пример 3.2. Пусть алфавит состоит из шести символов а, б, с, д, е,
ф с частотами 0,3 (а), 0,2(b), 0,2(с), 0,15(d), 0,1(е), 0,05(f). Отождествим ф
и е. Получим: 0,3 (а), 0,2(b), 0,2(с), 0,15(d), 0,15(еf). Объединим d и еf: 0,3
(а), 0,3(def), 0,2(b), 0,2(с). Объединим b и с: 0,4(bс),0,3 (а), 0,3(def).
Объединим а и def: 0,6 (аdef), 0,4(bс). Сопоставим аdef код 0, bс – 1.
Расщепим код аdef на а и def с кодами 00 и 01. Символ bс расщепим на b-
10 и с – 11. Расщепим def: д – 010, еf - 011.Расщепим еf: е – 0110, f- 0111.
Символ Код
а 00
b 10
c 11
d 010
е 0110
f 0111
К(А,2)=0,3*2+0,2*2+0,2*2+0,15*3+0,1*4+0,05*4=2,45
Вопросы и задачи для самостоятельного решения
1. В чем смысл первой теоремы Шеннона для кодирования?
2. Является ли азбука Морзе префиксным кодом?
3. Первичный четырехсимвольный алфавит имеет следующее
частотное распределение: 0,1; 0,2; 0,3; 0,4. Построить код
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
14
Хаффмана для записи сообщений с помощью этого алфавита.
Посчитайте избыточность кода.
4. Построить код Хаффмана для алфавита со следующими
частотными характеристиками: ¼, 1/8, 1/16, 1/32, 1/32, 1/8, 1/32,
1/16, 1/64, 1/64, 1/16, 1/16, 1/32, 1/32, 1/32, 1/32. Является ли код
оптимальным?
5. Первичный алфавит содержит 8 знаков с вероятностями 0,25;
0,18; 0,15; 0,12; 0,1; 0,08; 0,07; 0,05. Постройте коды Шеннона-
Фано и Хаффмана. Сравните их избыточности.
6. Для алфавита из предыдущей задачи постройте вариант кода
Бодо.
7. Избыточность будет больше при кодировании с помощью кода
Бодо русского или английского алфавита? Почему?
8. Почему в одном байте – 8 бит?
9. В лексиконе людоедки Эллочки Щукиной из романа Ильфа и
Петрова «12 стульев» было 17 словосочетаний: «Хо-хо!», «Ого!»,
«Блеск!», «Шутишь, парниша», и др.) Определите длину кода при
равномерном словесном кодировании. Предложите вариант
кодирования.
Тема 3. Представление и обработка чисел на компьютере
Представление чисел в компьютере по сравнению с формами,
известными всем со школы, имеет два важных отличия:
во-первых, числа записываются в двоичной системе счисления (в
отличие от привычной десятичной);
во-вторых, для записи и обработки чисел отводится конечное
количество разрядов (в «некомпьютерной» арифметике такое
ограничение отсутствует).
Система счисления – это правило записи чисел с помощью
заданного набора специальных знаков – цифр.
В настоящее время для представления чисел применяют, в
основном, позиционные системы счисления.
Позиционными называются системы счисления, в которых
значение каждой цифры в изображении числа определяется ее
положением (позицией) в ряду других цифр.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
15
Наиболее распространенной и привычной является система
счисления, в которой для записи чисел используется 10 цифр: 0, 1, 2,
3, 4, 5, 6, 7, 8 и 9. Число представляет собой краткую запись
многочлена, в который входят степени некоторого другого числа –
основания системы счисления. Например,
272,12 = 2·102
+7·101
+2·100
+ 1·10-1
+2·10-2
По принципу, положенному в основу десятичной системы
счисления, очевидно, можно построить системы с иным основанием.
Пусть p – основание системы счисления. Тогда любое целое число Z,
удовлетворяющее условию Z < pk
(k 0, целое), может быть
представлено в виде многочлена со степенями p (при этом, очевидно,
максимальный показатель степени будет равен k – 1):
Практическая работа № 4. Системы счисления. Правила
перевода чисел.
Примеры решения задач
Перевод целых чисел из одной системы счисления в другую
Пример 4.1.
Выполнить преобразование 4435 Z10
Для этого разложим число 443 по основанию системы счисления
5.
4435 = 4·52
+4·51
+3·50
= 4·25+4·5+3·1 = 12310
Пример 2.
Выполнить преобразование 12310 Z5.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
16
Остатки от деления (3, 4) и результат последнего
целочисленного деления (4) образуют обратный порядок цифр нового
числа. Следовательно, 12310 = 4435.
Пример 4.2.
Выполнить преобразование 0,37510 0,Y2
Таким образом, 0,37510 = 0,0112
Перевод дробных чисел из одной системы счисления в
другую
Пример 4.3.
Выполнить преобразование 0,0112 Z10
Для этого разложим число 0,011 по основанию системы
счисления 2.
0,0112 = 0·2-1
+ 1·2-2
+ 1·2-3
= 0,25 + 0,125 = 0,37510
Следует сознавать, что после перевода дроби, которая была
конечной в исходной системе счисления, она может оказаться
бесконечной в новой системе. Соответственно, рациональное число в
исходной системе может после перехода превратиться в
иррациональное. Справедливо и обратное утверждение: число
иррациональное в исходной системе счисления в иной системе может
оказаться рациональным.
Пример 4.4.
Выполнить преобразование 0,37510 0,Y2
Таким образом, 0,37510 = 0,0112
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
17
Пример 4.5.
Выполнить преобразование 5,3(3)10 X3
Перевод целой части, очевидно, дает: 510 = 123. Перевод дробной
части: 0,3(3)10 = 0,13. Окончательно: 5,3(3)10 = 12,13.
Перевод чисел между системами счисления
с основаниями 2 – 8 – 16
Интерес к двоичной системе счисления вызван тем, что именно эта
система используется для представления чисел в компьютере. Однако
двоичная запись оказывается громоздкой, поскольку содержит много
цифр, и, кроме того, она плохо воспринимается и запоминается
человеком из-за зрительной однородности (все число состоит из нулей и
единиц). Поэтому в нумерации ячеек памяти компьютера, записи кодов
команд, нумерации регистров и устройств и пр. используются системы
счисления с основаниями 8 и 16; выбор именно этих систем счисления
обусловлен тем, что переход от них к двоичной системе и обратно
осуществляется простым образом.
Двоичная система счисления имеет основанием 2 и, соответственно, 2
цифры: 0 и 1.
Восьмеричная система счисления имеет основание 8 и цифры 0, 1,…, 7.
Шестнадцатеричная система счисления имеет основание 16 и цифры 0,
1, …, 9, A, B, C, D, E, F. При этом знак «A» является 16-ричной цифрой,
соответствующей числу 10 в десятичной системе; B16 = 1110; С16 = 1210;
D16 = 1310; E16 = 1410; F16 = 1510.
Теорема 1. Для преобразования целого числа Zp Zq в том
случае, если системы счисления связаны соотношением q = pr
, где r -
целое число большее 1, достаточно Zp разбить справа налево на
группы по r цифр и каждую из них независимо перевести в систему q.
Пример 4.6
Выполнить преобразование Z2 = 1100012 Z8. Исходное число
разбивается на группы по три разряда справа налево (8 = 23
,
следовательно, r = 3) и каждая тройка в соответствии с таблицей 4.1.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
18
переводится в 8-ричную систему счисления независимо от остальных
троек:
Следовательно, 1100012 = 618 . Аналогично, разбивая Z2 на группы по 4
двоичные цифры и дополняя старшую группу незначащими нулями слева,
получим 1100012= 3116.
Представление чисел в системах счисления
10-ная 2-ная 8-ричная 16-ричная
0 0 0 0
1 1 1 1
2 10 2 2
3 11 3 3
4 100 4 4
5 101 5 5
6 110 6 6
7 111 7 7
8 1000 10 8
9 1001 11 9
10 1010 12 A
11 1011 13 B
12 1100 14 C
13 1101 15 D
14 1110 16 E
15 1111 17 F
Таблица 1.
Теорема 2. Для преобразования целого числа Zp Zq в том
случае, если системы счисления связаны соотношением p = qr
, где r -
целое число большее 1, достаточно каждую цифру Zp заменить
соответствующим r-разрядным числом в системе счисления q,
дополняя его при необходимости незначащими нулями слева до
группы в r цифр.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
19
Пример 4.7
Выполнить преобразование D316 Z2.
Переходы Z8 Z16 и Z16 Z8, очевидно, удобнее осуществлять
через промежуточный переход к двоичной системе. Например, 1238 =
0010100112 = 5316.
Задачи для самостоятельного решения
1. Переведите в десятичную систему счисления числа, записанные в
пятеричной системе счисления:
15, 3015, 101235
2. Переведите дроби в десятичную СС:
0,B0F16, 0,11012, 0,1A15
3. Калькулятор работает в троичной СС и для вывода на экран имеет
только четыре знакоместа. С каким самым большим десятичным
числом мы можем работать?
4. Требуется подобрать 5 различных гирь так, чтобы с их помощью
можно было взвесить любой груз до 30 кг включительно при
условии, что гири ставятся только на одну чашу весов. (Задача
впервые приведена в книге знаменитого математика 13 века
Леонардо Пизанского. Этой же задачей интересовался Л.Эйлер)
5. Перевести из двоичной СС в десятичную числа
0,(1001)2, 0,10(1001)2, 0,00(1001)2, 0,0(0011)2, 0,(001)2
5. Переведите число 53 в двоичную, восьмеричную и 11-ричную СС.
6. Переведите следующие десятичные дроби: 0,375 – в двоичную СС2,
0,515625 – в четверичную СС, 0,109375 – в 16-ричную СС.
7. Переведите следующие числа в десятичную СС:
1234, 123,45, 203,56, 0,(С)16
8. Переведите число 1998 в систему счисления с основанием, равным
вашему возрасту. Может ли число в новой системе быть дробным?
9. Переведите следующие десятичные дроби в троичную и
восьмеричную СС: 0,1; 0,3; 0,8
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
20
10. Переведите в восьмеричную СС конечную дробь BF3,616
11. В задаче о чудаке-математике восстановите все числа в
десятичной системе счисления. «Я окончил курс университета 44 лет
от роду. Спустя год, 100-летним молодым человеком, я женился на
34-летней девушке. Незначительная разница в возрасте – всего 11 лет
– способствовала тому, что мы жили общими интересами и мечтами.
Спустя немного лет у меня уже была небольшая семья из 10 детей.
Жалованья я получал в месяц всего 200 рублей, из которых 1/10
приходилось отдавать сестре, так что мы с детьми жили на 130 рублей
в месяц.»
12. Десятичное число 20,45 перевели в четверичную систему
счисления. Найти 1999-ю цифру после запятой.
Практическая работа №5. Представление чисел в
компьютере
Теоретические сведения
Для целых чисел существуют два представления: беззнаковое
(только для неотрицательных целых чисел) и со знаком.
Для беззнакового представления все разряды ячейки отводятся под
представление самого числа. Например, в байте (8 бит) можно
представить беззнаковые числа от 0 до 255.
Для представления со знаком самый старший (левый) бит отводится
под знак числа, остальные разряды - под само число. Если число
положительное, то в знаковый разряд помещается 0, если отрицательное -
1. Например, в байте можно представить знаковые числа от -128 до 127.
Прямой код числа
Представление числа в привычной форме "знак"-"величина", при
которой старший разряд ячейки отводится под знак, а остальные - под
запись числа в двоичной системе, называется прямым кодом двоичного
числа. Например, прямой код двоичных чисел 1001 и -1001 для 8-
разрядной ячейки равен 00001001 и 10001001 соответственно.
Положительные числа в ЭВМ всегда представляются с помощью
прямого кода. Прямой код числа полностью совпадает с записью самого
числа в ячейке машины.
Прямой код отрицательного числа отличается от прямого кода
соответствующего положительного числа лишь содержимым знакового
разряда. Но отрицательные целые числа не представляются в ЭВМ с
помощью прямого кода, для их представления используется так
называемый дополнительный код.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
21
Дополнительный код числа
Дополнительный код положительного числа равен прямому коду
этого числа. Дополнительный код отрицательного числа m равен 2k
-|m|,
где k - количество разрядов в ячейке.
Дополнительный код используется для упрощения выполнения
арифметических операций. Если отрицательные числа представлять в
виде дополнительного кода, то операция сложения, в том числе и разного
знака, сводится к из поразрядному сложению.
Для компьютерного представления целых чисел обычно
используется один, два или четыре байта, то есть ячейка памяти будет
состоять из восьми, шестнадцати или тридцати двух разрядов
соответственно.
Алгоритм получения дополнительного кода отрицательного
числа
Для получения дополнительного k-разрядного кода отрицательного числа
необходимо:
1. модуль отрицательного числа представить прямым кодом в k
двоичных разрядах;
2. значение всех бит инвертировать:все нули заменить на единицы, а
единицы на нули(таким образом, получается k-разрядный
обратный код исходного числа);
3. к полученному обратному коду прибавить единицу.
Алгоритм получения отрицательного числа по
дополнительному коду
Для получения отрицательного числа по дополнительному k-разрядному
кода необходимо
1. Значение всех бит кода инвертировать.
2. К полученному обратному коду прибавить единицу.
3. Перевести число в десятичную систему счисления.
4. Приписать числу знак «минус».
Обработка целых чисел на компьютере
Сложение производится согласно таблице сложения, которая для
двоичных чисел имеет вид:
В последнем случае в том разряде, где находились слагаемые,
оказывается 0, а 1 переносится в старший разряд. Место, где
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
22
сохраняется переносимая в старший разряд 1 до того, как она будет
использована в операции, называется битом переноса.
Умножение производится согласно таблице умножения, которая
для двоичных чисел имеет предельно простой вид:
0 · 0 = 0 0 · 1 = 0
1 · 0 = 0 1 · 1 = 1
Для представления вещественных чисел в современных
компьютерах принят способ представления с плавающей запятой.
Этот способ представления опирается на нормализованную
(экспоненциальную) запись действительных чисел.
Как и для целых чисел, при представлении действительных
чисел в компьютере чаще всего используется двоичная система,
следовательно, предварительно десятичное число должно быть
переведено двоичную систему.
Нормализованная запись числа
Нормализованная запись отличного от нуля действительного числа - это
запись вида
a= m*Pq
, где q - целое число (положительное, отрицательное или ноль), а
m - правильная P-ичная дробь, у которой первая цифра после запятой не
равна нулю, то есть 1
1
 m
P
. При этом m называется мантиссой числа,
q - порядком числа.
Основной формой представления кодов вещественных чисел в
компьютере является двоичная нормализованная. При этом
записываться и храниться в памяти компьютера должны все
составляющие нормализованной формы (знак числа, мантисса, знак
порядка и порядок), что требует нескольких ячеек памяти.
Непосредственное распределение компонентов нормализованного
числа по разрядам определяется конструктивными особенностями
компьютера и программным обеспечением.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
23
Пример размещения числа в двух ячейках памяти (32 разряда):
Обработка вещественных чисел на компьютере
Сложение нормализованных чисел
Пусть имеются два числа X1 = M1·pk1
и X2 = M2·pk2
(здесь
индексы у мантиссы и порядка означают не систему счисления, а
служат номерами чисел). Сложение должно начинаться с выявления
большего из k1 и k2, нахождения модуля их разности k =|k1 - k2| и
сдвига вправо на k разрядов мантиссы того числа, у которого k
оказался меньше. После этого выполняется сложение мантисс,
порядку результата присваивается значение большего из имеющихся
и при необходимости производится нормализация результата.
При сдвиге вправо мантиссы меньшего числа происходит потеря
k младших значащих цифр, что приводит к появлению погрешности
сложения.
Примеры решения задач
Пример 5.1
Получить 8-разрядный дополнительный код числа -52:
Решение:
00110100 - число |-52|=52 в прямом коде
11001011 - число -52 в обратном коде
11001100 - число -52 в дополнительном коде
Пример 5.2
Получить число по 8-разрядному дополнительному коду – 11001100.
Решение:
Инвертируем код: 00110011
Добавим 1: 00110100
Преобразуем число в десятичную СС: 11001002=5210
Припишем знак «минус»: -52
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
24
Пример 5.3
Найти сумму 159410 + 1756310 при беззнаковой двоичной кодировке и 16-
битном машинном слове.
Пример 5.4.
Найти сумму 6553410 + 310
В последнем примере в результате сложения получилось число,
превышающее максимально возможное; результат ошибочен, о чем
свидетельствует появление 1 в регистре переполнения.
Пример 5.5.
Найти произведение 1310 × 510
Таким образом, умножение двоичных чисел сводится к операциям
сдвига на один двоичный разряд влево и повторения первого
сомножителя в тех разрядах, где второй сомножитель содержит 1, и
сдвига без повторения в разрядах с 0.
Пример 5.6
Привести числа к нормализованной форме:
1. 3,1415926 = 0, 31415926 * 101
;
2. 1000=0,1 * 104
;
3. 0,123456789 = 0,123456789 * 100
;
4. 0,00001078 = 0,1078 * 8-4
; (порядок записан в 10-й системе)
5. 1000,00012 = 0, 100000012 * 24
.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
25
Пример 5.7
Найти сумму X1=0,87654·101
, а X2=0,94567·102
, если для записи
мантиссы отводится 5 разрядов.
Решение:
Согласно алгоритму k = 1 и k1<k2. Следовательно, k=k2=2, а мантисса
числа X1 должна быть сдвинута на 1 разряд вправо (при этом из-за
ограниченности разрядно сетки пропадет цифра 4). Новая мантисса
получается суммированием M=0,94567+0,08765=1,03332; поскольку она
выходит за допустимый интервал представления мантисс, необходимо
его нормализовать M ’ = 0,10333 (при этом теряется цифра 2 в младшем
разряде); k ’ = k+1=3. Окончательно получаем: X=0,10333·103. Точный
результат суммирования оказался бы 103,3324.
Задачи для самостоятельного решения
1. Получить дополнительный код числа -117 для 8- и 16-разрядной
ячейки.
2. Получить десятичное представление числа по его
дополнительному коду 100101012.
3. Даны десятичные числа a и b. Найти их сумму и разность в 8-
разрядном беззнаковом и знаковом представлении. Ответ
записать в таблицу. a=59, b=106.
10-тичные 8-битовые Беззнаковые знаковые
a
b
a+b
a-b
4. Приведите к нормализованному виду следующие числа:
-0,0000001110112, 987654321010, 123456789,ABCD16
5. Запишите в форме с фиксированной запятой следующие
нормализованные числа:
0,10112*161
, 0,11012*21
, 0,12345*10-3
, 0,ABBA16*16-2
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
26
6. Выполните действия над машинными кодами чисел с
фиксированной точкой в 16-разрядном формате.
X=A+B, A=-483, B=216
7. Произведите следующие арифметические действия над
двоичными нормализованными числами согласно правилам
вещественной компьютерной арифметики (мантисса занимает 10
разрядов, порядок – 5 разрядов). Сравните полученные
результаты с истинными значениями.
1) 0,111112*20
+0,111112*2-5
2)0,111112*20
+0,111112*2-8
Тема 4. Общая схема передачи информации в линиях связи
Средства связи – совокупность устройств, обеспечивающих
преобразование первичного сообщения от источника информации в
сигналы заданной физической природы, их передачу, прием и
представление в форме удобной потребителю.
Канал связи – это материальная среда, а также физический или
иной процесс, посредством которого осуществляется передача
сообщения, т.е. распространение сигналов в пространстве с течением
времени.
Каналы связи в зависимости от характера сигналов,
передаваемых по ним подразделяются на дискретные и аналоговые.
Примером дискретного канала является компьютерная сеть;
аналогового – телефонная линия и радиоканал.
Линия связи – это совокупность средств связи и канала связи,
посредством которых осуществляется передача информации от
источника к приемнику.
Практическая работа № 6. Передача информации в
компьютерных сетях
Теоретические сведения
Характеристики канала связи
Интервал частот, используемый данным каналом связи для
передачи сигналов, называется шириной полосы пропускания.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
27
Обозначим:
m - максимальное значение частоты из данной полосы
0 – длительность элементарного сигнала (импульс или пауза)
0=1/m
Пропускная способность канала связи
С передачей одного элементарного сигнала связано некоторое количество
информации Iimp. Если оно передается за время 0, то отношение Iimp/0
отражает среднее количество информации, передаваемое по каналу за
единицу времени, это величина называется пропускной способностью
канала С. (измеряется в бит/с)
0
impI
С  ,
)2(
1
K
H
Iimp  , где Н1- средняя информация на знак первичного алфавита,
К(2)
- средняя длина двоичного кода.
0
)2(
1


K
H
С , )2(
1
K
H
С


1 Кбит/с=103
бит/с
Скорость передачи информации
Пусть по каналу за время t передано I информации. Тогда
скорость передачи информации – J=I/t. Размерностью J является бит/с.
J<=C, т.к. 0 – минимальная длительность элементарного сигнала, а
значит С – максимальная скорость.
Т.е максимальная скорость передачи данных по каналу связи
равна его пропускной способности.
Пример 6.1
Первичный алфавит состоит из трех знаков с вероятностями p1 =
0,2; p2 = 0,7; p3 = 0,1. Для передачи по каналу без помех используются
равномерный двоичный код. Частота тактового генератора 500 Гц.
Какова пропускная способность канала?
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
28
Решение:
Поскольку код двоичный, длина кода при равномерном
кодировании 3 символов равна 2, т.е. К(2)
=2.
Найдем средний информационный вес символа данного
алфавита по формуле Шеннона:
Н1 = – 0,2·log20,2 – 0,7·log20,7 – 0,1·log20,1 = 1,16 бит
)2(
1
K
H
С

 , )/(290
2
16,1500
сбитС 


Влияние шумов на пропускную способность дискретного
канала связи
Все реальные каналы связи подвержены воздействию помех,
которые могут привести к искажению передаваемых по каналу связи
сигналов и, как следствие, к частичной (или даже полной) потере
связанной с ними информации. По этой причине поиск методов
повышения надежности передачи является одной из важнейших задач
теории связи.
Вторая теорема Шеннона (относится к реальным каналам
связи):
При передаче информации по каналу с шумом всегда имеется
способ кодирования, при котором сообщение будет передаваться со
сколь угодно высокой достоверностью, если скорость передачи не
превышает пропускной способности канала.
Решение проблемы состоит в использовании таких методов
кодирования информации, которые позволили бы контролировать
правильность передачи (хранения) и при обнаружении ошибки
исправлять ее.
Способность кода к обнаружению и исправлению ошибки
основана на создании избыточности кодируемого сообщения.
Избыточные коды формируются по определенным правилам.
Наряду с битами, непосредственно кодирующими сообщение
(информационные биты) передаются дополнительные биты, по
состоянию которых можно судить о правильности передачи
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
29
(контрольные биты). При равномерном кодировании длина кода
k=ki+kc
L=k/ki =1+kc/ki – избыточность сообщения для реального канала.
Относительная избыточность сообщения – это
характеристика, показывающая во сколько раз надо удлинить
сообщение, чтобы обеспечить его надежную передачу (хранение).
Помехоустойчивыми (корректирующими) называются коды,
позволяющие обнаружить и при необходимости исправить ошибки в
принятом сообщении.
Коды, исправляющие одиночную ошибку. Код Хемминга
Основная идея кода Хемминга состоит в добавлении к
информационным битам нескольких битов четности, каждый из
которых контролирует определенные информационные биты.
В коде Хемминга информационные и проверочные биты не
разнесены в отдельные подматрицы, а чередуются. При этом
принимается следующая нумерация бит (знаков кода): все биты
кодовой комбинации получают номера, начиная с 1, слева направо
(информационные биты нумеруются с 0 и справа налево);
контрольными (проверочными) оказываются биты с номерами 1, 2, 4,
8 и т.д. – все остальные являются информационными.
По проверочной матрице легко установить номера тех бит
кодовой комбинации, которые «обслуживаются» данным
проверочным; ясно также, что проверочные биты не контролируют
друг друга.
Номер контролируемых битов для каждого проверочного
приведен в таблице. В перечень контролируемых битов внесен и тот, в
котором располагается проверочный. При этом состояние
проверочного бита устанавливается так, чтобы суммарное количество
единиц в контролируемых им битах было бы четным.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
30
Провероч-
ные биты
Контролируемые биты
1 1 3 5 7 9 11 13 15 17 19 21 …
2 2 3 6 7 10 11 14 15 18 19 22 …
4 4 5 6 7 12 13 14 15 20 21 22 …
8 8 9 10 11 12 13 14 15 24 25 26 …
16 16 17 18 19 20 21 22 23 24 25 26 …
32 32 33 34 35 36 37 38 39 40 41 42 …
Таблица 2.
Из таблицы можно усмотреть следующую закономерность:
для любого номера проверочного бита (m), начиная с него, m бит
подряд оказываются проверяемыми, затем следует группа m
непроверяемых бит; далее происходит чередование групп.
Алгоритм проверки исправления последовательности бит:
1) произвести проверку всех битов четности
2) если все биты четности верны, перейти к п.5
3) вычислить сумму номеров всех неправильных
битов четности
4) инвертировать содержимое бита, номер которого
равен сумме из п.3
5) исключить биты четности, передать правильный
информационный код.
Пример 6.2
Рассмотрим построение кода Хемминга для конкретного байта
первичного кода; пусть это будет
1 2 3 4 5 6 7 8 9 10 11 12
Номера
битов кода
Хемминга
0 0 0 1 0 1 0 1 1 1 0 1
7 6 5 4 3 2 1 0 Номера
инф. битов
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
31
Анализируем состояние контрольных битов:
Бит 1 – неверно
Бит 2 – верно
Бит 4 – неверно
Бит 8 – верно
Ошибка в бите с номером 1+4=5.
Исправим сообщение и избавимся от контрольных битов:
01101101
Задачи для самостоятельного решения
1. Человек может осмысленно читать со скоростью 15 знаков в
секунду. Оцените пропускную способность зрительного канала в
данном виде деятельности.
2. Оцените пропускную способность слухового канала радиста,
принимающего сигналы азбуки Морзе, если известно, что для
распознавания одного элементарного сигнала ему потребуется 0,2
с.
3. Для передачи телеграфных сообщений, представленных с
помощью кода Бодо, используется канал без помех с пропускной
способностью 1000 бит/с. Сколько знаков первичного алфавита
можно передать за 1 с по данному каналу?
4. Первичный алфавит состоит из трех знаков с вероятностями
p1=0,2; p2=0,7; p3=0,1. Для передачи по каналу без помех
используется равномерный двоичный код. Частота тактового
генератора 500 Гц. Какова пропускная способность канала?
5. Определить на какую долю снижается пропускная способность
канала с шумом по сравнению с идеальным каналом при
двоичном кодировании, если вероятность появления ошибки
составляет: а) 0,01, б) 0,001, в) 0,1, г) 0,5, д) 0,99. Поясните
полученные результаты.
6. Какое минимальное количество контрольных бит должно
передаваться вместе с 16-ю информационными для обеспечения
восстановления информации, если вероятность искажения
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
32
составляет а) 1%, б) 10%, в) 50%, г) 99%? Какова реальная
избыточность сообщения в каждом случае?
7. Получено машинное слово, закодированное с использованием
кода Хемминга:
100010111100010110011. Устраните ошибку передачи.
8. Какова максимальная скорость передачи информации при
тактовой частоте генератора 300 МГц и ширине шины 32 бита?
9. Сколько времени будет выводиться на экран дисплея картинка
размером 300х400 пикселей при цветном режиме 16 бит на цвет,
если для обмена используется 32-разрядная шина, а частота
тактового генератора составляет 166 МГц?
Литература
1. Стариченко Б.Е. Теоретические основы информатики: Учебное
пособие для вузов. – 2-е изд. перераб. и доп. – М.: Горячая линия
– Телеком, 2003. – 312 с.; ил.
2. Системы счисления и компьютерная арифметика: Учебное
пособие / Е.В. Андреева, И.Н.Фалина – М.: Бином. Лаборатория
знаний, 2004 г. – 254 с.: ил.
3. Основы теории информации: Учебное пособие / Е.В. Андреева,
Е.В. Щепин // Информатика. 2004. № 4.
4. Андреева Е.В. Изучение теории информации в профильном курсе
информатики // Информатика. 2003. № 40.
Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»

More Related Content

Similar to 267.теоретические основы информатики методические рекомендации по решению задач

продукт проскуряковой и.в. гбоу сош оц п.г.т. рощинский. квн веселая информатика
продукт проскуряковой и.в. гбоу сош оц п.г.т. рощинский. квн веселая информатикапродукт проскуряковой и.в. гбоу сош оц п.г.т. рощинский. квн веселая информатика
продукт проскуряковой и.в. гбоу сош оц п.г.т. рощинский. квн веселая информатикаrcnovo
 
Открытая лекция "Графическая культура", Корчевский В. Е.
Открытая лекция "Графическая культура", Корчевский В. Е.Открытая лекция "Графическая культура", Корчевский В. Е.
Открытая лекция "Графическая культура", Корчевский В. Е.Tagir Sagitov
 
Заливин А. Интеллектуальные игры в экономике
Заливин А.  Интеллектуальные игры в экономикеЗаливин А.  Интеллектуальные игры в экономике
Заливин А. Интеллектуальные игры в экономикеАнатолий Мячев
 
846.уроки развивающей математики 5–6 классы задачи математического кружка
846.уроки развивающей математики 5–6 классы задачи математического кружка846.уроки развивающей математики 5–6 классы задачи математического кружка
846.уроки развивающей математики 5–6 классы задачи математического кружкаivanov1566334322
 
11 i s
11 i s11 i s
11 i s11book
 
16 1 информатика. 11кл. баз. уровень-семакин, хеннер и др_2014 -224с
16 1  информатика. 11кл. баз. уровень-семакин, хеннер и др_2014 -224с16 1  информатика. 11кл. баз. уровень-семакин, хеннер и др_2014 -224с
16 1 информатика. 11кл. баз. уровень-семакин, хеннер и др_2014 -224сpsvayy
 
17.урок информатики в 8 классе кодирование графической информации(изучение те...
17.урок информатики в 8 классе кодирование графической информации(изучение те...17.урок информатики в 8 классе кодирование графической информации(изучение те...
17.урок информатики в 8 классе кодирование графической информации(изучение те...Kirrrr123
 
сборник задач факультатив, 6
сборник задач   факультатив, 6сборник задач   факультатив, 6
сборник задач факультатив, 6LZolotko
 
4 я и_укр_данилина_го_пособ_2011_рус
4 я и_укр_данилина_го_пособ_2011_рус4 я и_укр_данилина_го_пособ_2011_рус
4 я и_укр_данилина_го_пособ_2011_русAira_Roo
 
Подходы к измерению количества аинформации
Подходы к измерению количества аинформацииПодходы к измерению количества аинформации
Подходы к измерению количества аинформацииAndrey Dolinin
 
word2vec (part 1)
word2vec (part 1)word2vec (part 1)
word2vec (part 1)Denis Dus
 
435.элементы теории множеств и математической логики теория и задачи
435.элементы теории множеств и математической логики теория и задачи435.элементы теории множеств и математической логики теория и задачи
435.элементы теории множеств и математической логики теория и задачиivanov15548
 
внеклассное мероприятие по информатике
внеклассное мероприятие по информатикевнеклассное мероприятие по информатике
внеклассное мероприятие по информатикеОксана Михалкина
 
Информация
ИнформацияИнформация
ИнформацияBorisovna
 
2_m_s_2019_ru.pdf
2_m_s_2019_ru.pdf2_m_s_2019_ru.pdf
2_m_s_2019_ru.pdfavtor11book
 
Знаете ли вы термины информатики, их омонимы и анаграммы
Знаете ли вы термины информатики, их омонимы и анаграммыЗнаете ли вы термины информатики, их омонимы и анаграммы
Знаете ли вы термины информатики, их омонимы и анаграммыАнатолий Мячев
 
Лекция 4. Комбинаторика
Лекция 4. КомбинаторикаЛекция 4. Комбинаторика
Лекция 4. КомбинаторикаVladimir Tcherniak
 
визитная карточка проекта по математике
визитная карточка проекта по математикевизитная карточка проекта по математике
визитная карточка проекта по математикеRumyanceva
 

Similar to 267.теоретические основы информатики методические рекомендации по решению задач (20)

продукт проскуряковой и.в. гбоу сош оц п.г.т. рощинский. квн веселая информатика
продукт проскуряковой и.в. гбоу сош оц п.г.т. рощинский. квн веселая информатикапродукт проскуряковой и.в. гбоу сош оц п.г.т. рощинский. квн веселая информатика
продукт проскуряковой и.в. гбоу сош оц п.г.т. рощинский. квн веселая информатика
 
Открытая лекция "Графическая культура", Корчевский В. Е.
Открытая лекция "Графическая культура", Корчевский В. Е.Открытая лекция "Графическая культура", Корчевский В. Е.
Открытая лекция "Графическая культура", Корчевский В. Е.
 
Заливин А. Интеллектуальные игры в экономике
Заливин А.  Интеллектуальные игры в экономикеЗаливин А.  Интеллектуальные игры в экономике
Заливин А. Интеллектуальные игры в экономике
 
846.уроки развивающей математики 5–6 классы задачи математического кружка
846.уроки развивающей математики 5–6 классы задачи математического кружка846.уроки развивающей математики 5–6 классы задачи математического кружка
846.уроки развивающей математики 5–6 классы задачи математического кружка
 
11 i s
11 i s11 i s
11 i s
 
16 1 информатика. 11кл. баз. уровень-семакин, хеннер и др_2014 -224с
16 1  информатика. 11кл. баз. уровень-семакин, хеннер и др_2014 -224с16 1  информатика. 11кл. баз. уровень-семакин, хеннер и др_2014 -224с
16 1 информатика. 11кл. баз. уровень-семакин, хеннер и др_2014 -224с
 
17.урок информатики в 8 классе кодирование графической информации(изучение те...
17.урок информатики в 8 классе кодирование графической информации(изучение те...17.урок информатики в 8 классе кодирование графической информации(изучение те...
17.урок информатики в 8 классе кодирование графической информации(изучение те...
 
содержательный подход
содержательный подходсодержательный подход
содержательный подход
 
сборник задач факультатив, 6
сборник задач   факультатив, 6сборник задач   факультатив, 6
сборник задач факультатив, 6
 
4 я и_укр_данилина_го_пособ_2011_рус
4 я и_укр_данилина_го_пособ_2011_рус4 я и_укр_данилина_го_пособ_2011_рус
4 я и_укр_данилина_го_пособ_2011_рус
 
Подходы к измерению количества аинформации
Подходы к измерению количества аинформацииПодходы к измерению количества аинформации
Подходы к измерению количества аинформации
 
word2vec (part 1)
word2vec (part 1)word2vec (part 1)
word2vec (part 1)
 
435.элементы теории множеств и математической логики теория и задачи
435.элементы теории множеств и математической логики теория и задачи435.элементы теории множеств и математической логики теория и задачи
435.элементы теории множеств и математической логики теория и задачи
 
внеклассное мероприятие по информатике
внеклассное мероприятие по информатикевнеклассное мероприятие по информатике
внеклассное мероприятие по информатике
 
Информация
ИнформацияИнформация
Информация
 
1
11
1
 
2_m_s_2019_ru.pdf
2_m_s_2019_ru.pdf2_m_s_2019_ru.pdf
2_m_s_2019_ru.pdf
 
Знаете ли вы термины информатики, их омонимы и анаграммы
Знаете ли вы термины информатики, их омонимы и анаграммыЗнаете ли вы термины информатики, их омонимы и анаграммы
Знаете ли вы термины информатики, их омонимы и анаграммы
 
Лекция 4. Комбинаторика
Лекция 4. КомбинаторикаЛекция 4. Комбинаторика
Лекция 4. Комбинаторика
 
визитная карточка проекта по математике
визитная карточка проекта по математикевизитная карточка проекта по математике
визитная карточка проекта по математике
 

More from ivanov15666688 (20)

10373
1037310373
10373
 
10372
1037210372
10372
 
10371
1037110371
10371
 
10370
1037010370
10370
 
10369
1036910369
10369
 
10368
1036810368
10368
 
10367
1036710367
10367
 
10366
1036610366
10366
 
10365
1036510365
10365
 
10364
1036410364
10364
 
10363
1036310363
10363
 
10362
1036210362
10362
 
10361
1036110361
10361
 
10360
1036010360
10360
 
10359
1035910359
10359
 
10358
1035810358
10358
 
10357
1035710357
10357
 
10385
1038510385
10385
 
10356
1035610356
10356
 
10355
1035510355
10355
 

267.теоретические основы информатики методические рекомендации по решению задач

  • 1. МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ «ШУЙСКИЙ ГОСУДАРСТВЕННЫЙ ПЕДАГОГИЧЕСКИЙ УНИВЕРСИТЕТ» Теоретические основы информатики Методические рекомендации по решению задач Шуя, 2008 Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 2. 2 ББК 32.97 УДК 004.3 М 54 Печатается по решению редакционно- издательского Совета ГОУ ВПО «Шуйский государственный педагогический университет» Автор-составитель: Завьялова О.А. Рецензент: к. п. н., доцент Замогильнова Л.В. М 54 Теоретические основы информатики. Методические рекомендации по решению задач. – Шуя: Изд-во «Весть». ГОУ ВПО «Шуйский государственный педагогический университет, 2008. Практикум содержит основные теоретические сведения, примеры и задачи по темам «Различные подходы к определению количества информации», «Оптимальное кодирование», «Представление и обработка чисел на компьютере», «Передача информации в линиях связи» и предназначены для проведения практических работ по курсу «Теоретические основы информатики», для организации самостоятельной работы, подготовки к экзаменам. Пособие предназначено для студентов, обучающихся по дополнительной специальности «Информатика». (с) ГОУ ВПО «Шуйский государственный педагогический университет, 2008 Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 3. 3 Содержание ТЕМА 1. РАЗЛИЧНЫЕ ПОДХОДЫ К ОПРЕДЕЛЕНИЮ КОЛИЧЕСТВА ИНФОРМАЦИИ.......................................................... 4 ПРАКТИЧЕСКАЯ РАБОТА № 1. ФОРМУЛА ХАРТЛИ ОПРЕДЕЛЕНИЯ КОЛИЧЕСТВА ИНФОРМАЦИИ. ................................................................... 4 Теоретические сведения.................................................................... 4 Примеры решения задач ................................................................... 5 Задачи для самостоятельного решения.......................................... 6 ПРАКТИЧЕСКАЯ РАБОТА № 2. ФОРМУЛА ШЕННОНА ОПРЕДЕЛЕНИЯ КОЛИЧЕСТВА ИНФОРМАЦИИ. ................................................................... 8 Теоретические сведения.................................................................... 8 Примеры решения задач ................................................................... 9 Задачи для самостоятельного решения.......................................... 9 ТЕМА 2. ОПТИМАЛЬНОЕ КОДИРОВАНИЕ ИНФОРМАЦИИ.. 11 ПРАКТИЧЕСКАЯ РАБОТА № 3. ПОСТРОЕНИЕ ПРЕФИКСНЫХ КОДОВ....... 11 Теоретические сведения.................................................................. 11 Примеры решения задач ................................................................. 12 Вопросы и задачи для самостоятельного решения...................... 13 ТЕМА 3. ПРЕДСТАВЛЕНИЕ И ОБРАБОТКА ЧИСЕЛ НА КОМПЬЮТЕРЕ ...................................................................................... 14 ПРАКТИЧЕСКАЯ РАБОТА № 4. СИСТЕМЫ СЧИСЛЕНИЯ. ПРАВИЛА ПЕРЕВОДА ЧИСЕЛ..................................................................................................... 15 Примеры решения задач ................................................................. 15 Задачи для самостоятельного решения........................................ 19 ПРАКТИЧЕСКАЯ РАБОТА №5. ПРЕДСТАВЛЕНИЕ ЧИСЕЛ В КОМПЬЮТЕРЕ 20 Теоретические сведения.................................................................. 20 Примеры решения задач ................................................................. 23 Задачи для самостоятельного решения........................................ 25 ТЕМА 4. ОБЩАЯ СХЕМА ПЕРЕДАЧИ ИНФОРМАЦИИ В ЛИНИЯХ СВЯЗИ....................................................................................................... 26 ПРАКТИЧЕСКАЯ РАБОТА № 6. ПЕРЕДАЧА ИНФОРМАЦИИ В КОМПЬЮТЕРНЫХ СЕТЯХ ..................................................................................................... 26 Теоретические сведения.................................................................. 26 Задачи для самостоятельного решения........................................ 31 ЛИТЕРАТУРА......................................................................................... 32 Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 4. 4 Тема 1. Различные подходы к определению количества информации Согласно американскому ученому и инженеру Клоду Шеннону, информация – это снятая неопределенность. Шеннон впервые ввел такую трактовку в теории связи. Позднее она нашла применение во всех областях науки, где играет роль передача информации в самом широком смысле этого слова. Согласно Шеннону, информативность сообщения характеризуется содержащейся в нем полезной информацией, т.е. той частью сообщения, которая полностью снимает, или уменьшает существующую до ее получения неопределенность какой-либо ситуации. Неопределенность некоторого события – это количество возможных исходов данного события. Такой подход называют вероятностным. С другой стороны, всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита. А информативность последовательности символов характеризуется безотносительно к содержанию представленного ей сообщения ее сложностью, которая согласно Колмогорову, определяется минимально необходимым количеством символов, необходимых для кодирования данной последовательности. Этот подход называется алфавитным. Был разработан А.Н. Колмогоровым. Определения Шеннона и Колмогорова несмотря на свою различность хорошо согласуются друг с другом. Хотя информацию нельзя определить, ее можно измерить. 1 бит – количество информации, уменьшающее неопределенность в 2 раза. 1 бит – количество информации, которое можно передать в сообщении, состоящем из одного двоичного знака (0 или 1). Практическая работа № 1. Формула Хартли определения количества информации. Теоретические сведения Формула Хартли. Пусть мы имеем алфавит, мощностью N, все символы которого встречаются с одинаковой частотой. Количество информации, которое вмещает один символ N элементного алфавита, равно log2N. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 5. 5 Другими словами, количество информации, которое необходимо для устранения неопределенности из N равнозначных вариантов равно log2N бит. Н=log2N Н – количество информации в битах, которое несет 1 символ N- символьного алфавита, в котором все символы равновероятны. log2N1N2= log2N1 +log2N2 Закон аддитивности информации: количество информации Н(x1, x2) необходимое для установления пары (x1, x2) равно сумме количеств информации Н(x1) и Н(x2), необходимых для независимого установления элементов x1 и x2. Н(x1, x2)= Н(x1)+Н(x2) Это следует из логарифмического тождества: log2N1N2= log2N1 +log2N2 Примеры решения задач Пример 1.1. В бассейне 6 дорожек для плавания. Тренер сказал, что команда будет плавать на третьей дорожке. Какое количество информации получили пловцы? Решение: Количество возможных вариантов N=6. Все варианты равновероятны. Количество информации в сообщении равно Н=log26=lg6/lg20,77815/0,3010292,58496 (бит) Ответ: Н2,6 бит. Примечание. Для приближенного вычисления log2N воспользуйтесь формулой a b a b ba ln ln lg lg log  . lg20,301029 ln20,693147 Пример 1.2. Сообщение занимает 2 страницы и содержит 1/16 Кбайт информации. На каждой странице записано 128 символов. Какова мощность используемого алфавита? Решение. Вычислим количество информации, содержащееся на одной странице, в битах. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 6. 6 битбитКб 256 32 81024 216 1     Вычислим количество информации, которое несет 1 символ. Н=256/128=2 бита Вычислим мощность алфавита. Н=log2N, N=2Н N=22 =4 Ответ: мощность алфавита – 4 символа. Пример 1.3. Подсчитать, какое количество информации несет прогноз погоды. Предположим, что нужно предсказать дневную температуру (обычно выбор делается из 16 возможных для данного сезона значений) и одного из четырех значений облачности (солнечно, переменная облачность, пасмурно, дождь). Решение: 1 способ: N1=16, N2=4 H1=log2N1, H1=log216=4 бита H2=log2N2, H2=log24=2 бита Согласно закону аддитивности информации Н=Н1+Н2. Н=4+2=6 бит. 2 способ: Количество возможных вариантов прогноза погоды N=16*4=64 Н=log264=6 бит. Ответ: прогноз несет 6 бит информации. Задачи для самостоятельного решения 1. В библиотеке 16 стеллажей, в каждом стеллаже 8 полок. Какой количество информации несет сообщение, что нужная книга находится на четвертой полке второго шкафа? 2. Была получена телеграмма: «Встречайте вагон 7 поезд 32». Какое количество информации получил адресат, если известно, что в этот город приходят четыре поезда, а в каждом в среднем 16 вагонов?» 3. Сколько информации получит ученик, если в 10.00 увидит сообщение о том, что классный час состоится в 14 часов, при условии, что в этот день всегда бывает классный час? Ответ обоснуйте. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 7. 7 4. В классе 4 ряда парт по 4 парты в каждом ряду. Каждая парта имеет два места. Все места заполнены учениками. Учитель задумал одного из них. Какое количество информации мы получим, если зададим следующие два вопроса и получим на них а)положительный ответ б)отрицательный ответ? 1. Сидит ли задуманный ученик на первых двух рядах? 2. Сидит ли задуманный ученик на первой парте? 5. Пусть имеются 3 варианта голосования – «за», «против», «воздержался». Требуется закодировать результаты голосования, содержащиеся в n бюллетенях. Рассмотрите различные результаты кодирования: при кодировании бюллетеней по одному, троек бюллетеней, пятерок бюллетеней. 6. Верно ли, что для любого m при организации m-блочного кодирования результатов голосования из предыдущей задачи (m+1) – блочное кодирование всегда ближе к оптимальному, чем m-блочное. 7. Объясните как, используя формулу Хартли, можно сразу измерить любую, например графическую, информацию в байтах, а не в битах? 8. В анкете предлагаются следующие варианты ответа на вопрос о степени владения английским языком: «не владею», «читаю со словарем», «могу объясняться», «владею хорошо», «могу переводить синхронно». Какое количество информации несет в себе ответ на данный пункт анкеты? Предложите различные способы кодирования ответов, при условии, что обработке подлежит большое количество подобных анкет. 9. Определите количество информации в своей фамилии, при условии, что для кодирования фамилий будет использоваться 32- символьный алфавит. 10. Алфавит некоторого языка состоит из 32 символов. За сколько секунд мы сможем передать 1600 символов, если скорость передачи составляет 100 байт в секунду? 11. В течении 5 секунд было передано сообщение, объем которого составил 375 байт. Каков размер алфавита, с помощью которого составлено это сообщение, если скорость его передачи составила 200 символов в секунду? Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 8. 8 12. При игре в кости используют 2 одинаковых кубика. Сколько информации несет сообщение о том, что при бросании двух кубиков выпало число 12? 13. В языке некоторого племени всего 16 различных букв. Все слова состоят из 5 букв. Сколько компьютерной памяти потребуется для хранения всех 8000 слов этого языка? Задачи о взвешивании монет 1. Какое количество информации будет получено при взвешивании равного количества монет на чашечных весах, если известно, что среди них может быть фальшивая монета (легче остальных)? 2. Изобразите в виде дерева алгоритм поиска фальшивой (легкой) монеты среди 9 монет. Каждый узел соответствует взвешиванию. Какое минимальное число взвешиваний надо произвести? 3. Пусть неизвестно легче и тяжелее фальшивая монета. Какое количество взвешиваний потребуется? Составьте алгоритм ее поиска а)среди 12 монет. Б) Среди 13 монет. Практическая работа № 2. Формула Шеннона определения количества информации. Теоретические сведения Формула Шеннона. Пусть мы имеем алфавит, состоящий из N символов, с частотной характеристикой p1,p2,…pN, где pi – выражает вероятность появления i-го символ, так что все вероятности неотрицательны и их сумма равна 1. Тогда средний информационный вес символа такого алфавита выражается формулой Н=P1log2(1/p1)+ P2log2(1/p2)+ …+ PNlog2(1/pN). Н – среднее количество информации в битах, которое несет 1 символ N-символьного алфавита, в котором символы встречаются с разной частотой p1,p2,…pN. Пусть символ встречается в сообщениях с вероятностью p. Тогда количество информации, которое он несет, вычисляется по формуле: H= log2 р 1 Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 9. 9 Примеры решения задач Пример 2.1. В результате многолетних наблюдений учитель информатики знает, что у половины его учеников годовой оценкой будет «четверка», у ¼ учеников – «пятерка», а у 1/8 – «тройка». Остальные ученики по разным причинам окажутся не аттестованными. Какое количество информации мы получим после того, как узнаем, какую именно оценку получил ученик? Решение. р4=0,5 - вероятность оценки «4» р5=0,25 - вероятность оценки «5» р3=0,125 - вероятность оценки «3» Вычислим количество информации, которое несет каждая оценка: Н4= log2 5,0 1 =log22=1 бит Н5= log2 25,0 1 =log24=2 бит Н3= log2 125,0 1 =log28=3 бита Ответ: оценка «4» несет 1 бит информации, оценка «5» – 2 бита, оценка «3» – 3 бита. Пример 2.2. В русском языке буква «А» встречается с вероятностью 0,072, буква «Х» с вероятностью 0,009. Определить количество информации в слове «АХ». Решение. H=log2 р 1 , Н=Ha+Hx, Н= log2 072,0 1 + log2 009,0 1 = log213,9+ log2111,1=3,79+6,79=10,58 бит Ответ: слово «ах» несет 10,58 бит информации. Задачи для самостоятельного решения 1. Всегда ли ответ «да» или «нет» несет 1 бит информации? Какое наибольшее количество информации он может нести? Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 10. 10 2. Какое количество информации несет символ алфавита мощностью N, если он является одним из m символов этого алфавита? 3. С учетом частот появления букв русского алфавита подсчитайте информационный вес своей фамилии. Сравните с результатом, который получится по формуле Хартли (с учетом того, что для кодирования одного слова пробел не используется и буквы «е» и «ё» можно отождествить) Буква пробел о е а и т н с р в л Частота 175 90 72 62 62 53 53 54 40 38 35 Буква к м д п у я ы з ь,ъ б г Частота 28 26 25 23 21 18 16 16 14 14 13 Буква ч й х ж ю ш ц щ э ф Частота 12 10 9 7 6 6 4 3 3 2 В таблице приведены средние частоты употребления букв русского алфавита и символа «пробел» на 1000 символов текста. 4. При игре в кости используют два одинаковых кубика, грани которых помечены от 1 до 6. Сколько информации несет сообщение о том, что при бросании двух кубиков в сумме выпало 4 очка. 5. В урне находятся 8 белых и 24 черных шара. Какое количество информации несет сообщение о том, что из урны достали белый шар? Черный шар? Черный шар после белого? 6. Сообщение о том, что найден цветок сирени с 5 лепестками, содержит 7 бит информации. Как часто встречаются подобные цветы на сирени? 7. Для ремонта школы использовали белую, синюю и коричневую краски. Израсходовали одинаковое количество белой и синей краски. Сообщение о том, что закончилась банка коричневой краски несет 2 бита информации. Синей краски израсходовали 8 банок. Сколько банок коричневой краски израсходовали на ремонт школы? 8. Постройте график функции H(p)=log21/p на интервале (0,1]. Какие выводы можно сделать при исследовании этого графика? 9. В языке некоторого племени всего 16 различных букв. Все слова состоят из 5 букв. Словарный запас языка - 8000 слов. Сколько информации несет словарь этого языка, если 16 букв встречаются Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 11. 11 в словаре со следующими частотными характеристиками: ¼, 1/8, 1/16, 1/32, 1/32, 1/8, 1/32, 1/16, 1/64, 1/64, 1/16, 1/16, 1/32, 1/32, 1/32, 1/32? 10. Рассмотрите двузначные числа, у которых число единиц меньше, чем число десятков. Сколько информации первая цифра этого числа несет о второй цифре? Тема 2. Оптимальное кодирование информации Выгодность кодирования при передаче и хранении – это экономический фактор, поскольку более эффективный код позволяет затратить на передачу сообщения меньше энергии, а также времени и, соответственно, меньше занимать линию связи; при хранении используется меньше площади поверхности (объема) носителя. Рассмотрим задачу сжатия обычного текстового файла. Различные символы встречаются в тексте с различной частотой. Естественно кодировать их так, чтобы те, которые встречаются чаще, кодировались более коротко. Но если мы имеем неравномерный код, то возникает проблема – как понять, где закончился код одного символа, и начался код другого? Эта проблема решается путем построения префиксного кода. Практическая работа № 3. Построение префиксных кодов. Теоретические сведения Код, обладающий свойством: код одного символа не может быть началом кода другого символа, - называется префиксным. При использовании префиксных кодов сообщение может быть однозначно декодировано. Первая теорема Шеннона о передаче информации (Основная теорема о кодировании при отсутствии помех): При отсутствии помех передачи всегда возможен такой вариант кодирования сообщения, при котором избыточность кода будет сколь угодно близкой к нулю. Обозначим за A – первичный алфавит. В качестве вторичного алфавита будем использовать двоичный алфавит. Тогда избыточность сообщения Q вычисляется по формуле: Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 12. 12 )2( )( 1 1 K H Q A  , где Q – избыточность сообщения. Эта величина показывает, насколько операция кодирования увеличила длину исходного сообщения, )( 1 A H - средний информационный вес символа первичного алфавита (вычисляется по формуле Шеннона), К(2) - средняя длина двоичного кода символов алфавита. Примеры решения задач Префиксный код Шеннона-Фано (был предложен в 1948-49 гг. независимо этими учеными). Пример 3.1. Пусть имеется первичный алфавит, состоящий из 6 знаков а1,…,а6 с вероятностями появления в сообщении соответственно 0,3, 0,2, 0,2, 0,15, 0,1, 0,05. Расположим знаки в порядке убывания вероятностей. Разделим на две группы таким образом, чтобы суммы вероятностей в каждой из них были приблизительно равны. В первую группу попадут а1 и а2 с суммой вероятностей 0,5. У них первый знак будет «0». У остальных – «1». Продолжим деление по тому же алгоритму, так чтобы на каждом шаге суммы вероятностей в соседних подгруппах были возможно более близкими. Знак рi Разряды кода Код 1 2 3 4 а1 0,30 0 0 00 а2 0,2 0 1 01 а3 0,2 1 0 10 а4 0,15 1 1 0 110 а5 0,10 1 1 1 0 1110 а6 0,05 1 1 1 1 1111 К(А,2)=0,3*2+0,2*2+0,2*2+0,15*3+0,1*4+0,05*4=2,45 Для произвольного алфавита одним из наиболее применяемых алгоритмов построения префиксного кода, близкого к оптимальному является алгоритм Хаффмана. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 13. 13 Алгоритм Хаффмана Кодирование по Хаффману определяется рекурсивно. Если текст содержит всего два символа, то один из них кодируется 0, другой 1. Предположим, что для алфавита из N символов кодирование по Хаффману уже определено. Рассмотрим алфавит, в котором N+1 символ. Отождествим два наиболее редко встречающихся символа и построим код Хаффмана для получившегося N-символьного алфавита. Если b1 b2… bk – код Хаффмана для «склеенного»символа, то не изменяя кодов остальных символов определим коды слипшихся символов как b1 b2… bk0 и b1 b2… bk1. Т.к. последовательность b1 b2… bk не является началом никакого другого кода, то построенный код является префиксным. Алгоритм Хаффмана дает наилучший двоичный префиксный код. Пример 3.2. Пусть алфавит состоит из шести символов а, б, с, д, е, ф с частотами 0,3 (а), 0,2(b), 0,2(с), 0,15(d), 0,1(е), 0,05(f). Отождествим ф и е. Получим: 0,3 (а), 0,2(b), 0,2(с), 0,15(d), 0,15(еf). Объединим d и еf: 0,3 (а), 0,3(def), 0,2(b), 0,2(с). Объединим b и с: 0,4(bс),0,3 (а), 0,3(def). Объединим а и def: 0,6 (аdef), 0,4(bс). Сопоставим аdef код 0, bс – 1. Расщепим код аdef на а и def с кодами 00 и 01. Символ bс расщепим на b- 10 и с – 11. Расщепим def: д – 010, еf - 011.Расщепим еf: е – 0110, f- 0111. Символ Код а 00 b 10 c 11 d 010 е 0110 f 0111 К(А,2)=0,3*2+0,2*2+0,2*2+0,15*3+0,1*4+0,05*4=2,45 Вопросы и задачи для самостоятельного решения 1. В чем смысл первой теоремы Шеннона для кодирования? 2. Является ли азбука Морзе префиксным кодом? 3. Первичный четырехсимвольный алфавит имеет следующее частотное распределение: 0,1; 0,2; 0,3; 0,4. Построить код Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 14. 14 Хаффмана для записи сообщений с помощью этого алфавита. Посчитайте избыточность кода. 4. Построить код Хаффмана для алфавита со следующими частотными характеристиками: ¼, 1/8, 1/16, 1/32, 1/32, 1/8, 1/32, 1/16, 1/64, 1/64, 1/16, 1/16, 1/32, 1/32, 1/32, 1/32. Является ли код оптимальным? 5. Первичный алфавит содержит 8 знаков с вероятностями 0,25; 0,18; 0,15; 0,12; 0,1; 0,08; 0,07; 0,05. Постройте коды Шеннона- Фано и Хаффмана. Сравните их избыточности. 6. Для алфавита из предыдущей задачи постройте вариант кода Бодо. 7. Избыточность будет больше при кодировании с помощью кода Бодо русского или английского алфавита? Почему? 8. Почему в одном байте – 8 бит? 9. В лексиконе людоедки Эллочки Щукиной из романа Ильфа и Петрова «12 стульев» было 17 словосочетаний: «Хо-хо!», «Ого!», «Блеск!», «Шутишь, парниша», и др.) Определите длину кода при равномерном словесном кодировании. Предложите вариант кодирования. Тема 3. Представление и обработка чисел на компьютере Представление чисел в компьютере по сравнению с формами, известными всем со школы, имеет два важных отличия: во-первых, числа записываются в двоичной системе счисления (в отличие от привычной десятичной); во-вторых, для записи и обработки чисел отводится конечное количество разрядов (в «некомпьютерной» арифметике такое ограничение отсутствует). Система счисления – это правило записи чисел с помощью заданного набора специальных знаков – цифр. В настоящее время для представления чисел применяют, в основном, позиционные системы счисления. Позиционными называются системы счисления, в которых значение каждой цифры в изображении числа определяется ее положением (позицией) в ряду других цифр. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 15. 15 Наиболее распространенной и привычной является система счисления, в которой для записи чисел используется 10 цифр: 0, 1, 2, 3, 4, 5, 6, 7, 8 и 9. Число представляет собой краткую запись многочлена, в который входят степени некоторого другого числа – основания системы счисления. Например, 272,12 = 2·102 +7·101 +2·100 + 1·10-1 +2·10-2 По принципу, положенному в основу десятичной системы счисления, очевидно, можно построить системы с иным основанием. Пусть p – основание системы счисления. Тогда любое целое число Z, удовлетворяющее условию Z < pk (k 0, целое), может быть представлено в виде многочлена со степенями p (при этом, очевидно, максимальный показатель степени будет равен k – 1): Практическая работа № 4. Системы счисления. Правила перевода чисел. Примеры решения задач Перевод целых чисел из одной системы счисления в другую Пример 4.1. Выполнить преобразование 4435 Z10 Для этого разложим число 443 по основанию системы счисления 5. 4435 = 4·52 +4·51 +3·50 = 4·25+4·5+3·1 = 12310 Пример 2. Выполнить преобразование 12310 Z5. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 16. 16 Остатки от деления (3, 4) и результат последнего целочисленного деления (4) образуют обратный порядок цифр нового числа. Следовательно, 12310 = 4435. Пример 4.2. Выполнить преобразование 0,37510 0,Y2 Таким образом, 0,37510 = 0,0112 Перевод дробных чисел из одной системы счисления в другую Пример 4.3. Выполнить преобразование 0,0112 Z10 Для этого разложим число 0,011 по основанию системы счисления 2. 0,0112 = 0·2-1 + 1·2-2 + 1·2-3 = 0,25 + 0,125 = 0,37510 Следует сознавать, что после перевода дроби, которая была конечной в исходной системе счисления, она может оказаться бесконечной в новой системе. Соответственно, рациональное число в исходной системе может после перехода превратиться в иррациональное. Справедливо и обратное утверждение: число иррациональное в исходной системе счисления в иной системе может оказаться рациональным. Пример 4.4. Выполнить преобразование 0,37510 0,Y2 Таким образом, 0,37510 = 0,0112 Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 17. 17 Пример 4.5. Выполнить преобразование 5,3(3)10 X3 Перевод целой части, очевидно, дает: 510 = 123. Перевод дробной части: 0,3(3)10 = 0,13. Окончательно: 5,3(3)10 = 12,13. Перевод чисел между системами счисления с основаниями 2 – 8 – 16 Интерес к двоичной системе счисления вызван тем, что именно эта система используется для представления чисел в компьютере. Однако двоичная запись оказывается громоздкой, поскольку содержит много цифр, и, кроме того, она плохо воспринимается и запоминается человеком из-за зрительной однородности (все число состоит из нулей и единиц). Поэтому в нумерации ячеек памяти компьютера, записи кодов команд, нумерации регистров и устройств и пр. используются системы счисления с основаниями 8 и 16; выбор именно этих систем счисления обусловлен тем, что переход от них к двоичной системе и обратно осуществляется простым образом. Двоичная система счисления имеет основанием 2 и, соответственно, 2 цифры: 0 и 1. Восьмеричная система счисления имеет основание 8 и цифры 0, 1,…, 7. Шестнадцатеричная система счисления имеет основание 16 и цифры 0, 1, …, 9, A, B, C, D, E, F. При этом знак «A» является 16-ричной цифрой, соответствующей числу 10 в десятичной системе; B16 = 1110; С16 = 1210; D16 = 1310; E16 = 1410; F16 = 1510. Теорема 1. Для преобразования целого числа Zp Zq в том случае, если системы счисления связаны соотношением q = pr , где r - целое число большее 1, достаточно Zp разбить справа налево на группы по r цифр и каждую из них независимо перевести в систему q. Пример 4.6 Выполнить преобразование Z2 = 1100012 Z8. Исходное число разбивается на группы по три разряда справа налево (8 = 23 , следовательно, r = 3) и каждая тройка в соответствии с таблицей 4.1. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 18. 18 переводится в 8-ричную систему счисления независимо от остальных троек: Следовательно, 1100012 = 618 . Аналогично, разбивая Z2 на группы по 4 двоичные цифры и дополняя старшую группу незначащими нулями слева, получим 1100012= 3116. Представление чисел в системах счисления 10-ная 2-ная 8-ричная 16-ричная 0 0 0 0 1 1 1 1 2 10 2 2 3 11 3 3 4 100 4 4 5 101 5 5 6 110 6 6 7 111 7 7 8 1000 10 8 9 1001 11 9 10 1010 12 A 11 1011 13 B 12 1100 14 C 13 1101 15 D 14 1110 16 E 15 1111 17 F Таблица 1. Теорема 2. Для преобразования целого числа Zp Zq в том случае, если системы счисления связаны соотношением p = qr , где r - целое число большее 1, достаточно каждую цифру Zp заменить соответствующим r-разрядным числом в системе счисления q, дополняя его при необходимости незначащими нулями слева до группы в r цифр. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 19. 19 Пример 4.7 Выполнить преобразование D316 Z2. Переходы Z8 Z16 и Z16 Z8, очевидно, удобнее осуществлять через промежуточный переход к двоичной системе. Например, 1238 = 0010100112 = 5316. Задачи для самостоятельного решения 1. Переведите в десятичную систему счисления числа, записанные в пятеричной системе счисления: 15, 3015, 101235 2. Переведите дроби в десятичную СС: 0,B0F16, 0,11012, 0,1A15 3. Калькулятор работает в троичной СС и для вывода на экран имеет только четыре знакоместа. С каким самым большим десятичным числом мы можем работать? 4. Требуется подобрать 5 различных гирь так, чтобы с их помощью можно было взвесить любой груз до 30 кг включительно при условии, что гири ставятся только на одну чашу весов. (Задача впервые приведена в книге знаменитого математика 13 века Леонардо Пизанского. Этой же задачей интересовался Л.Эйлер) 5. Перевести из двоичной СС в десятичную числа 0,(1001)2, 0,10(1001)2, 0,00(1001)2, 0,0(0011)2, 0,(001)2 5. Переведите число 53 в двоичную, восьмеричную и 11-ричную СС. 6. Переведите следующие десятичные дроби: 0,375 – в двоичную СС2, 0,515625 – в четверичную СС, 0,109375 – в 16-ричную СС. 7. Переведите следующие числа в десятичную СС: 1234, 123,45, 203,56, 0,(С)16 8. Переведите число 1998 в систему счисления с основанием, равным вашему возрасту. Может ли число в новой системе быть дробным? 9. Переведите следующие десятичные дроби в троичную и восьмеричную СС: 0,1; 0,3; 0,8 Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 20. 20 10. Переведите в восьмеричную СС конечную дробь BF3,616 11. В задаче о чудаке-математике восстановите все числа в десятичной системе счисления. «Я окончил курс университета 44 лет от роду. Спустя год, 100-летним молодым человеком, я женился на 34-летней девушке. Незначительная разница в возрасте – всего 11 лет – способствовала тому, что мы жили общими интересами и мечтами. Спустя немного лет у меня уже была небольшая семья из 10 детей. Жалованья я получал в месяц всего 200 рублей, из которых 1/10 приходилось отдавать сестре, так что мы с детьми жили на 130 рублей в месяц.» 12. Десятичное число 20,45 перевели в четверичную систему счисления. Найти 1999-ю цифру после запятой. Практическая работа №5. Представление чисел в компьютере Теоретические сведения Для целых чисел существуют два представления: беззнаковое (только для неотрицательных целых чисел) и со знаком. Для беззнакового представления все разряды ячейки отводятся под представление самого числа. Например, в байте (8 бит) можно представить беззнаковые числа от 0 до 255. Для представления со знаком самый старший (левый) бит отводится под знак числа, остальные разряды - под само число. Если число положительное, то в знаковый разряд помещается 0, если отрицательное - 1. Например, в байте можно представить знаковые числа от -128 до 127. Прямой код числа Представление числа в привычной форме "знак"-"величина", при которой старший разряд ячейки отводится под знак, а остальные - под запись числа в двоичной системе, называется прямым кодом двоичного числа. Например, прямой код двоичных чисел 1001 и -1001 для 8- разрядной ячейки равен 00001001 и 10001001 соответственно. Положительные числа в ЭВМ всегда представляются с помощью прямого кода. Прямой код числа полностью совпадает с записью самого числа в ячейке машины. Прямой код отрицательного числа отличается от прямого кода соответствующего положительного числа лишь содержимым знакового разряда. Но отрицательные целые числа не представляются в ЭВМ с помощью прямого кода, для их представления используется так называемый дополнительный код. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 21. 21 Дополнительный код числа Дополнительный код положительного числа равен прямому коду этого числа. Дополнительный код отрицательного числа m равен 2k -|m|, где k - количество разрядов в ячейке. Дополнительный код используется для упрощения выполнения арифметических операций. Если отрицательные числа представлять в виде дополнительного кода, то операция сложения, в том числе и разного знака, сводится к из поразрядному сложению. Для компьютерного представления целых чисел обычно используется один, два или четыре байта, то есть ячейка памяти будет состоять из восьми, шестнадцати или тридцати двух разрядов соответственно. Алгоритм получения дополнительного кода отрицательного числа Для получения дополнительного k-разрядного кода отрицательного числа необходимо: 1. модуль отрицательного числа представить прямым кодом в k двоичных разрядах; 2. значение всех бит инвертировать:все нули заменить на единицы, а единицы на нули(таким образом, получается k-разрядный обратный код исходного числа); 3. к полученному обратному коду прибавить единицу. Алгоритм получения отрицательного числа по дополнительному коду Для получения отрицательного числа по дополнительному k-разрядному кода необходимо 1. Значение всех бит кода инвертировать. 2. К полученному обратному коду прибавить единицу. 3. Перевести число в десятичную систему счисления. 4. Приписать числу знак «минус». Обработка целых чисел на компьютере Сложение производится согласно таблице сложения, которая для двоичных чисел имеет вид: В последнем случае в том разряде, где находились слагаемые, оказывается 0, а 1 переносится в старший разряд. Место, где Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 22. 22 сохраняется переносимая в старший разряд 1 до того, как она будет использована в операции, называется битом переноса. Умножение производится согласно таблице умножения, которая для двоичных чисел имеет предельно простой вид: 0 · 0 = 0 0 · 1 = 0 1 · 0 = 0 1 · 1 = 1 Для представления вещественных чисел в современных компьютерах принят способ представления с плавающей запятой. Этот способ представления опирается на нормализованную (экспоненциальную) запись действительных чисел. Как и для целых чисел, при представлении действительных чисел в компьютере чаще всего используется двоичная система, следовательно, предварительно десятичное число должно быть переведено двоичную систему. Нормализованная запись числа Нормализованная запись отличного от нуля действительного числа - это запись вида a= m*Pq , где q - целое число (положительное, отрицательное или ноль), а m - правильная P-ичная дробь, у которой первая цифра после запятой не равна нулю, то есть 1 1  m P . При этом m называется мантиссой числа, q - порядком числа. Основной формой представления кодов вещественных чисел в компьютере является двоичная нормализованная. При этом записываться и храниться в памяти компьютера должны все составляющие нормализованной формы (знак числа, мантисса, знак порядка и порядок), что требует нескольких ячеек памяти. Непосредственное распределение компонентов нормализованного числа по разрядам определяется конструктивными особенностями компьютера и программным обеспечением. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 23. 23 Пример размещения числа в двух ячейках памяти (32 разряда): Обработка вещественных чисел на компьютере Сложение нормализованных чисел Пусть имеются два числа X1 = M1·pk1 и X2 = M2·pk2 (здесь индексы у мантиссы и порядка означают не систему счисления, а служат номерами чисел). Сложение должно начинаться с выявления большего из k1 и k2, нахождения модуля их разности k =|k1 - k2| и сдвига вправо на k разрядов мантиссы того числа, у которого k оказался меньше. После этого выполняется сложение мантисс, порядку результата присваивается значение большего из имеющихся и при необходимости производится нормализация результата. При сдвиге вправо мантиссы меньшего числа происходит потеря k младших значащих цифр, что приводит к появлению погрешности сложения. Примеры решения задач Пример 5.1 Получить 8-разрядный дополнительный код числа -52: Решение: 00110100 - число |-52|=52 в прямом коде 11001011 - число -52 в обратном коде 11001100 - число -52 в дополнительном коде Пример 5.2 Получить число по 8-разрядному дополнительному коду – 11001100. Решение: Инвертируем код: 00110011 Добавим 1: 00110100 Преобразуем число в десятичную СС: 11001002=5210 Припишем знак «минус»: -52 Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 24. 24 Пример 5.3 Найти сумму 159410 + 1756310 при беззнаковой двоичной кодировке и 16- битном машинном слове. Пример 5.4. Найти сумму 6553410 + 310 В последнем примере в результате сложения получилось число, превышающее максимально возможное; результат ошибочен, о чем свидетельствует появление 1 в регистре переполнения. Пример 5.5. Найти произведение 1310 × 510 Таким образом, умножение двоичных чисел сводится к операциям сдвига на один двоичный разряд влево и повторения первого сомножителя в тех разрядах, где второй сомножитель содержит 1, и сдвига без повторения в разрядах с 0. Пример 5.6 Привести числа к нормализованной форме: 1. 3,1415926 = 0, 31415926 * 101 ; 2. 1000=0,1 * 104 ; 3. 0,123456789 = 0,123456789 * 100 ; 4. 0,00001078 = 0,1078 * 8-4 ; (порядок записан в 10-й системе) 5. 1000,00012 = 0, 100000012 * 24 . Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 25. 25 Пример 5.7 Найти сумму X1=0,87654·101 , а X2=0,94567·102 , если для записи мантиссы отводится 5 разрядов. Решение: Согласно алгоритму k = 1 и k1<k2. Следовательно, k=k2=2, а мантисса числа X1 должна быть сдвинута на 1 разряд вправо (при этом из-за ограниченности разрядно сетки пропадет цифра 4). Новая мантисса получается суммированием M=0,94567+0,08765=1,03332; поскольку она выходит за допустимый интервал представления мантисс, необходимо его нормализовать M ’ = 0,10333 (при этом теряется цифра 2 в младшем разряде); k ’ = k+1=3. Окончательно получаем: X=0,10333·103. Точный результат суммирования оказался бы 103,3324. Задачи для самостоятельного решения 1. Получить дополнительный код числа -117 для 8- и 16-разрядной ячейки. 2. Получить десятичное представление числа по его дополнительному коду 100101012. 3. Даны десятичные числа a и b. Найти их сумму и разность в 8- разрядном беззнаковом и знаковом представлении. Ответ записать в таблицу. a=59, b=106. 10-тичные 8-битовые Беззнаковые знаковые a b a+b a-b 4. Приведите к нормализованному виду следующие числа: -0,0000001110112, 987654321010, 123456789,ABCD16 5. Запишите в форме с фиксированной запятой следующие нормализованные числа: 0,10112*161 , 0,11012*21 , 0,12345*10-3 , 0,ABBA16*16-2 Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 26. 26 6. Выполните действия над машинными кодами чисел с фиксированной точкой в 16-разрядном формате. X=A+B, A=-483, B=216 7. Произведите следующие арифметические действия над двоичными нормализованными числами согласно правилам вещественной компьютерной арифметики (мантисса занимает 10 разрядов, порядок – 5 разрядов). Сравните полученные результаты с истинными значениями. 1) 0,111112*20 +0,111112*2-5 2)0,111112*20 +0,111112*2-8 Тема 4. Общая схема передачи информации в линиях связи Средства связи – совокупность устройств, обеспечивающих преобразование первичного сообщения от источника информации в сигналы заданной физической природы, их передачу, прием и представление в форме удобной потребителю. Канал связи – это материальная среда, а также физический или иной процесс, посредством которого осуществляется передача сообщения, т.е. распространение сигналов в пространстве с течением времени. Каналы связи в зависимости от характера сигналов, передаваемых по ним подразделяются на дискретные и аналоговые. Примером дискретного канала является компьютерная сеть; аналогового – телефонная линия и радиоканал. Линия связи – это совокупность средств связи и канала связи, посредством которых осуществляется передача информации от источника к приемнику. Практическая работа № 6. Передача информации в компьютерных сетях Теоретические сведения Характеристики канала связи Интервал частот, используемый данным каналом связи для передачи сигналов, называется шириной полосы пропускания. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 27. 27 Обозначим: m - максимальное значение частоты из данной полосы 0 – длительность элементарного сигнала (импульс или пауза) 0=1/m Пропускная способность канала связи С передачей одного элементарного сигнала связано некоторое количество информации Iimp. Если оно передается за время 0, то отношение Iimp/0 отражает среднее количество информации, передаваемое по каналу за единицу времени, это величина называется пропускной способностью канала С. (измеряется в бит/с) 0 impI С  , )2( 1 K H Iimp  , где Н1- средняя информация на знак первичного алфавита, К(2) - средняя длина двоичного кода. 0 )2( 1   K H С , )2( 1 K H С   1 Кбит/с=103 бит/с Скорость передачи информации Пусть по каналу за время t передано I информации. Тогда скорость передачи информации – J=I/t. Размерностью J является бит/с. J<=C, т.к. 0 – минимальная длительность элементарного сигнала, а значит С – максимальная скорость. Т.е максимальная скорость передачи данных по каналу связи равна его пропускной способности. Пример 6.1 Первичный алфавит состоит из трех знаков с вероятностями p1 = 0,2; p2 = 0,7; p3 = 0,1. Для передачи по каналу без помех используются равномерный двоичный код. Частота тактового генератора 500 Гц. Какова пропускная способность канала? Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 28. 28 Решение: Поскольку код двоичный, длина кода при равномерном кодировании 3 символов равна 2, т.е. К(2) =2. Найдем средний информационный вес символа данного алфавита по формуле Шеннона: Н1 = – 0,2·log20,2 – 0,7·log20,7 – 0,1·log20,1 = 1,16 бит )2( 1 K H С   , )/(290 2 16,1500 сбитС    Влияние шумов на пропускную способность дискретного канала связи Все реальные каналы связи подвержены воздействию помех, которые могут привести к искажению передаваемых по каналу связи сигналов и, как следствие, к частичной (или даже полной) потере связанной с ними информации. По этой причине поиск методов повышения надежности передачи является одной из важнейших задач теории связи. Вторая теорема Шеннона (относится к реальным каналам связи): При передаче информации по каналу с шумом всегда имеется способ кодирования, при котором сообщение будет передаваться со сколь угодно высокой достоверностью, если скорость передачи не превышает пропускной способности канала. Решение проблемы состоит в использовании таких методов кодирования информации, которые позволили бы контролировать правильность передачи (хранения) и при обнаружении ошибки исправлять ее. Способность кода к обнаружению и исправлению ошибки основана на создании избыточности кодируемого сообщения. Избыточные коды формируются по определенным правилам. Наряду с битами, непосредственно кодирующими сообщение (информационные биты) передаются дополнительные биты, по состоянию которых можно судить о правильности передачи Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 29. 29 (контрольные биты). При равномерном кодировании длина кода k=ki+kc L=k/ki =1+kc/ki – избыточность сообщения для реального канала. Относительная избыточность сообщения – это характеристика, показывающая во сколько раз надо удлинить сообщение, чтобы обеспечить его надежную передачу (хранение). Помехоустойчивыми (корректирующими) называются коды, позволяющие обнаружить и при необходимости исправить ошибки в принятом сообщении. Коды, исправляющие одиночную ошибку. Код Хемминга Основная идея кода Хемминга состоит в добавлении к информационным битам нескольких битов четности, каждый из которых контролирует определенные информационные биты. В коде Хемминга информационные и проверочные биты не разнесены в отдельные подматрицы, а чередуются. При этом принимается следующая нумерация бит (знаков кода): все биты кодовой комбинации получают номера, начиная с 1, слева направо (информационные биты нумеруются с 0 и справа налево); контрольными (проверочными) оказываются биты с номерами 1, 2, 4, 8 и т.д. – все остальные являются информационными. По проверочной матрице легко установить номера тех бит кодовой комбинации, которые «обслуживаются» данным проверочным; ясно также, что проверочные биты не контролируют друг друга. Номер контролируемых битов для каждого проверочного приведен в таблице. В перечень контролируемых битов внесен и тот, в котором располагается проверочный. При этом состояние проверочного бита устанавливается так, чтобы суммарное количество единиц в контролируемых им битах было бы четным. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 30. 30 Провероч- ные биты Контролируемые биты 1 1 3 5 7 9 11 13 15 17 19 21 … 2 2 3 6 7 10 11 14 15 18 19 22 … 4 4 5 6 7 12 13 14 15 20 21 22 … 8 8 9 10 11 12 13 14 15 24 25 26 … 16 16 17 18 19 20 21 22 23 24 25 26 … 32 32 33 34 35 36 37 38 39 40 41 42 … Таблица 2. Из таблицы можно усмотреть следующую закономерность: для любого номера проверочного бита (m), начиная с него, m бит подряд оказываются проверяемыми, затем следует группа m непроверяемых бит; далее происходит чередование групп. Алгоритм проверки исправления последовательности бит: 1) произвести проверку всех битов четности 2) если все биты четности верны, перейти к п.5 3) вычислить сумму номеров всех неправильных битов четности 4) инвертировать содержимое бита, номер которого равен сумме из п.3 5) исключить биты четности, передать правильный информационный код. Пример 6.2 Рассмотрим построение кода Хемминга для конкретного байта первичного кода; пусть это будет 1 2 3 4 5 6 7 8 9 10 11 12 Номера битов кода Хемминга 0 0 0 1 0 1 0 1 1 1 0 1 7 6 5 4 3 2 1 0 Номера инф. битов Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 31. 31 Анализируем состояние контрольных битов: Бит 1 – неверно Бит 2 – верно Бит 4 – неверно Бит 8 – верно Ошибка в бите с номером 1+4=5. Исправим сообщение и избавимся от контрольных битов: 01101101 Задачи для самостоятельного решения 1. Человек может осмысленно читать со скоростью 15 знаков в секунду. Оцените пропускную способность зрительного канала в данном виде деятельности. 2. Оцените пропускную способность слухового канала радиста, принимающего сигналы азбуки Морзе, если известно, что для распознавания одного элементарного сигнала ему потребуется 0,2 с. 3. Для передачи телеграфных сообщений, представленных с помощью кода Бодо, используется канал без помех с пропускной способностью 1000 бит/с. Сколько знаков первичного алфавита можно передать за 1 с по данному каналу? 4. Первичный алфавит состоит из трех знаков с вероятностями p1=0,2; p2=0,7; p3=0,1. Для передачи по каналу без помех используется равномерный двоичный код. Частота тактового генератора 500 Гц. Какова пропускная способность канала? 5. Определить на какую долю снижается пропускная способность канала с шумом по сравнению с идеальным каналом при двоичном кодировании, если вероятность появления ошибки составляет: а) 0,01, б) 0,001, в) 0,1, г) 0,5, д) 0,99. Поясните полученные результаты. 6. Какое минимальное количество контрольных бит должно передаваться вместе с 16-ю информационными для обеспечения восстановления информации, если вероятность искажения Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»
  • 32. 32 составляет а) 1%, б) 10%, в) 50%, г) 99%? Какова реальная избыточность сообщения в каждом случае? 7. Получено машинное слово, закодированное с использованием кода Хемминга: 100010111100010110011. Устраните ошибку передачи. 8. Какова максимальная скорость передачи информации при тактовой частоте генератора 300 МГц и ширине шины 32 бита? 9. Сколько времени будет выводиться на экран дисплея картинка размером 300х400 пикселей при цветном режиме 16 бит на цвет, если для обмена используется 32-разрядная шина, а частота тактового генератора составляет 166 МГц? Литература 1. Стариченко Б.Е. Теоретические основы информатики: Учебное пособие для вузов. – 2-е изд. перераб. и доп. – М.: Горячая линия – Телеком, 2003. – 312 с.; ил. 2. Системы счисления и компьютерная арифметика: Учебное пособие / Е.В. Андреева, И.Н.Фалина – М.: Бином. Лаборатория знаний, 2004 г. – 254 с.: ил. 3. Основы теории информации: Учебное пособие / Е.В. Андреева, Е.В. Щепин // Информатика. 2004. № 4. 4. Андреева Е.В. Изучение теории информации в профильном курсе информатики // Информатика. 2003. № 40. Copyright ОАО «ЦКБ «БИБКОМ» & ООО «Aгентство Kнига-Cервис»