Введение
1 Теоретическое обоснование эффективного кодирования
1.1 Современное состояния теории кодирования
1.2 Количество информации и энтропия
1.3 Оптимальное кодирование дискретных источников
1.4 Алгоритмы оптимального кодирования
2 Анализ работы кода Хэмминга
Заключение
Список используемой литературы
В современной деятельности человека информация играет главенствующую роль. Она передается в виде изображения, звука, текста. При этом зачастую при передаче данных они подвергаются влиянию шумов, способных исказить передаваемую информацию.
Для решения данной проблемы используют кодирование данной и специальные коды, которые способны исправлять ошибки. Их применение позволяет пользоваться услугами связи и сеть Интернет даже в условиях далеких от идеальных. Подобные коды стали незаменимым компонентом современный связи. Поэтому изучение имеющихся и создание новых алгоритмов, проверки и восстановления данных является актуальной на сегодняшний день задачей.
Целью данной работы является изучение систем эффективного кодирования.
Для решения поставленной цели необходимо решить следующие задачи:
- Провести литературный обзор теоретического материала по теме исследования
- Рассмотреть алгоритмы оптимального кодирования
- Привести пример работы системы кодирования с данными
1 Теоретическое обоснование эффективного кодирования
1.1 Современное состояния теории кодирования
Технология связи и вычислительной техники продвигается с невероятной скоростью в 21 веке. Значительная часть этого продвижения в общении началось, когда Шеннон опубликовал свою статью «Математическая коммуникация». В этой статье Шеннон поставил фундаментальный вопрос: как мы можем надежно передавать информацию? Шеннон также дал базовый ответ: кодирование может это сделать. С тех пор проблема создания систем кодирования, которые подходят к фундаментальным ограничениям описанным Шенноном, была в центре теории информации и коммуникации. В последнее время в этом направлении произошли огромные успехи, которые приближают нас к ответу на этот вопрос. Хотя основное внимание в этой книге уделяется кодированию, более крупный взгляд большая картина. Редкие графические модели и алгоритмы передачи сообщений, чтобы назвать только два из понятий, которые являются фундаментальными для нашего лечения, играют все более важную роль во многих других областях.
На рисунке 1 показана базовая структура цифровой системы связи, которая представляет собой общую архитектуру всех существующих систем связи.
Рисунок 1 Архитектура цифровой системы связи
Внутри передатчика такой системы связи выполняются следующие задачи [1]:
- кодирование источника,
- канальное кодирование,
- модуляция.
Согласно рисунку 1 модулятор генерирует сигнал, который используется для передачи последовательности символов b по каналу. Из-за шума в канале передаваемый сигнал нарушается. Этот сигнал демодулируется в приемнике, что приводит возникновению последовательности принятых символов r. Поскольку принятая последовательность символов r обычно отличается от переданной символьной последовательности b, канальный код используется так, что приемник способен обнаружить или даже исправить ошибки. Для этого канальный энкодер вводит избыточность в информационную последовательность u. Эта избыточность может быть использована канальным декодером для обнаружения ошибок или коррекции ошибок путем оценки переданной последовательности символов u.
В своей фундаментальной работе Шеннон показал, что теоретически возможно реализовать система передачи информации с малой вероятностью ошибки. Предпосылкой для этого является то, что скорость информации источника информации должна быть меньше, чем так называемая пропускная способность канала. Чтобы уменьшить скорость передачи информации, используются схемы кодирования источника, которые реализуются энкодером в передатчике и декодером в приемнике.
- Кельберт, М. Я. Вероятность и статистика в примерах и задачах. Том 3. Теория информации и кодирования / М.Я. Кельберт, Ю.М. Сухов. - М.: МЦНМО, 2014. - 568 c.
- Рихтер С. Г. Кодирование и передача речи в цифровых системах подвижной радиосвязи; Горячая Линия - Телеком - , 2011. - 304 c
- Зубарев Ю. Б., Глориозов Г. Л. Передача изображений; Радио и связь - Москва, 2014. - 224 c
- Фано Р. Передача информации. Статистическая теория связи; Мир - Москва, 2014. - 440 c
- Бородич, С.В. Антенны и фидеры. Передача информации по каналам связи. Контроль и измерения в технике связи; М.: НИИР - Москва, 2012. - 100 c.
- Морелос-Сарагоса, Р. Искусство помехоустойчивого кодирования. Методы, алгоритмы, применение / Р. Морелос-Сарагоса. - М.: Техносфера, 2006. - 320 c.