Равномерное и неравномерное кодирование

Кодирование информации — процесс преобразования сигнала из формы, удобной для непосредственного использования информации, в форму, удобную для передачи, хранения или автоматической переработки.

Объектом кодирования служит как дискретная, так и непрерывная информация, которая поступает к потребителю через источник информации. Понятие кодирование означает преобразование информации в форму, удобную для передачи по определенному каналу связи.

Обратная операция – декодирование – заключается в восстановлении принятого сообщения из закодированного вида в общепринятый, доступный для потребителя.

В теории кодирования существует ряд направлений:

статическое или эффективное кодирование;

помехоустойчивое кодирование;

корректирующие коды;

циклические коды;

арифметические коды.

Актуальными задачами теории информации являются: ( Оценка характеристик источника и канала (энтропия и количество информации).

интерпретация данных (байесовский вывод);

сжатие данных (эффективное кодирование);

коррекция ошибок (помехоустойчивое кодирование).

Цель – изучить равномерное и неравномерно кодирование, представить примеры решения задач.

1. Основные понятия кодирования

Рассмотрим основные понятия, связанные с кодированием информации. Для передачи в канал связи сообщения преобразуются в сигналы. Символы, при помощи которых создаются сообщения, образуют первичный алфавит, при этом каждый символ характеризуется вероятностью его появления в сообщении. Каждому сообщению однозначно соответствует сигнал, представляющий определенную последовательность элементарных дискретных символов, называемых кодовыми комбинациями. 

Кодирование - это преобразование сообщений в сигнал, т.е. преобразование сообщений в кодовые комбинации. 

Код - система соответствия между элементами сообщений и кодовыми комбинациями. 

Кодер - устройство, осуществляющее кодирование. 

Декодер - устройство, осуществляющее обратную операцию, т.е. преобразование кодовой комбинации в сообщение. 

Кодирование – представление сообщения последовательностью элементарных символов.

Двоичное кодирование – кодирование информации в виде 0 и 1 Рассмотрим кодирование дискретных сообщений.

Кодирование чисел с помощью нулей и единиц впервые применил в своей (механической) вычислительной машине немецкий мыслитель Готфрид Вильгельм Лейбниц в конце XVII века. Затем, уже в середине XX века, двоичное кодирование информации стало повсеместно применяться для электронных компьютеров.

Чаще всего используется равномерный код, когда все символы исходного сообщения кодируются с помощью одинакового количества двоичных знаков. 

Различные методы кодирования широко используются в практической деятельности человека с незапамятных времён.

Например, десятичная позиционная система счисления – это способ кодирования натуральных чисел.

Другой способ кодирования натуральных чисел – римские цифры, причем этот метод более наглядный и естественный, действительно, палец – I, пятерня – V, две пятерни – X.

Однако при этом способе кодирования труднее выполнять арифметические операции над большими числами, поэтому он был вытеснен способом кодирования основанном на позиционной десятичной системой счисления. Из этого примера можно заключить, что различные способы кодирования обладают присущими только им специфическими особенностями, которые в зависимости от целей кодирования могут быть как достоинством конкретного способа кодирования, так и его недостатком.

Широко известны способы числового кодирования геометрических объектов и их положения в пространстве: декартовы координаты и полярные координаты. И эти способы кодирования отличаются присущими им специфическими особенностями.

До XX века методы и средства кодирования играли вспомогательную роль, но с появлением компьютеров ситуация радикально изменилась.

Всего 12 источников