Главная > Разное > Теория кодирования и теория информации
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

Предисловие редактора перевода

Код Хэмминга является самым известным результатом теории кодирования, а его автор — самым удивительным из ученых, работавших в этой области. Дело в том, что Ричард Весли Хэмминг имеет лишь две публикации в области теории информации. Одна из них [1] содержит конструкцию кода Хэмминга, придуманную еще до 1948 г., т. е. до появления работы К. Шеннона ([2], с. 289), и, таким образом, представляет собой первую работу но теории кодирования. Другая — это настоящая книга, вышедшая 30 лет спустя, когда теория кодирования прочно утвердила себя как сложившееся научное направление. Поэтому появление этой второй публикации Р. В. Хэмминга является в теории информации событием незаурядным.

Наши специалисты хорошо знакомы с многими книгами по теории информации и теории кодирования. Подавляющее большинство из них написано на высоком математическом уровне. Они требуют от читателя глубокого знания алгебры и теории случайных процессов, а также определенного уровня математической культуры. В то же время теория информации — наука прикладная, она служит теоретическим фундаментом техники связи, радиолокации, техники обработки информации. Ее результаты должны находить практическое применение. Для этого нужно, чтобы инженеры-проектировщики систем могли понять и оценить результаты теории. Как этого достичь? Долгое время господствовала точка зрения, что нужно существенно повысить математическую подготовку инженеров. Практика, однако, показывает, что вывести математическую подготовку инженеров на требуемый для понимания теоретических трудов уровень пока не удается. Причина здесь состоит не столько в качестве преподавания или уровне исходной математической подготовки студентов, сколько в простой истине: «нельзя объять необъятное» — невозможно совместить в одном учебном процессе детальную инженерную и глубокую математическую подготовку.

Где же искать выход? Нельзя ли пойти в противоположном направлении и адаптировать теорию информации для инженеров? Можно ли выделить из теории простые качественные и количественные результаты и методы, существенно не обеднив ее?

Книга Р. В. Хэмминга представляет собой шаг вперед в этом направлении. Она использует самый примитивный и наглядный математический аппарат и с его помощью, а также с привлечением качественных рассуждений и интерпретаций пытается дать представление об основных идеях и достижениях теории.

Чтобы усилить доступность, автор широко использует графический материал, численные примеры, гибкую терминологию и подробные пояснения выкладок. Однако доступности нигде не приносится в жертву верность результатов или точность интерпретаций. В этом проявляется большое научное и педагогическое дарование автора.

Мы надеемся, что книга Р. В. Хэмминга понравится читателям и принесет пользу

Б. С. Цыбаков

Предисловие

Материал книги естественно объединяет теорию кодирования и теорию информации, которые изучают представления абстрактных символов. В настоящее время эти теории разрослись столь широко, что в короткой книге можно изложить лишь небольшую их часть.

Обычно считается, что теория информации рассматривает «пересылку информации из одного места в другое» (передачу информации). Однако эта задача абсолютно аналогична задаче «пересылки информации от одного момента времени до другого» (хранения информации). Обе задачи часто возникают при обработке информации. Ясно, что кодирование информации для эффективного хранения, а также надежное ее восстановление при наличии шума очень важны при конструировании ЭВМ.

Поскольку задачи представления, передачи и преобразования информации весьма существенны во многих областях науки и вычислительной техники, важно иметь доступное изложение теории информации и теории кодирования. Каждый раз, когда появляется необходимость в порождении, хранении или обработке информации, оказывается нужным знать, как сжать имеющийся текст и как защитить его от возможных искажений. В книге будут изложены лишь наиболее существенные из многих известных методов кодирования, однако можно надеяться, что имеющиеся в книге многочисленные примеры подготовят читателя к использованию других возможных методов.

Цель написания книги — изложить основы двух теорий и привести примеры применения соответствующих идей на практике Необходимые предварительные знания математики и радиотехники сведены к минимуму. Используются лишь основы анализа и теории вероятностей, а все выходящее за эти рамки приводится с подробными объяснениями по мере необходимости.

Для упрощения изложения и доказательств многих результатов используются методы, недавно развитые в вычислительной технике. Эти методы объясняются по мере их использования, так что не предполагается наличия у читателя предварительных знаний вычислительной техники. Многие другие доказательства были существенно упрощены и иногда, следуя за развитием технологии, был добавлен новый материал. Предприняты значительные усилия изложить материал (в особенности доказательство основной теоремы Шеннона) таким образом, чтобы было понятно, почему теоремы справедливы, а не только чтобы привести математически строгое доказательство.

В гл. 11, посвященной алгебраическим кодам, приведены необходимые математические результаты, относящиеся к конечным полям. Ввиду сложности этих результатов глава помещена в конец книги и несколько выпадает из логически естественного порядка изложения материала. При желании ее можно читать после г.л. 3. В тексте часто допускаются повторения; важные идеи рассматриваются по меньшей мере дважды с тем, чтобы читатель лучше их усвоил.

В книге не затрагиваются многие важные вопросы; при этом автор исходил из того, что лучше как следует изучить часть материала, чем сказать понемногу о многом. Таким образом, лектор может по своему усмотрению многое добавить к изложенным вопросам, если он считает, что это будет полезно слушателям.

В книге используются обычные названия «коды Хэмминга» и «расстояние Хэмминга»; использование здесь других терминов было бы проявлением ложной скромности и лишь запутало читателя.

Автору трудно вспомнить все, чем он обязан другим, поскольку большинство изложенных в книге фактов он узнал за годы работы в научно-исследовательском отделе фирмы Bell. Чтение лекций в Высшем Военно-морском училище, основанных на небольшой элегантной книге Н. Абрамсона «Теория информации и кодирование» [1], снова пробудила интерес автора к этим вопросам. Во время чтения различных коротких курсов по этим вопросам возникли многие упрощения, уточнения и примеры; автор благодарен многим своим слушателям за помощь. Особенно существенной была помощь Альберта Вонга.

В процессе написания книги были составлены ее различные варианты на ЭВМ фирмы Bostrom Management Corp., при этом весьма существенной была помощь Ральфа Джонса. Однако, как обычно, ответственность за все ошибки несет автор.

Р. В. Хэммииг

<< Предыдущий параграф Следующий параграф >>
Оглавление