Информация и ее свойства

     Информация  и её свойства

     1. Понятие информации

     Понятие «информация» является одним из фундаментальных  в современной науке вообще и  базовым для информатики. Информацию наряду с веществом и энергией рассматривают в качестве важнейшей  сущности мира, в котором мы живем. Однако если задаться целью формально определить понятие «информация», то сделать это будет чрезвычайно сложно.

     В простейшем бытовом понимании с  термином «информация» обычно ассоциируются  некоторые сведения, данные, знания и т. п. Информация передается в виде сообщений, определяющих форму и представление передаваемой информации. Примерами сообщений являются музыкальное произведение; телепередача; команды регулировщика на перекрестке; текст, распечатанный на принтере; данные, полученные в результате работы компьютерной программы, и т. д. При этом предполагается, что имеются «источник информации» и «получатель информации».

     Сообщение от источника к получателю передается посредством какой-нибудь среды, являющейся в таком случае “каналом связи” (рис. 1). Так, при передаче речевого сообщения в качестве такого канала связи можно рассматривать воздух, в котором распространяются звуковые волны, а в случае передачи письменного сообщения (например, текста, распечатанного на принтере) каналом сообщения можно считать лист бумаги, на котором напечатан текст. 

     

     Рис. 1. Схема передачи информации 

     Человеку  свойственно субъективное восприятие информации через некоторый набор  ее свойств: важность, достоверность, своевременность, доступность и т.д. В этом смысле одно и то же сообщение, передаваемое от источника к получателю, может передавать информацию в разной степени. Так, например, вы хотите сообщить о неисправности компьютера. Для инженера из группы технического обслуживания сообщение “компьютер сломался” явно содержит больше информации, чем для вахтера. Но, в свою очередь, для инженера сообщение “не включается дисплей” содержит информации больше, чем первое, поскольку в большей степени снимает неопределенность, связанную с причиной неисправности компьютера. Как видно, одно и то же сообщение для различных пользователей несет различную информацию.

     Использование терминов “больше информации” или  “меньше информации” подразумевает  некую возможность ее измерения (или хотя бы количественного соотнесения). При субъективном восприятии измерение информации возможно лишь в виде установления некоторой порядковой шкалы для оценки “больше” -“меньше”, да и то субъективной, поскольку на свете немало людей, для которых, например, оба сообщения, использованных выше в качестве примера, вообще не несут никакой информации. Такое становится невозможным при введении объективных характеристик, из которых для информации важнейшей является количество. Однако, при объективном измерении количества информации следует заведомо отрешиться от восприятия ее с точки зрения субъективных свойств, примеры которых перечислены выше. Более того, не исключено, что не всякая информация будет иметь объективно измеряемое количество – все зависит от того, как будут введены единицы измерения. Не исключено и то, что при разных способах введения единиц измерения информация, содержащаяся в двух допускающих измерение сообщениях, будет по разному соотноситься. 

     2. Непрерывная и дискретная информация

     Чтобы сообщение было передано от источника  к получателю, необходима некоторая материальная субстанция – носитель информации. Сообщение, передаваемое с помощью носителя, назовем сигналом. В общем случае сигнал – это изменяющийся во времени физический процесс. Такой процесс может содержать различные характеристики (например, при передаче электрических сигналов могут изменяться напряжение и сила тока). Та из характеристик, которая используется для представления сообщений, называется параметром сигнала.

     В случае когда параметр сигнала принимает  последовательное во времени конечное число значений (при этом все они могут быть пронумерованы), сигнал называется дискретным, а сообщение, передаваемое с помощью таких сигналов -дискретным сообщением. Информация, передаваемая источником, в этом случае также называется дискретной. Если же источник вырабатывает непрерывное сообщение (соответственно параметр сигнала – непрерывная функция от времени), соответствующая информация называется непрерывной. Пример дискретного сообщения – процесс чтения книги, информация в которой представлена текстом, т.е. дискретной последовательностью отдельных значков (букв). Примером непрерывного сообщения служит человеческая речь, передаваемая модулированной звуковой волной; параметром сигнала в этом случае является давление, создаваемое этой волной в точке нахождения приемника – человеческого уха.

     Непрерывное сообщение может быть представлено непрерывной функцией, заданной на некотором отрезке [а, b] (см. рис. 2). Непрерывное сообщение можно преобразовать в дискретное (такая процедура называется дискретизацией). Для этого из бесконечного множества значений этой функции (параметра сигнала) выбирается их определенное число, которое приближенно может характеризовать остальные значения. Один из способов такого выбора состоит в следующем. Область определения функции разбивается точками x₁, x₂,... х_n, на отрезки равной длины и на каждом из этих отрезков значение функции принимается постоянным и равным, например, среднему значению на этом отрезке; полученная на этом этапе функция называется в математике ступенчатой. Следующий шаг – проецирование значений “ступенек” на ось значений функции (ось ординат). Полученная таким образом последовательность значений функции у₁, у₂, ... у_n. является дискретным представлением непрерывной функции, точность которого можно неограниченно улучшать путем уменьшения длин отрезков разбиения области значений аргумента.

Рис. 2. Процедура  дискретизации непрерывного сообщения

     Ось значений функции можно разбить  на отрезки с заданным шагом и  отобразить каждый из выделенных отрезков из области определения функции в соответствующий отрезок из множества значений (рис. 2). В итоге получим конечное множество чисел, определяемых, например, по середине или одной из границ таких отрезков.

     Таким образом, любое сообщение может  быть представлено как дискретное, иначе говоря последовательностью знаков некоторого алфавита.

     Возможность дискретизации непрерывного сигнала  с любой желаемой точностью (для  возрастания точности достаточно уменьшить  шаг) принципиально важна с точки  зрения информатики. Компьютер –  цифровая машина, т.е. внутреннее представление информации в нем дискретно. Дискретизация входной информации (если она непрерывна) позволяет сделать ее пригодной для компьютерной обработки.

     Существуют  и другие вычислительные машины –  аналоговые ЭВМ. Они используются обычно для решения задач специального характера и широкой публике практически не известны. Эти ЭВМ в принципе не нуждаются в дискретизации входной информации, так как ее внутреннее представление у них непрерывно. В этом случае все наоборот – если внешняя информация дискретна, то ее “перед употреблением” необходимо преобразовать в непрерывную. 

     3. Свойства информации

     Свойства  информации:

     • запоминаемость;

     • передаваемость;

     • преобразуемость;

     • воспроизводимость;

     • стираемость.

     Свойство запоминаемости – одно из самых важных. Запоминаемую информацию будем называть макроскопической (имея ввиду пространственные масштабы запоминающей ячейки и время запоминания). Именно с макроскопической информацией мы имеем дело в реальной практике.

     Передаваемость информации с помощью каналов связи (в том числе с помехами) хорошо исследована в рамках теории информации К. Шеннона. В данном случае имеется ввиду несколько иной аспект – способность информации к копированию, т.е. к тому, что она может быть “запомнена” другой макроскопической системой и при этом останется тождественной самой себе. Очевидно, что количество информации не должно возрастать при копировании.

     Воспроизводимость информации тесно связана с ее передаваемостью и не является ее независимым базовым свойством. Если передаваемость означает, что не следует считать существенными пространственные отношения между частями системы, между которыми передается информация, то воспроизводимость характеризует неиссякаемость и неистощимость информации, т.е. что при копировании информация остается тождественной самой себе.

     Фундаментальное свойство информации – преобразуемость. Оно означает, что информация может менять способ и форму своего существования. Копируемость есть разновидность преобразования информации, при котором ее количество не меняется. В общем случае количество информации в процессах преобразования меняется, но возрастать не может. Свойство стираемости информации также не является независимым. Оно связано с таким преобразованием информации (передачей), при котором ее количество уменьшается и становится равным нулю. 

     4. Измерение информации

     Определить  понятие “количество информации”  довольно сложно. В решении этой проблемы существуют два основных подхода. Исторически они возникли почти  одновременно. В конце 40-х годов XX века один из основоположников кибернетики американский математик Клод Шеннон развил вероятностный подход к измерению количества информации, а работы по созданию ЭВМ привели к “объемному” подходу.

Вероятностный подход

     Рассмотрим  в качестве примера опыт, связанный с бросанием правильной игральной кости, имеющей N граней (наиболее распространенным является случай шестигранной кости: N = 6). Результаты данного опыта могут быть следующие: выпадение грани с одним из следующих знаков: 1,2,... N.

     Введем  в рассмотрение численную величину, измеряющую неопределенность -энтропию (обозначим ее Н). Величины N и Н связаны между собой некоторой функциональной зависимостью:

H = f (N),                                                                       (1)

а сама функция f является возрастающей, неотрицательной и определенной (в рассматриваемом нами примере) для N = 1, 2,... 6.

     Рассмотрим  процедуру бросания кости более  подробно:

     1) готовимся бросить кость; исход  опыта неизвестен, т.е. имеется  некоторая неопределенность; обозначим ее H₁;

     2) кость брошена; информация об  исходе данного опыта получена; обозначим количество этой информации  через I;

     3) обозначим неопределенность данного  опыта после его осуществления  через H₂. За количество информации, которое получено в ходе осуществления опыта, примем разность неопределенностей “до” и “после” опыта:

I = H₁ – H₂                                                                   (2)

     Очевидно, что в случае, когда получен  конкретный результат, имевшаяся неопределенность снята (Н₂ = 0), и, таким образом, количество полученной информации совпадает с первоначальной энтропией. Иначе говоря, неопределенность, заключенная в опыте, совпадает с информацией об исходе этого опыта. Заметим, что значение Н₂ могло быть и не равным нулю, например, в случае, когда в ходе опыта следующей выпала грань со значением, большим “3”.

     Следующим важным моментом является определение  вида функции f в формуле (1). Если варьировать число граней N и число бросаний кости (обозначим эту величину через М), общее число исходов (векторов длины М, состоящих из знаков 1,2,.... N) будет равно N в степени М:

X=N^M.                                                                        3)

     Так, в случае двух бросаний кости с  шестью гранями имеем: Х=6²=36. Фактически каждый исход Х есть некоторая пара (X₁, X₂), где X₁ и X₂ – соответственно исходы первого и второго бросаний (общее число таких пар – X).

     Ситуацию  с бросанием М раз кости можно рассматривать как некую сложную систему, состоящую из независимых друг от друга подсистем – “однократных бросаний кости”. Энтропия такой системы в М раз больше, чем энтропия одной системы (так называемый “принцип аддитивности энтропии”):

f(6^M) = M ∙ f(6)

     Данную  формулу можно распространить и  на случай любого N:

F(NM) = M ∙ f(N)                                                              (4)

     Прологарифмируем  левую и правую части формулы (3): lnX=M ∙ lnN, М=lnX/1nM. Подставляем полученное для M значение в формулу (4):