Три подхода при измерении информации: структурный, статистический, семантический.

⇐ ПредыдущаяСтр 15 из 17Следующая ⇒

При структурном подходе измерение информации осуществляется простым подсчетом числа сообщений (информационных элементов), составляющих информационный массив, или количеством преобразований сообщений (связей между информационными элементами), или числом комбинаций, которые можно реализовать из этих сообщений (элементов). Этот подход применяется для оценки ёмкости информационных систем без учёта условий их применения. К таким системам относят средства формирования, передачи, обработки, преобразования и хранения сообщений.

При статическом подходе количество информации ставится в зависимость от вероятности появления сообщений. Такой подход позволяет оценить информационные возможности систем с учетом конкретных статистических свойств сообщений и помех. Подчеркнём, что статистическая теория передачи сообщений, называемая обычно (статистической) теорией информации, является в настоящее время наиболее развитым направлением в общей теории информации. Однако этот подход описывает далеко не все информационные явления даже в технических системах.

Семантический подход предназначен для учёта целесообразности, ценности, полезности, существенности и содержательности информации, для оценки эффективности логического опыта. Например, более ценной можно считать ту информацию, которая содержится в более короткой программе из возможных программ, ведущих к одной и той же цели из заданного исходного положения

Структурные меры информации; аддитивная мера Р. Хартли. Примеры подсчёта.

К структурным мерам информации относятся: геометрическая, комбинаторная и аддитивная.

Геометрическая мера информации употребляется в измерении «длины линии», «площади» или «объёма» данного информационного массива (комплекса) в единицах дискретных элементов (сообщений) этого массива. Этой мерой обычно измеряют информационную емкость массива, комплекса и т.п.

Комбинаторная мера информации употребляется для оценки возможностей систем, в которых передача и хранение информации осуществляется при помощи различных комбинаций из набора сообщений. Заметим, что сопоставление сообщениям из большого их множества (алфавита) комбинаций из других сообщений меньшего, множества (алфавита) является одним из способов кодирования, а сами комбинации (группы сообщений, символов) обычно называются кодовыми комбинациями или кодовыми словами.

Аддитивная мера информации или «мера Хартли» находит широкое применение. Для рассмотрения этой меры введём понятия глубины и длины кодового слова или числа.

Глубина т кодового слова или числа - это количество различных сообщений (элементов, состояний системы, знаков, символов), содержащихся в принятом алфавите. Глубина числа соответствует основанию позиционной системы счисления.

Длина п кодового слова или числа - это количество повторений символов алфавита для образования данного кодового слова или числа. Длина числа соответствует принятой разрядности системы счисления. Таким образом, мера Хартли удобна благодаря свойству аддитивности, которое обеспечивает возможность сложения и пропорциональности количества информации к длине кодового слова.

Для определения количества информации этой мерой берётся не количество разных кодовых слов или состояний системы N, а его двоичный логарифм, т.е. J=log₂N. Если N=mⁿ, то выражение можно записать в виде J=log₂mⁿ=n*log₂m, где log₂m=K – постоянная величина. Таким образом, кол-во информации в битах пропорциональное длине кодового слова, так как J=K*n.

Понятие информации по Р. Хартли.

В соответствии с теорией Хартли информация - это особого пода логическая инструкция, набор указаний или программа для выбора, поиска, идентификации определённого сообщения (состояния) из некоторого их множества. Заметим, что слово «идентичный» означает «тождественный», «одинаковый». Соответственно идентификация - это установление тождества, одинаковости, т.е. отождествление, приравнивание, уподобление. Ниже будет показано, что «информация по Хартли» - это лишь один из двух типов информации, так называемая «идентифицирующая информация», в отличие от «описательной». Однако здесь важно заметить, что Хартли определил информацию как определённого рода преобразование, переводящее приёмник из одного состояния в другое.

«Информация по Хартли» - это программа по выбору, поиску, идентификации объекта «методом последовательного деления на два». Такой метод идентификации называют также дихотомической или бинарной процедурой поиска.

Дата добавления: 2018-05-12; просмотров: 822; Мы поможем в написании вашей работы!

Поделиться с друзьями:

⇐ Предыдущая 8 9 10 11 12 13 141516 17 Следующая ⇒

Мы поможем в написании ваших работ!