Читать онлайн «Информация и энтропия в кибернетике»

МИНИСТЕРСТВО ВЫСШЕГО И СРЕДНЕГО СПЕЦИАЯЬНОГО ОБРАЗОВАНИЯ РСФСР Ленинградский ордена Ленина и ордена Трудового Красного Знамени государственный университет Ю. П. Петров ИНФОРМАЦИЯ И ЭНТРОПИЯ В КИБЕРНЕТИКЕ Учебное пособие Ленинград 1989  Печатается по постановлению Редакционно-издательского совета Ленинградского университета Петров Ю. П. Информация и энтропия в кибернетике: Учеб. пособие* Л*, 1989. В книге изложен генезис представлений об информации в систе­ мах управления и рассмотрена ее связь с энтропией физики» Рас­ смотренные положения применяются далее для количественных оце­ нок информации в различных системах и прежде воего - в системах управления. Рецензенты: д -р ф из. -мат. наук, проф. В. Ф. Демьянов (Ленингр. ун~т), кавд*техн. наук, доц. В. Т. Шароватов (Лешшгр. механ. ин-т) Ленинградский университет, 1989  В в е д е н и е В учебном пособии "Информация и энтропия в кибернетике” рас­ сматриваются основные фундаментальные вопросы, лежащие в основе кибернетики. Хорошо известно, что управление невозможно без информации. Но что такое информация? Достаточно ли наги житейского представле­ ния об информации как о некоторых знаниях, сообщениях? Согласуют­ ся ли с этими представлениями научные определения информации? В научно-популярной литературе много раз встречается отож­ дествление информации с отрицательной энтропией. Но что такое эн­ тропия? Действительно ли она является мерой неупорядоченности? В чем сходство и в чем принципиальное различие между энтропией фи­ зики и энтропией распределения вероятностей в кибернетике? Можно ли отождествлять информацию с отрицательной энтропией? Вот тот круг вопросов, от ответа на которые зависит правильное понимание кибернетики и смежных с нею дисциплин - теории систем управления, передачи информации и т . д . Этот крут вопросов рассматривавтся в настоящей книге. Книга начинается с анализа понятия энтропии и ее сеязи с обратимостью и необратимостью протекающих в 'природе-': процессов. Анализируется, какими путями возникло представление об энтропии как о мере неупорядоченности и показывается, почему это представ­ ление нуждается в существенном уточнении. Рассмотрен также вопрос о справедливости принципа минимума производства энтропии в стационарном режиме открытой си стем :, по­ скольку этот принцип неоднократно использовался при анализе слож­ ных систем управления. Использовать этот принцип надо осторожно, поскольку его некритическое применение мажет приводить к ошибкам. Далее рассматривается понятие информации, анализируются раз­ личные определения информации, описываются методы вычисления ко­ личества информации. Помимо наиболее известной формы информации - статистической информации - дается представление о других инте­ ресных формах информации - целевой, облегчающей достижение како“ - либо цели, а также смысловой информации, наиболее близко подходя­ щей к тому, что обычно называют "знанием", "сообщением".