Энтропия, ықтималдық және информация

Энтропия, ықтималдық және информация

Н.Ильясов – п.ғ.к., доцент, С.С.Сүгіров – аға оқытушы, М.Н.Ақынов – планетарий меңгерушісі

(ҚазМемҚызПУ, Алматы қ-сы)
Аннотация: энтропияны оқыту ерекшеліктері және оның информация мен ықтималдық арасындағы байланысы қарастырылады, информациялық энтропия ұғымы енгізіледі. Ашық жүйелердегі өздігінен реттелу дәрежесінің белгі-шарты анықталады.

Түйін сөздер: энтропия, негэнтропия, фазалық көлем, информациялық энтропия, дит, нат.
Физика заңдарының, заңдылықтарының түбірінде аса маңызды физикалық шамалардың сақталу заңдары жатады. Энтропия қазіргі ғылымдағы ең іргелі, әрі универсал ұғым. Ол реал процестерде сақталмайды не өседі, не кемиді. Физикалық әлемнің даму бағытын термодинамиканың 2-ші заңы анықтайды - оқшау жүйеде уақытқа сәйкес энтропия ылғи өсіп отырады. Тұйық жүйелерде энтропияның өсу себебі осы уақытқа дейін түсініксіз болып келді. Мұны, табиғаты тәуелсіз, барлық физикалық құбылыстарға тән әмбебап ұғымдарды қолданып жалпы табиғат заңдылықтарын тағайындайтын, бейсызық физика біраз айқындады. Жылу қозғалтқыштарының жұмыс істеу принциптерін зерттеулер, кезкелген жүйедегі табиғи нақты процестер, оның энергиясының жоғалуымен, шашырауымен қабаттаса жүретінін айқындады. Осының нәтижесінде, тұйық жүйеде энтропия артуы, бір энергия түрінің, оның басқа түрлеріне ауысуын сипаттайды және осы айналу қабілеттілігіне сәйкес белгілі дәрежені иеленеді.

Физика мен химияда, бұл тұрғыдан қарағанда, энергияның басқа көп түрлеріне айналу мүмкіндігі мол, механикалық және электромагниттлік энергиялар ең жоғарғы сатылы энергиялардың қатарына жатады. Ал, айналуы Карно принципімен шектелетін жылу энергиясы ең төменгі сатыны иеленсе, аралық орынды, жылулық құбылыстармен қабаттаса жүретіндігіне байланысты, химиялық энергия алады. Сондықтан, энтропия ұғымы да ашық күрделі жүйелердің маңызды сипаттамасының бірі және ол: а) статистикалық бейнелеудегі анықталмағандық өлшемі; в) ашық жүйелердегі тепе-теңсіз күйлердің реттілігінің салыстырмалы өлшемі; с) тірі және өлі табиғаттағы әртүрліліктің өлшемі [1].

Физик Э.Шредингер энтропияның өзін емес, оған тең теріс шаманы пайдалануды ұсынды. Информациялық теорияның негізін қалаушылардың бірі Л.Бриллюэн теріс энтропияны негэнтропия () деп атады. Негэнтропия энергияны сапалық тұрғыда сипаттайды, ал Карно принципі энергияның құнсыздануын, құлдилануын білдіреді. Механикалық жұмыс жасауға қабілетті барлық жүйелер (мысалы, биіктегі дене, созылған резина, сығылған газ, зарядталған батарея және т.б.) негэнтропия көздері және олар жұмыс жасай отырып, өздерінің энергия қорын жоғалтады [2].

Статистикалық физика мен информациялық теориялардың даму барысында энтропияның анықтамасына елеулі өзгерістер енгізілді. Алғаш рет ол термодинамикада энергияның қайтымсыз шашырауының өлшемі ретінде енгізілген еді және толық дифференциал түрінде былай анықталды:

мұнда - жүйенің алған жылу мөлшері, - абсолют температура.

(1) өрнек, энтропияның физикалық мағынасын толық аша алмайды, ол тек аддитивтік тұрақтыға дейін дәл анықталған. Температура, жүйеге жылу әкелу немесе әкету процестерінде жүзеге аспайтын, термодинамикалық тепе-теңдіктегі денелер жүйесінің ішкі күйін сипаттайтын болғандықтан, термодинамикалық энтропияны (1) тікелей өлшейтін құралдар, энтропометрлер, жоқ. Физик З.Жанабаевтың пайымдауынша, энтропияның термодинамикалық анықтамасы (1), тепе-теңсіз құбылыстардың әр түріне тән ерекшелігін ескермейді [3].

Энтропияның физикалық мәнін толық ашатын және соған сәйкес формуласын ұсынғандар Больцман мен Планк. Газдың тығыздығын оның молекулаларының потенциалдық энергиясымен байланыстыратын қатынас Больцман теңдеуі деп аталады [4]:

Мұнда, газдың тығыздығын, белгілі бір энергетикалық күйдегі молекуланы табу ықтималдығымен алмастыру мынаны береді: немесе . Бұл жерде - термодинамикалық тепе-тең күйдегі тең ықтималды микрокүйлер саны. Осыдан, термодинамикалық энтропияның физикалық энтропиямен сәйкестігін көрсететін формула алынады:

Бұл формула энтропияны ықтималдықпен, яғни, бейберекеттікпен байланыстырады. Оның сол жағында, кезкелген жүйе күйінің өздігінен өзгеруін сипаттайтын термодинамиканың екінші бастамасының негізгі ұғымы, ал оң жағында - қоршаған ортадағы энергия шашырауының, оның қоршаған ортадағы құнсыздануының өлшемі болып табылатын, бейберекеттікпен байланысқан шама тұр. Олай болса, микрокүйлердің мағынасы, жүйенің макроскопиялық сипаттамаларын өзгертпей, ондағы қайта құрылуларды жүзеге асыруға мүмкіндік беретін тәсілдер саны.

Мысалы, жеке атом, қайсыбір жолмен, энергетикалық қозған күйге ауысты. Бұл кезде атомда қозудың таралуы бір ғана жолмен жүзеге асады, яғни, . Ал, бірдің логарифмі нөлге тең, демек, , себебі, таралмайтын энергияның белгілі бір нүктедегі шоғыры нөлдік энтропияға ие. Егер қозу жүз атомнан тұратын жүйеге берілсе, онда оның таралуы жүз тәсілмен жүзеге асады, яғни, .Осыдан . Сонда, жүйенің энтропиясы өсті, оның бейберекеттігі артты, себебі, қозған атомның қай жерде екенін дәл көрсету мүмкін емес. Егер жүйе өзара әсерлесе алатын екі бөліктен тұрса, оларда жылулық тепе-тендік орнағанда энтропия максимумге жетеді. Бұл күй, микрокүйлердің ең көп тәсілімен жүзеге асады және тәсілдер саны көбейген сайын, оның ықтималдығы артады.

(3) формуладан, егер температура “джоульмен” өлшенсе, , яғни, энтропия өлшемсіз шама болады. Олай болса, тепе-тең күйде барлық микрокүйлердің үлесі бірдей болғандықтан . Осыдан, Больцманның физикалық энтропиясы (3) мына түрде жазылады:

Статистикалық физикада энтропия ұғымы ашық күрделі жүйелердің маңызды сипаттамасының бірі болып табылады және ол жүйе бөлігінің макроскопиялық күйінің статистикалық үлесінің логарифмі ретінде енгізіледі:

мұнда – фазалық (кезеңдік) көлем, – Планк тұрақтысы, – еркіндік дәрежелер саны. Классикалық физикада жоқ және кезкелген тұрақты фазалық көлемді өлшемсіздендіру энтропияның бірмәнді емес анықтамасына әкеледі. (5) формуланың түрі күрделі жүйенің энтропиясының аддитивтік қасиетке ие болу талабынан туындайды:

Энтропия түсінігі кездейсоқ уақиғалардың ықтималдықтарының таралуына байланысты. Энергияның тең ықтималды таралуында, жүйе бөліктерінің жүзеге асу ықтималдығы былай анықталады: , яғни, Больцманның физикалық энтропиясының өрнегі (4) алынады. Бұл формула, оның орта ықтималдық мағынасына сәйкес былай жазылады

Осы анықталған энтропия информациялық энтропия деп аталады [3].

Соңғы зерттеулер, табиғаттағы және қоғамдағы барлық дерлік заңдылықтардың, информациялық сипаты болатынын ашты, оның әлемдегі қозғалыстар мен өзгерістердің ұйтқысы екендігі дәлелдеді. Информацияның табиғаты,мағынасы жөніндегі ғылыми түсініктердің қарқынды дамуына, материя мен оның қозғалысының өзқауым теориясының - синергетиканың маңызы ерекше. Себебі, информация әлемнің кезкелген жүйесінде жүретін өзқауым процесінің қозғалтушы күші. Информация барлық эволюциялық процестердің негізгі кезеңдерін, бағыттарын, осы кезде түзілетін жаңа табиғи, әлеуметтік және экономикалық құрылымдардың орныктылығы мен дамуын қамтамасыз етеді.

Информация қайсыбір процестін жүру жолының бірнеше мүмкіндігінің ішінен біреуін таңдаудың ықтималдық өлшемі ғана емес, ол жүйенің ішкі құрылысының сан қырлылығының белгісі, бейберекеттікке қарсы тұратын реттілік өлшемі. Синергетикалық тұрғыда, бейберекеттік тек құрылымның бұзылуы, ыдырауы ғана емес, ол жаңа құрылымдардың түзілуін, процестер мен құбылыстардың жүруін қамтамасыз ететін негізгі шарт. Демек, бейберекеттіктен, күрделілігі мен реттілігі бұрынғыдан да жоғары, құрылымдар түзілуіндегі басты роль информацияға жатады.

Ғылыми-техникалық прогрестің, соның ішінде, бұқаралық ақпарат құралдар мен басқада коммуникациялардың дамуы және берілетін мәліметтер көлемінің қарқынды түрде артуына байланысты, информация әртүрлі аспектіде, әртүрлі деңгейлерде талқыланатын ең көкейкесті ғылыми проблемаға айналды. Пригожин И., Хакен Г., Николис Г., Климонтович Ю.Л., Жаңабаев З.Ж. және т.б. ғалымдар, қайсыбір жағдайларда, ашық күрделі жүйелерді зерттеуде, знтропиядан гөрі Шеннон мағынасындағы информация ұғымын пайдалы екендігін тағайындады.

Сонымен информация деген не? Көп хабар әкелетін информацияны аз мәлімет беретін информациядан ажырататын белгі-шарт қалай тағайындалады? Бұны түсіну үшін, екі хабарды салыстырайық: А – "Күн батады" және В – ертең "Күн тұтылады". Өзінен-өзі түсінікті көпшілік "Күн батады" деген хабарды жаңалық ретінде қабылдамайды, ал "Күн тұтылады" деген хабарда әсер көп. Ол қоғамда белгілі қызығушылық тудырады (газеттерде жарияланады, теледидардан хабарланады, маман–ғалымдармен кездесу өткізіледі және т.б.). Бұдан, орындалған жағдайда, ықтималдығы аз уақиғалар барынша көп информация көзі бола алады деген қорытынды жасалады.

Сондықтан, информация мен уақиға ықтималдығының тәуелділігі мына қатынаспен өрнектеледі: . Белгісіз функциясының түрін, информацияға аддитивтік ереже қолданылғанда ғана, табуға болады. Яғни, толық информация екі когерентті көздерден, 1 және 2 келетін, информациялардың қосындысына тең болуы тиіс. Бұл шарт орындалуы үшін функция мынадай қасиетке ие болуы керек:

,

мұндағы – екі тәуелсіз уақиғалардың бір мезгілде жүзеге асу ықтималдығы. Мұндай қасиетке ие бірден-бір қарапайым математикалық функция логарифмдік функция. Сондықтан,

Екі бір мезгілде жүретін тәуелсіз уақиғалардың жалпы ықтималдығы, олардың жеке-жеке ықтималдықтарының көбейтіндісіне тең. Демек, информация мөлшері жиын өлшемі ретінде аддитивті қасиетке ие болуы тиіс.

(7) және (8) формулаларды салыстырудан информациялық энтропия жалпы информацияның орта ықтимал мәнін анықтайтындығы көрінеді. Жүйені құрайтын бөліктердің тең ықтималды таралуында, оның анықталмаушылығы максимумге жетеді, яғни, жүйе туралы барлық информация жойылып, ол энтропияға айналады.

Информацияның таралуы анықталмағандықтың кемуімен қабатт жүргендіктен, информация мөлшерін жоғалған анықталмағандык мөлшерімен, яғни, энтропиямен өлшеуге болады:

(10)

индексі “априори” (тәжірибеге дейін), ал “апостериори” (тәжірибеден кейін) деген мәндерді білдіреді. Осы себептен ғылыми әдебиеттерде (8)-ші өрнек кейде информация (егер ол пайда болса), ал кейде энтропия (егер ол жоғалса) деп аталады.

Өзқауым жүйелердің әмбебап қасиетіне: оның иерархиялық деңгейлерінің өзұқсастығы; физикалық шама ретінде саналатын, энергияның үздіксіз мәндерін алу мүмкіндігін тудыратын, масштабты инварианттық сипаттамасы жатады. Бұндай ахуалдар, күй функцияларының арасындағы байланыс жүзеге асатын (мысалы энергия мен энтропияның), күшті әсерлі динамикалы-информациялық жүйелерде (турбуленттік орта, биологиялық объектілер және т.б.) байқалады.

(8) өрнекке сәйкес, құрылымның жүзеге асу ықтималдығын үздіксіз айнымалы шаманың функциясы - информация деп санауға болады: . Ықтималдық, интегралдау шектерін анықтау облысына сәйкес, оның тығыздығының таралу функциясы арқылы өрнектеледі:

, (11)

мұнда интегралдау шектері мынадай өзгеру интервалдарына, , , сәйкес келеді. Бұл қатынасты мынадай функция қанағаттандырады:

Информацияны жүзеге асыру ықтималдығының функциясы ықтималдық тығыздығының функциясымен сәйкес. Информация, өзұқсас жүйенің кезкелген иерархиялық деңгейіне тән оның ажыратылмайтын сипаттамасы болып табылады, яғни, жүйенің бөлігі, тұтас жүйе туралы толық информация бере алады. (12) өрнекті ескеріп және дербес интегралдау әдісін пайдаланып өзұқсас жүйелердің информациялық энтропиясын мына түрде жазуға болады:

Өзұқсастық, яғни, әртүрлі масштабтағы қайталану, қайсыбір сипатты функцияның өзінің аргументімен тең екендігін білдіреді. Сондықтан, өзұқсастықтың белгі-шарты ретінде, қозғалмайтын нүктелеріндегі ықтималдық функциясының сипаттамалық мәндері мен информациялық энтропиясы алынады. Яғни, өзұқсастық өзқауым процесінің сипатты функцияларының қозғалмайтын нүктелері болатынын білдіреді:

“Алтын қиманы” анықтайтын Фибоначчи саны да бейнеленудің шегі.

Фибоначи саны динамикалық бейберекеттік теориясында, ғылымның басқа салаларында “ең нашар” (заңдылығы жоқ) иррационал сан ретінде қолданылады. Күрделі жүйенің екі шеткі күйлерін, кездейсоқ информациялық және орталанған энтропиялық , сипаттауға мүмкіндік беретін сандары, Фибоначчи санының аналогтары болып табылады.

1. 
   Пригожин И., Стенгерс. И. Порядок из хаоса. М.: Прогресс, 1986. – 256 с.
   
2. 
   Хакен Г. Информация и самоорганизация. М.: Мир, 1991. – 240 с.
   
3. 
   Жаңабаев З.Ж., Ильясов Н., Темірқұлова Н.И. Бейсызық физика практикумы. Алматы: “Қазақ университеті”, 2003. – 124 б..
   
4. 
   Ильясов Н. Жалпы физика курсы. /молекулалық физика. бейсызық физика. Алматы: “Білім”, 2003. – 352 б.
   

Резюме

In the paper of looktug studing teatures entropy: enter of information entropy, withe comunication in information and probability; the subject critery of organizations opering systems.