Negentropi - Negentropy

I informasjonsteori og statistikk , negentropi blir brukt som et mål for avstanden til normalitet. Konseptet og uttrykket " negativ entropi " ble introdusert av Erwin Schrödinger i sin populærvitenskapelige bok What is Life fra 1944 ? Senere forkortet Léon Brillouin uttrykket til negentropi . I 1974 foreslo Albert Szent-Györgyi å erstatte begrepet negentropi med syntropi . Dette begrepet kan ha sin opprinnelse på 1940 -tallet med den italienske matematikeren Luigi Fantappiè , som prøvde å konstruere en enhetlig teori om biologi og fysikk . Buckminster Fuller prøvde å popularisere denne bruken, men negentropi er fortsatt vanlig.

I et notat til Hva er livet? Schrödinger forklarte bruken av denne setningen.

... hvis jeg hadde sørget for dem [fysikerne] alene, burde jeg ha latt diskusjonen slå på gratis energi i stedet. Det er den mer kjente forestillingen i denne sammenhengen. Men dette svært tekniske uttrykket virket språklig for nær energi for å gjøre den gjennomsnittlige leseren levende til kontrasten mellom de to tingene.

Informasjonsteori

I informasjonsteori og statistikk brukes negentropi som et mål på avstand til normalitet. Av alle fordelinger med et gitt gjennomsnitt og varians, er den normale eller gaussiske fordelingen den med høyest entropi. Negentropi måler forskjellen i entropi mellom en gitt fordeling og den gaussiske fordelingen med samme gjennomsnitt og varians. Negentropi er derfor alltid ikke -negativ, er invariant av enhver lineær inverterbar endring av koordinater og forsvinner hvis og bare hvis signalet er Gaussisk.

Negentropi er definert som

${\ displaystyle J (p_ {x}) = S (\ varphi _ {x})-S (p_ {x}) \,}$

hvor er differensialentropien til den gaussiske tettheten med samme gjennomsnitt og varians som og er differensialentropien til : ${\ displaystyle S (\ varphi _ {x})}$${\ displaystyle p_ {x}}$${\ displaystyle S (p_ {x})}$${\ displaystyle p_ {x}}$

${\ displaystyle S (p_ {x}) =-\ int p_ {x} (u) \ logg p_ {x} (u) \, du}$

Negentropi brukes i statistikk og signalbehandling . Det er relatert til nettverket entropi , som brukes i uavhengig komponentanalyse .

Negentropien til en fordeling er lik Kullback - Leibler -divergensen mellom og en gaussisk fordeling med samme gjennomsnitt og varians som (se Differensiell entropi § Maksimering i normalfordelingen for et bevis). Spesielt er det alltid ikke -negativt. ${\ displaystyle p_ {x}}$${\ displaystyle p_ {x}}$

Korrelasjon mellom statistisk negentropi og Gibbs 'frie energi

Willard Gibbs '1873 tilgjengelige energi ( gratis energi ) graf, som viser et plan vinkelrett på aksen til v ( volum ) og passerer gjennom punkt A, som representerer kroppens opprinnelige tilstand. MN er delen av overflaten av spredt energi . Qε og Qη er seksjoner av planene η = 0 og ε = 0, og derfor parallelle med aksene til henholdsvis ε ( intern energi ) og η ( entropi ). AD og AE er energien og entropien til kroppen i sin opprinnelige tilstand, AB og AC den tilgjengelige energien ( Gibbs energi ) og dens kapasitet for entropi (mengden som kroppens entropi kan økes uten å endre energien til kroppen eller øke volumet).

Det er en fysisk mengde som er nært knyttet til fri energi ( fri entalpi ), med en enhet for entropi og isomorf til negentropi kjent i statistikk og informasjonsteori. I 1873 laget Willard Gibbs et diagram som illustrerer begrepet fri energi som tilsvarer fri entalpi . På diagrammet kan man se mengden som kalles kapasitet for entropi . Denne mengden er mengden entropi som kan økes uten å endre en indre energi eller øke volumet. Med andre ord er det en forskjell mellom maksimal mulig, under antatte forhold, entropi og dens faktiske entropi. Det tilsvarer nøyaktig definisjonen av negentropi vedtatt i statistikk og informasjonsteori. En lignende fysisk mengde ble introdusert i 1869 av Massieu for den isotermiske prosessen (begge mengdene skiller seg bare med et figurtegn) og deretter Planck for den isotermiske - isobariske prosessen. Mer nylig har Massieu-Planck termodynamiske potensial , også kjent som fri entropi , vist seg å spille en stor rolle i den såkalte entropiske formuleringen av statistisk mekanikk , brukt blant andre i molekylærbiologi og termodynamiske ikke-likevektsprosesser.

${\ displaystyle J = S _ {\ max} -S =-\ Phi = -k \ ln Z \,}$

hvor:

${\ displaystyle S}$er entropi

${\ displaystyle J}$ er negentropi (Gibbs "kapasitet for entropi")

${\ displaystyle \ Phi}$er Massieu -potensialet

${\ displaystyle Z}$er partisjonsfunksjonen

${\ displaystyle k}$den Boltzmanns konstant

Spesielt matematisk er negentropien (den negative entropifunksjonen, i fysikk tolket som fri entropi) det konvekse konjugatet til LogSumExp (i fysikk tolket som den frie energien).

Brillouins negentropiske informasjonsprinsipp

I 1953 utledet Léon Brillouin en generell ligning som sier at endringen av en informasjonsbitverdi krever minst energi. Dette er den samme energien som arbeidet til Leó Szilárds motor produserer i den idealistiske saken. I boken utforsket han dette problemet ytterligere og konkluderte med at enhver årsak til denne bitverdien endres (måling, beslutning om et ja/nei spørsmål, sletting, visning, etc.) vil kreve samme mengde energi. ${\ displaystyle kT \ ln 2}$

Se også

• Exergy
• Gratis entropi
• Entropi i termodynamikk og informasjonsteori

Merknader