Energie und Information - Hans-Joachim Mascheck 1924

Wenn wir im Alltag das Wort „Energie“ benutzen, dann hat das mit dem physikalischen Energiebegriff oft nur wenig gemeinsam. Ein Beispiel dafür ist die Aussage, dass ein Mensch „Energie“ besitze oder „energisch“ sei. Näher am physikalischen Energiebegriff liegt die Verwendung des Wortes „Energie“ in den Zusammensetzungen „Energieverbrauch“, „Elektroenergie“, „Kernenergie“ usw. Aber auch hier ist ein wichtiger Unterschied zu beachten: Die physikalische Größe „Energie“ kann nicht verbraucht werden, für sie gilt der Energieerhaltungssatz. Die physikalische Größe Energie ist ein Maß, das nichts über die Form oder den Gebrauchswert der Energie aussagt – dieses Maß ist auf die praktisch nutzbaren Formen Elektroenergie oder chemische Energie von Brennstoffen ebenso anwendbar wie auf die Energie in der nutzlosen Abwärme oder der Bewegung der Moleküle kalter Luft. Zum praktischen Begriff der Energie dagegen gehört fast untrennbar dazu, dass diese Energie irgendetwas bewirken kann.

Dieser Hinweis auf einen Sachverhalt, der vielen nach langer Bekanntschaft und Vertrautheit mit den unterschiedlichen Verwendungen des Wortes „Energie“ durchaus geläufig ist, mag vielleicht überflüssig erscheinen. Er ist aber ein wichtiger Ausgangspunkt für die Klärung der unterschiedlichen Bedeutungen der heute in den verschiedensten Zusammenhängen verwendeten Bezeichnung „Information“, darunter auch der sehr abstrakten mathematisch-physikalischen Größe, die in der Informatik und in der statistischen Physik (Thermodynamik) eine Rolle spielt.

Im Alltag bezeichnet man als „Information“ nur das, was eine für den Empfänger (oder wenigstens für bestimmte Empfänger) bedeutungsvolle Nachricht enthält. Es scheint aus dieser Sicht völlig unsinnig zu sein, die Übermittlung nicht deutbarer wirrer Texte oder Bilder als Information zu bezeichnen. Doch jede Übermittlung von Informationen ist an bestimmte physikalische Voraussetzungen gebunden, und bei der Untersuchung dieser Voraussetzungen, die letztlich, wie wir sehen werden, zu sehr tiefen Einsichten in die Bedingungen für den Ablauf aller Naturprozesse führt, ist es notwendig, von allem Nichtphysikalischen zu abstrahieren, d. h. insbesondere auch von allen Fragen der speziellen praktischen Bedeutung des Übermittelten, und sich der Frage zuzuwenden, ob es bei diesen Vorgängen wichtige messbare Eigenschaften von allgemeiner Bedeutung gibt.

Den Ausgangspunkt solcher Untersuchungen bildete die Annahme, dass der Empfänger zwar weiß, welche Nachrichten zu erwarten sind – z. B. ob der Absender eine Prüfung bestanden hat oder nicht oder welche Messwerte er von einem Geber auf Grund des Messbereichs und der Messgenauigkeit er überhaupt erwarten kann -, aber die Antwort – in diesem Fall den Prüfungsausgang oder den Messwert – noch nicht kennt. Diese Unkenntnis soll durch die Übermittlung der Information beseitigt werden. Diese entscheidet darüber, welcher der jeweils möglichen Fälle vorliegt. Als Maßeinheit für die quantitative Bestimmung der Unkenntnis und der zu ihrer Beseitigung erforderlichen Information führte bereits Hartley (1928) die Binärentscheidung, das Bit ein. Man erhält eine Angabe für die Größe der Ungewissheit, indem man feststellt, durch wieviel mit ja oder nein zu beantwortende Fragen man diese beseitigen kann. Im Falle des Prüfungsausgangs beträgt die Ungewissheit offensichtlich 1 Bit, für Messwerte zwischen 0 und 1,023 wären es bei einer Genauigkeit von 0,001 (d. h. 1024 Möglichkeiten) gerade 10 Bit.

Diesen Hartleyschen Ansatz nutzte Shannon (1948) bei der Shaffung der Grundlagen für die mathematische Informationstheorie, die.seither als Spezialgebiet der Wahrscheinlichkeitstheorie von namhaften Mathematikern nach allen Richtungen hin ausgearbeitet worden ist. Sie bildet die Grundlage für die Ausarbeitung immer effektiverer Kodierungsverfahren, ohne die die heutigen Übertragungsleistungen im Multimediabereich undenkbar wären. Von ihr gibt es Verbindungen zur statistischen Physik und zu thermodynamischen Evolutionsprozessen, deren Tragweite heute nur erahnt werden kann. Bedauerlicherweise findet man in der Literatur viele Autoren (vor allem Philosophen, aber auch einige Vertreter der angewandten Informatik), die diese Erkenntnisse vollständig ignorieren und damit ihren Lesern einen sehr schlechten Dienst erweisen. Sie sehen in der Einführung des Bit durch Hartley (1928) und den in enger Beziehung dazu stehenden Binärzahlen das Wesentliche der Informationstheorie und Informatik. Tatsächlich handelte es sich bei der Übernahme des Hartleyschen Ansatzes durch Shannon nur darum, für die mathematische Behandlung der Information überhaupt eine Maßeinheit einzuführen, wozu auch jedes andere Zahlensystem (z. B. das dezimale) hätte genommen werden können. Das binäre hat natürlich einige Vorzüge, vor allem auch bei der technischen Realisierung von Rechnern. Das ist jedoch eine rein praktische Frage. Aus mathematischer Sicht ist das binäre System in keiner Weise vor anderen ausgezeichnet. Das Bit ist nur eine von vielen denkbaren Maßeinheiten für die Messung von Information.

Shannon (der nach Meinung mancher nur den Hartleyschen Ansatz mathematisierte) erkannte den statistischen Charakter des Informationsmaßes und formulierte die Beziehung zwischen der in einem Datenstrom enthaltenen Information (man könnte auch sagen: der Entscheidungsmenge) und den Wahrscheinlichkeiten für das Auftreten der einzelnen Zeichen in diesem Datenstrom. Er bezeichnete dieses Informationsmaß als Entropie, weil seine Formel bis auf einen konstanten Faktor, der nur von der an sich willkürlichen und, wie schon gesagt, aus mathematischer Sicht bedeutungslosen Wahl der Maßeinheit (Bit) abhängt, mit der quantentheoretischen Formulierung der Boltzmannschen Entropie der statistischen Mechanik (Thermodynamik) übereinstimmt. Bald danach wurden auch theoretische Brücken von der Informationstheorie zur statistischen Physik geschlagen (Tribus 1961, Mascheck 1980, Leuschner 1988).

Der Ablauf aller natürlichen Prozesse einschließlich der Entwicklung des Lebens wird durch die beiden Hauptsätze der Thermodynamik bestimmt. Der erste Hauptsatz ist der Satz von der Erhaltung der Energie, der zweite ist der Entropiesatz. Dieser besagt, dass in der Entropiebilanz bei allen natürlichen Vorgängen ein positives Quellglied auftritt, und bestimmt damit die Richtung der Entwicklung. Da die thermodynamische Entropie auch als Informationsentropie aufgefasst werden kann (und aufgefasst wird – der Umrechnungsfaktor ist nach Brillouin 1 kJ/K = 1,045·10²⁶ Bit) und Information (wegen ihrer Bedeutung auch außerhalb der Thermodynamik) offensichtlich der allgemeinere Begriff ist, kann man den zweiten Hauptsatz als Informationssatz bezeichnen. Die beiden Größen, die nach den Hauptsätzen der Thermodynamik gemeinsam den Ablauf alles Geschehens bestimmen, sind somit Energie und Information.

Viele, die sich mit den verschiedenen Aspekten der heutigen „Informationsgesellschaft“, mit der wissenschaftlich-technischen Information im Bibliothekswesen, mit der Informationstechnologie, mit der angewandten Informatik u. a. informationsbezogenen Spezialgebieten befassen, stellten fest, dass der Shannonsche Informationsbegriff für ihre Zwecke völlig untauglich ist. Sie bemängelten vor allem die Nichtberücksichtigung semantischer Aspekte. Zuweilen wurden sogar für die eigene Definition des Informationsbegriffs Ausschließlichkeitsansprüche gestellt ohne Rücksicht darauf, dass bei dem heutigen Umfang des Wissens und der ständig wachsenden Zahl von Spezialdisziplinen die Verwendung gleicher Worte und Zeichen für unterschiedliche Begriffe nur durch die durchgängige Verwendung sehr langer und umständlicher Bezeichnungen vermieden werden könnte und daher gang und gäbe ist.

Fragt man sich, warum es in dem analogen Fall der Energie keinen solchen Streit um die Bedeutungsunterschiede in der Physik (als Größe, bei der von jeder weiteren Eigenschaft abgesehen wird), in verschiedenen Zweigen der Technik, in der Ökonomie (z. B. „erneuerbare Energien“) u. and. Anwendungsgebieten gibt, so wird man eine Reihe von Gründen finden, deren wichtigster sein dürfte, dass seit langem die Abgrenzung zwischen den verschiedenen Energiebegriffen und vor allem auch ihre gegenseitigen Beziehungen völlig geklärt sind. Beispielsweise wird aus ökonomischer Sicht bei der Elektroenergieerzeugung Brennstoff verbraucht und Elektroenergie geliefert. Aus physikalischer Sicht handelt es sich dabei um sehr komplizierte, miteinander in vielfältiger Weise vernetzte Prozesse der Verbrennung, des Wärmeübergangs, der Strömung usw., zu deren theoretischer Behandlung nur der sehr allgemeine, von allen speziellen Formen abstrahierende und daher auf die unterschiedlichsten Prozesse anwendbare physikalische Energiebegriff taugt. Die Unterschiede, aber auch die Zusammenhänge zwischen beiden Betrachtungsweisen sind klar. Ein solcher Stand ist aber bei der Information noch nicht erreicht. Intuitiv nehmen wir an, dass alle Formen von „Information“ etwas gemeinsam haben und dass diese Gemeinsamkeit auch der Grund für die gleichartige Bezeichnung ist. Doch die konkrete Form dieser Beziehungen ist noch nicht klar Daher wurde oft erfolglos versucht, einen für ein bestimmtes Spezialgebiet zugeschnittenen Informationsbegriff auf Vorgänge anzuwenden, für deren Beschreibung er nicht taugt. Das trifft insbesondere für den allgemeinen Informationsbegriff der Shannonschen Informationstheorie zu.

Beispielsweise nahm man an, dass Lehre und Ausbildung zum wesentlichen Teil Vermittlung von Kenntnissen sei und darauf das Shannonsche Informationsmodell und der dort verwendete Informationsbegriff direkt anwendbar seien. Tatsächlich ist aber die Vermittlung von Kenntnissen ein sehr komplexer Prozess, bei dem in vielfältigsten Formen – über die Sprache mit Vortrag, Frage und Antwort, durch die Betrachtung von Bildern und Modellen, bei der Lösung theoretischer und praktischer Aufgaben usw. – zwischen Lehrendem und Lernenden ausgetauscht wird, so dass im Ergebnis im Zentralnervensystem der Schüler genügend dauerhaft die Informationen gespeichert – d. h. auf eine uns noch nicht bekannte Weise eingeprägt – sind, die sie zur Ausführung ihrer Arbeitsaufgaben befähigen. Die Theorie der Teilvorgänge kann sich nur auf den allgemeinen mathematisch-physikalischen Informationsbegriff stützen – für die Beschreibung des komplexen Gesamtprozesses ist dieser jedoch unbrauchbar.

Analoges gilt für alle Versuche, elementare Gesetze direkt auf die Lösung komplexer praktischer Aufgaben anzuwenden. Das liegt nicht daran, dass der Shannonschen Informationsbegriff ein Maß für die Bedeutung der Information fehlt, sondern daren, dass alle Probleme, bei denen die Bedeutung der Information eine Rolle spielt, in eine höhere Integrationsebene gehören, in der Systeme von Elementarprozessen zur Emergenz neuer Gesetzmäßigkeiten führen.

Literatur

Hartley, R. V. L., Transmission of Information. Bell System Technical Journal (1928) S. 535.

Shannon, C. E., A mathematical theory of communication. Bell Syst. Techn. J. 27 (1948), S. 379-423, 623-658

Tribus, M., Information Theory as the Basis for Thermodynamics and Thermostatics. J. Appl. Mech., New York, 28 (1961), S. 1 – 8

Mascheck, H.-J., Informationstheoretische Beschreibung der Turbulenz, Wiss. Z. d. TU Dresden, 29 (1980), S. 467 -470.

Mascheck, H.-J., Leuschner, D., Die Informationsentropie als Grundlage für eine Strukturtheorie der Turbulenz und die Entwicklung von Berechnungsverfahren, Technische Mechanik, 9 (1988), S. 218 – 224.