Forschungsorientierte Themen der Informationstheorie (V2/Ü1)
Termine
Vorlesungstermine
Übungstermine
Prüfungstermin
Voraussetzungen
- Gute mathematische Kenntnisse in mehrdimensionale Analysis und Wahrscheinlichkeitsrechnung,
- Grundlagen in Theoretische Informationstechnik I und II,
- Grundlagen in Optimierung,
- Grundlagen in Nachrichtentechnik und Nachrichtensysteme.
Inhalte
- Integrationstheorie und Wahrscheinlichkeitsrechnung: Verteilungsfunktionen und Verteilungsdichten, Zerlegung von Verteilungsfunktionen, Riemann- und Stieltjes-Integrale, Mittelwertsätze der Integralrechnung, Transformation von Zufallsgrößen.
- Shannonsche Theorie: Verallgemeinerte Elemente der Informationstheorie, Eigeninformation, Entropie und Transinformation, Kullback-Leibler Divergenz und Kanalkapazität, Kanalmodellierung und klassische Ansätze, diskrete gedächtnislose Kanäle, additiver Gauß-Kanal.
- Ungleichungstheorie: Krümmungsverhalten von Funktionen, Krümmungen höherer Ordnung, Majorisation und Schur-Konvexität, auf Konvexität basierende Ungleichungen, probabilistische Ungleichungen, Differential- und Integralungleichungen, spezielle Ungleichungen.
- Variationsrechnung: Fundamentalsatz der Variationsrechnung, weitere Sätze zu der erste und zweite Variation, Variation unter Rand- und Nebenbedingungen.
- Anwendungen: Transinformation und Kapazität nichtlinearer Kanäle, additive Kanäle, Schwundkanäle, Quantisierung, Informationszensierung, biologische Kanäle und Molekülkommunikation, optimale Regelung über optimale Steuerung, Quantenkommunikation.
Literatur und Materialien
- Ein Vorlesungsskript wird vorlesungsbegleitend erstellt und an Teilnehmer verteilt.
- Direkte Methoden der Variationsrechnung: Ein Lehrbuch, P. Blanchard und E. Brüning, 1982.
- Information and Information Stability of Random Variables and Processes, M. Pinsker, 1964.
- The Cauchy-Schwarz Master Class: An Introduction to the Art of Mathematical Inequalities, J. M. Steele, 2004.