Stochastische Informationsverarbeitung

  • Typ: Vorlesung (V) mit Übung (Ü)
  • Zielgruppe: Master: ab 1. Semester, Bachelor: ab 5. Semester
  • Lehrstuhl: Lehrstuhl für Intelligente Sensor-Aktor-Systeme (ISAS)
  • Semester: WS 18/19
  • Ort:

    50.34 Raum -102 (V)
    50.20 Raum  148 (Ü)

  • Zeit:

    Donnerstag 14:00-15:30 (V)
    Mittwoch 15:45-16:45 (Ü)

  • Beginn: 18.10.2018 (V), 07.11.2018 (Ü)
  • Dozent:

    Prof. Dr.-Ing. Uwe Hanebeck (V)
    Daniel Frisch (Ü)

  • SWS: 3
  • ECTS: 6
  • LVNr.: 24113
  • Prüfung: mündlich
Voraussetzungen

Da die Vorlesungen des ISAS sich inhaltlich überschneiden, ist die Kenntnis von 

  • Lokalisierung mobiler Agenten [LV-Nr. 24613
  • Informationsverarbeitung in Sensornetzwerken [LV-Nr. 24102]

zum schnelleren Verständnis von SI hilfreich, und umgekehrt. Alle Themen werden aber von Grund auf hergeleitet, es ist also möglich in jeder unserer Vorlesungen einzusteigen. 

Wirklich vorausgesetzt werden lediglich die Grundbegriffe der Wahrscheinlichkeitstheorie bzw. Stochastik. Auf unserem ersten Übungsblatt werden diese kurz eingeführt, sodass Sie Ihre dahingenden Vorkenntnisse schnell wiederholen und überprüfen können. 

  • Übungsblatt 01 mit Theorieteil über die Grundlagen der Wahrscheinlichkeitsrechnung
Beschreibung

Zur Handhabung komplexer dynamischer Systeme, wie sie beispielsweise aus der Robotik bekannt sind, werden typischerweise sowohl Systemmodelle als auch die zeitlichen Verläufe der Systemzustände benötigt. Sowohl für die Systemidentifikation als auch für die Zustandsrekonstruktion liegen dabei im Allgemeinen lediglich verrauschte Daten vor.

Für kontinuierliche Zustandsräume ist eine exakte Berechnung der gesuchten Wahrscheinlichkeitsdichten allerdings nur in wenigen Spezialfällen möglich. Allgemeine nichtlineare Systeme werden in der Praxis daher oft durch vereinfachende Annahmen auf diese Spezialfälle zurückgeführt. Das eine Extrem ist dabei eine Linearisierung mit nachfolgender Anwendung der linearen Schätztheorie. Dies führt jedoch häufig zu unbefriedigenden Ergebnissen und erfordert zusätzliche heuristische Maßnahmen. Das andere Extrem sind numerische Approximationsverfahren, welche die gewünschten Verteilungsdichten nur an diskreten Punkten des Zustandsraums auswerten. Obwohl das Arbeitsprinzip dieser Verfahren in der Regel recht einfach ist, stellt sich eine praktische Implementierung häufig als schwierig und speziell für höherdimensionale Systeme als rechenaufwändig heraus.

Als Mittelweg wären daher oft analytische nichtlineare Schätzverfahren wünschenswert. In dieser Vorlesung werden die Hauptschwierigkeiten bei der Entwicklung derartiger Schätzverfahren dargestellt und entsprechende Lösungsbausteine vorgestellt. Basierend auf diesen Bausteinen werden exemplarisch einige analytische Schätzverfahren im Detail diskutiert, welche sich sehr gut für die praktische Implementierung eignet und dabei einen guten Kompromiss zwischen Rechenaufwand und Leistungsfähigkeit bietet. Weiterhin werden nützliche Anwendungen dieser Schätzverfahren diskutiert. Dabei werden sowohl bekannte Verfahren als auch Ergebnisse aktueller Forschungsarbeiten vorgestellt.

Literaturhinweise
  • Digitale Vorlesungsmitschriebe (diese sind auch maßgeblich für die Prüfung)
  • Skript zur Vorlesung (inkl. Angaben zu weiterführender Literatur)
  • Übungsblätter
  • Digitale Übungsmitschriebe
  • Tutorial-Paper zu Faktorgraphen
Lehrinhalt

In diesem Modul werden Modelle und Zustandsschätzer für wertdiskrete und -kontinuierliche lineare sowie allgemeine Systeme behandelt. Für wertdiskrete und -kontinuierliche lineare Systeme werden Prädiktion und Filterung eingeführt (HMM, Kalman Filter). Zusätzlich wird für wertdiskrete Systeme die Glättung untersucht. Bei der Modellierung von allgemeinen statischen und dynamischen Systemen wird ausgehend von einer generativen eine probabilistische Systembeschreibung entwickelt. Unterschiedliche Arten des Rauscheinflusses (additiv, multiplikativ) sowie verschiedene Dichterepräsentationen werden untersucht. Die grundlegenden Methoden der Zustandsschätzung für allgemeine Systeme sowie die Herausforderungen bei der Implementierung generischer Schätzer werden vorgestellt. Die Vorlesung schließt mit einem Ausblick auf den Stand der Forschung und neuartige Schätzer.

Struktur
  • Wertediskrete Systeme
    • Statische Systeme
    • Dynamische Systeme: Markov-Kette, Messmodell
    • Zustandsschätzung im Hidden Markov Model
  • Lineare wertekontinuierliche Systeme
    • Statische Systeme
    • Dynamische Systeme: Systemmodell mit Markov-Eigenschaft, Messmodell 
    • Zustandsschätzung: Kalman Filter
  • Allgemeine Systeme
    • Statische Systeme: Repräsentation der Ein- und Ausgänge durch Dichten
    • Dynamische Systeme: Systemmodell, Messmodell
  • Repräsentation von Wahrscheinlichkeitsdichten
    • Normalverteilung: Momente und zentrale Momente, Kullback-Leibler-Divergenz
    • Gaussian Mixture Density 
    • Exponentialverteilungen
  • Generatives und probabilistisches Modell
    • Delta-Distribution
    • Transformation von generativem Modell (Systemgleichung) zu probabilistischem Modell (bedingte Dichte)
      • additives Rauschen
      • multiplikatives Rauschen
    • Vorwärtsinferenz (Prädiktion)
      Generatives und probabilistisches Systemmodell
  • Allgemeiner Schätzer
    • Vorwärtsinferenz
    • Vereinfachte Prädiktion mit Mixture unabhängiger Dichten
    • Rückwärtsinferenz mit deterministischen Messungen 
  • Faktorgraphen 
Beispiel

Übung zum Allgemeinen Schätzer

Arbeitsbelastung

180 h

Zielgruppe

Master: ab 1. Semester, Bachelor: ab 5. Semester

Ziel

Der Studierende soll die Handhabung komplexer dynamischer Systeme erlernen und insbesondere Probleme der Rekonstruktion gesuchter Größen aus unsicheren Daten analysieren und mathematisch korrekt beschreiben können. Ausgehend von speziellen Systemen werden die grundlegenden Probleme der Zustandsschätzung für allgemeine Systeme behandelt und mögliche Lösungswege aufgezeigt. 

Vertiefungsgebiete
  • Theoretische Grundlagen
  • Anthropomatik und Kognitive Systeme
  • Robotik und Automation
Prüfung

Die Erfolgskontrolle erfolgt in Form einer mündlichen Prüfung. Prüfungsrelevant sind sämtliche Inhalte der digitalisierten handschriftlichen Anschriebe der Vorlesung. 

Zur Vereinbarung eines Termins können Sie Frau Dr. Gambichler kontaktieren:
dagmar.gambichler@kit.edu CC: Uwe.Hanebeck@kit.edu

Bitte geben Sie dabei den gewünschten Zeitraum, Matrikelnummer, Studiengang und SPO an.

Die Prüfungen finden in Raum R137, Geb. 50.20, statt.

 

Termine SI

Woche Mittwoch (15:45-16:45) Donnerstag (14:00-15:30)
KW 42: 15.10.2018 - 21.10.2018   01. Vorlesung (18.10.)
KW 43: 22.10.2018 - 28.10.2018   02. Vorlesung (25.10.)
KW 44: 29.10.2018 - 04.11.2018   Allerheiligen
KW 45: 05.11.2018 - 11.11.2018 01. Übung (07.11.) 03. Vorlesung (08.11.)
KW 46: 12.11.2018 - 18.11.2018 02. Übung (14.11.) 04. Vorlesung (15.11.)
KW 47: 19.11.2018 - 25.11.2018 03. Übung (21.11.) 05. Vorlesung (22.11.)
KW 48: 26.11.2018 - 02.12.2018 04. Übung (28.11.) 06. Vorlesung (29.11.)
KW 49: 03.12.2018 - 09.12.2018 05. Übung (05.12.) 07. Vorlesung (06.12.)
KW 50: 10.12.2018 - 16.12.2018 06. Übung (12.12.) 08. Vorlesung (13.12.)
KW 51: 17.12.2018 - 23.12.2018 07. Übung (19.12.) 09. Vorlesung (20.12.)
KW 52: 24.12.2018 - 30.12.2018 Weihnachtsferien Weihnachtsferien
KW 01: 31.12.2018 - 06.01.2019 Weihnachtsferien Weihnachtsferien
KW 02: 07.01.2019 - 13.01.2019 08. Übung (09.01.) 10. Vorlesung (10.01.)
KW 03: 14.01.2019 - 20.01.2019 09. Übung (16.01.) 11. Vorlesung (17.01.)
KW 04: 21.01.2019 - 27.01.2019 10. Übung (23.01.) 12. Vorlesung (24.01.)
KW 05: 28.01.2019 - 03.02.2019 11. Übung (30.01.) 13. Vorlesung (31.01.)
KW 06: 04.02.2019 - 10.02.2019 12. Übung (06.02.) 14. Vorlesung (07.02.)