Home  | Impressum | Datenschutz | Sitemap | KIT

Stochastische Informationsverarbeitung

Stochastische Informationsverarbeitung
Typ: Vorlesung (V) mit Übung (Ü) Links:
Zielgruppe: Master: ab 1. Semester, Bachelor: ab 5. Semester
Lehrstuhl: Lehrstuhl für Intelligente Sensor-Aktor-Systeme (ISAS)
Semester: WS 19/20
Ort:

50.34 Raum -102 (V)
50.20 Raum  148 (Ü)

Zeit:

Donnerstag 14:00-15:30 (V)
Mittwoch 15:45-16:45 (Ü)

Beginn: 17.10.2019 (V), 30.10.2019 (Ü)
Dozent:

Prof. Dr.-Ing. Uwe Hanebeck (V)
Daniel Frisch (Ü)

SWS: 3
ECTS: 6
LVNr.: 24113
Prüfung: siehe unten
Voraussetzungen

Die SI vermittelt die fundamentalen und formalen Grundlagen der Zustandsschätzung rund um Prädiktion und Filterung. So stellt sie einen optimalen Einstieg in die Vorlesungen des ISAS dar.

Umgekehrt können Vorkenntnisse aus

  • Lokalisierung mobiler Agenten (LMA) [LV-Nr. 24613] und
  • Informationsverarbeitung in Sensornetzwerken (IIS) [LV-Nr. 24102],

aber je nach Lerntyp trotzdem hilfreich sein - dort werden mehr konkrete Anwendungen beleuchtet. Sämtliche Inhalte werden in allen unseren Vorlesungen grundsätzlich von Anfang an hergeleitet und ausführlich erklärt; es ist also möglich in SI, LMA oder IIS einzusteigen. 

Wirklich vorausgesetzt werden in SI lediglich die Grundbegriffe der Wahrscheinlichkeitstheorie bzw. Stochastik. Auf unserem ersten Übungsblatt werden diese kurz eingeführt, sodass Sie Ihre dahingenden Vorkenntnisse schnell wiederholen und überprüfen können. 

  • Übungsblatt 01 mit Theorieteil über die Grundlagen der Wahrscheinlichkeitsrechnung
Beschreibung

Einen unterhaltsamen und anschaulichen Einblick in die Welt der Zustandsschätzung und ihrer Anwendungen bietet dieses Video anlässlich der Mondlandung inklusive dem ersten Einsatz des Kalmanfilters vor 50 Jahren.

Die SI vermittelt zunächst für

  • nichtlineare wertediskrete
  • sowie lineare wertekontinuierliche

Systeme einfache und praktisch anwendbare Schätzer.

Daraufhin wird der allgemeine Schätzer für wertekontinuierliche nichtlineare Systeme hergeleitet. Es wird aufgezeigt, warum dieser in der Regel nicht praktisch umsetzbar ist und wie man ihn stattdessen approximieren kann.

Zur Handhabung komplexer dynamischer Systeme, wie sie beispielsweise aus der Robotik bekannt sind, werden typischerweise sowohl Systemmodelle als auch die zeitlichen Verläufe der Systemzustände benötigt. Sowohl für die Systemidentifikation als auch für die Zustandsrekonstruktion liegen dabei im Allgemeinen lediglich verrauschte Daten vor.

Für kontinuierliche Zustandsräume ist eine exakte Berechnung der gesuchten Wahrscheinlichkeitsdichten allerdings nur in wenigen Spezialfällen möglich. Allgemeine nichtlineare Systeme werden in der Praxis daher oft durch vereinfachende Annahmen auf diese Spezialfälle zurückgeführt. Das eine Extrem ist dabei eine Linearisierung mit nachfolgender Anwendung der linearen Schätztheorie, was jedoch häufig zu unbefriedigenden Ergebnissen führt. Das andere Extrem sind numerische Approximationsverfahren, welche die gewünschten Verteilungsdichten nur an diskreten Punkten des Zustandsraums auswerten. Obwohl das Arbeitsprinzip dieser Verfahren in der Regel recht einfach ist, stellt sich eine praktische Implementierung häufig als schwierig und speziell für höherdimensionale Systeme als rechenaufwändig heraus.

Als Mittelweg wären daher oft analytische nichtlineare Schätzverfahren wünschenswert. In dieser Vorlesung werden die Hauptschwierigkeiten bei der Entwicklung derartiger Schätzverfahren dargestellt und entsprechende Lösungsbausteine vorgestellt. Basierend auf diesen Bausteinen werden exemplarisch einige analytische Schätzverfahren im Detail diskutiert, welche sich sehr gut für die praktische Implementierung eignen und dabei einen guten Kompromiss zwischen Rechenaufwand und Leistungsfähigkeit bieten. Weiterhin werden nützliche Anwendungen dieser Schätzverfahren diskutiert. Dabei werden sowohl bekannte Verfahren als auch Ergebnisse aktueller Forschungsarbeiten vorgestellt.

Literaturhinweise
  • Digitale Vorlesungsmitschriebe (diese sind auch maßgeblich für die Prüfung)
  • Skript zur Vorlesung (inkl. Angaben zu weiterführender Literatur)
  • Übungsblätter
  • Digitale Übungsmitschriebe
  • Tutorial-Paper zu Faktorgraphen
Lehrinhalt

In diesem Modul werden Modelle und Zustandsschätzer für wertediskrete und -kontinuierliche lineare sowie allgemeine Systeme behandelt. Für wertediskrete und -kontinuierliche lineare Systeme werden Prädiktion und Filterung eingeführt (HMM, Kalman Filter). Zusätzlich wird für wertediskrete Systeme die Glättung untersucht. Bei der Modellierung von allgemeinen statischen und dynamischen Systemen wird ausgehend von einer generativen eine probabilistische Systembeschreibung entwickelt. Unterschiedliche Arten des Rauscheinflusses (additiv, multiplikativ) sowie verschiedene Dichterepräsentationen werden untersucht. Die grundlegenden Methoden der Zustandsschätzung für allgemeine Systeme sowie die Herausforderungen bei der Implementierung generischer Schätzer werden vorgestellt. Die Vorlesung schließt mit einem Ausblick auf den Stand der Forschung und neuartige Schätzer.

Struktur
  • Wertediskrete Systeme
    • Statische Systeme
    • Dynamische Systeme: Markov-Kette, Messmodell
    • Zustandsschätzung im Hidden Markov Model
  • Lineare wertekontinuierliche Systeme
    • Statische Systeme
    • Dynamische Systeme: Systemmodell mit Markov-Eigenschaft, Messmodell 
    • Zustandsschätzung: Kalman Filter
  • Allgemeine Systeme
    • Statische Systeme: Repräsentation der Ein- und Ausgänge durch Dichten
    • Dynamische Systeme: Systemmodell, Messmodell
  • Repräsentation von Wahrscheinlichkeitsdichten
    • Normalverteilung: Momente und zentrale Momente, Kullback-Leibler-Divergenz
    • Gaussian Mixture Density 
    • Exponentialverteilungen
  • Generatives und probabilistisches Modell
    • Delta-Distribution
    • Transformation von generativem Modell (Systemgleichung) zu probabilistischem Modell (bedingte Dichte)
      • additives Rauschen
      • multiplikatives Rauschen
    • Vorwärtsinferenz (Prädiktion)
  • Allgemeiner Schätzer
    • Vorwärtsinferenz
    • Vereinfachte Prädiktion mit Mixture unabhängiger Dichten
    • Rückwärtsinferenz mit deterministischen Messungen 
  • Faktorgraphen 
Beispiel

Übung zum allgemeinen Schätzer

Arbeitsbelastung

180 h

Zielgruppe

Master: ab 1. Semester, Bachelor: ab 5. Semester

Ziel

Die Studierenden sollen die Handhabung komplexer dynamischer Systeme erlernen und insbesondere Probleme der Rekonstruktion gesuchter Größen aus unsicheren Daten analysieren und mathematisch korrekt beschreiben können. Ausgehend von speziellen Systemen werden die grundlegenden Probleme der Zustandsschätzung für allgemeine Systeme behandelt und mögliche Lösungswege aufgezeigt. 

Vertiefungsgebiete
  • Theoretische Grundlagen
  • Anthropomatik und Kognitive Systeme
  • Robotik und Automation
Prüfung

Die Erfolgskontrolle erfolgt in Form einer mündlichen Prüfung. Prüfungsrelevant sind alle während den Vorlesungen vermittelten Inhalte (mündlich und digitale Vorlesungsmitschriebe). Zusatzinformationen aus dem Skript (zu den direkt in der Vorlesung behandelten Themen) können ebenfalls relevant sein.

Zur Vereinbarung eines Termins kontaktieren Sie bitte Frau Dr. Gambichler:

dagmar.gambichler@kit.edu CC uwe.hanebeck@kit.edu

Bitte geben Sie dabei den gewünschten Zeitraum, Ihre Matrikelnummer, Studiengang und SPO an.

Die Prüfungen finden in Raum R137, Geb. 50.20, statt.

 

Termine SI

Woche Mittwoch (15:45-16:45) Donnerstag (14:00-15:30)
KW 42: 14.10.2019 - 20.10.2019   01. Vorlesung (17.10.)
KW 43: 21.10.2019 - 27.10.2019   02. Vorlesung (24.10.)
KW 44: 28.10.2019 - 03.11.2019 01. Übung (30.10.) 03. Vorlesung (31.10.)
KW 45: 04.11.2019 - 10.11.2019 02. Übung (06.11.) 04. Vorlesung (07.11.)
KW 46: 11.11.2019 - 17.11.2019 03. Übung (13.11.) 05. Vorlesung (14.11.)
KW 47: 18.11.2019 - 24.11.2019 04. Übung (20.11.) 06. Vorlesung (21.11.)
KW 48: 25.11.2019 - 01.12.2019 05. Übung (27.11.) 07. Vorlesung (28.11.)
KW 49: 02.12.2019 - 08.12.2019 06. Übung (04.12.) 08. Vorlesung (05.12.)
KW 50: 09.12.2019 - 15.12.2019 07. Übung (11.12.) 09. Vorlesung (12.12.)
KW 51: 16.12.2019 - 22.12.2019 08. Übung (18.12.) 10. Vorlesung (19.12.)
KW 52: 23.12.2019 - 29.12.2019 Weihnachtsferien Weihnachtsferien
KW 01: 30.12.2019 - 05.01.2020 Weihnachtsferien Weihnachtsferien
KW 02: 06.01.2020 - 12.01.2020 09. Übung (08.01.) 11. Vorlesung (09.01.)
KW 03: 13.01.2020 - 19.01.2020 10. Übung (15.01.) 12. Vorlesung (16.01.)
KW 04: 20.01.2020 - 26.01.2020 11. Übung (22.01.) 13. Vorlesung (23.01.)
KW 05: 27.01.2020 - 02.02.2020 12. Übung (29.01.) 14. Vorlesung (30.01.)
KW 06: 03.02.2020 - 09.02.2020 13. Übung (05.02.) 15. Vorlesung (06.02.)