Webrelaunch 2020

Steuerung Stochastischer Prozesse (Sommersemester 2009)

  • Dozent*in: Prof. Dr. Nicole Bäuerle
  • Veranstaltungen: Vorlesung (1594), Übung (1595)
  • Semesterwochenstunden: 4+2
  • Hörerkreis: Mathematik (ab 7. Semester)

In der Vorlesung wird die Theorie der optimalen Steuerung von stochastischen Prozessen in diskreter und stetiger Zeit behandelt und an einigen Beispielen illustriert.

Termine
Vorlesung: Mittwoch 9:45-11:15 Seminarraum 33
Donnerstag 8:00-9:30 Seminarraum 33
Übung: Freitag 14:00-15:30 Seminarraum 33
Lehrende
Dozentin, Übungsleiterin Prof. Dr. Nicole Bäuerle
Sprechstunde: nach Vereinbarung.
Zimmer 2.016 Kollegiengebäude Mathematik (20.30)
Email: nicole.baeuerle@kit.edu
Übungsleiter Dipl.-Math. oec. Dominik Joos
Sprechstunde:
Zimmer Allianz-Gebäude (05.20)
Email: joos@kit.edu

Der erste Teil der Vorlesung behandelt sogen. Markovsche Entscheidungsprozesse.
Dabei kann ein Entscheidungsträger den Übergangskern einer zeitdiskreten Markov-Kette
beeinflussen. Ziel ist die Maximierung der erwarteten diskontierten Kosten über
einen endlichen oder unendlichen Horizont. Es werden auch Probleme betrachtet, bei
denen der Entscheidungsträger nur partielle Information besitzt.

Im zweiten Teil der Vorlesung werden stochastische Steuerprobleme für Diffusionsprozesse
betrachtet. Diese können über die sogen. Hamilton-Jacobi-Bellman Gleichung gelöst werden.
Ebenfalls betrachtet werden Probleme mit singulärer Steuerung.

Die entwickelte Theorie wird an einer Reihe von Anwendungsbeispielen erläutert.

Literaturhinweise

D. Bertsekas: Dynamic programming and optimal control, Vol.1/2. Athena Scientific.
W.H. Fleming, M.H. Soner: Controlled Markov processes and viscosity solutions, Springer-Verlag.
O. Hernandez-Lerma und J.B. Lassere: Discrete-time Markov control processes: basic optimality criteria. Springer-Verlag.
M. Puterman: Markov decision processes: discrete stochastic dynamic programming. J. Wiley & Sons.
S. Ross: Introduction to stochastic dynamic programming. Academic Press.