Webrelaunch 2020

Mathematische Aspekte des Maschinellen Lernens (Wintersemester 2021/22)

In vielen Bereichen der Wissenschaft und Industrie wurden durch Anwendung von Methoden des Maschinellen Lernens in jüngster Vergangenheit Durchbrüche erreicht.
So sind beispielsweise große Fortschritte im Bereich des autonomen Fahrens von PKW/LKW erst durch den Einsatz dieser Methoden möglich geworden.

BITTE BEACHTEN SIE:
Bei Interesse am Seminar schreiben Sie bitte vor der Vorbesprechung eine Mail an daniele.corallo@kit.edu mit Ihrem Namen und Ihrer Matrikelnummer.
Die Vorbesprechung findet in MS-Teams statt. Treten Sie dem ILIAS-Kurs zum Seminar bei, um den Beitrittslink zur Vorbesprechung zu erhalten.

Termine
Seminar: Freitag 9:45-11:15 SR 2.066 (Geb. 20.30) Beginn: 22.10.2021, Ende: 11.2.2022
Lehrende
Seminarleitung Prof. Dr. Christian Wieners
Sprechstunde: Mittwoch 09:30 - 10:30 Uhr
Zimmer 3.041 Kollegiengebäude Mathematik (20.30)
Email: christian.wieners@kit.edu
Seminarleitung M.Sc. Daniele Corallo
Sprechstunde: nach Vereinbarung
Zimmer 3.049 Kollegiengebäude Mathematik (20.30)
Email: daniele.corallo@kit.edu

In dem Seminar möchten wir uns mit den mathematischen Aspekten von ausgewählten Themen des Maschinellen Lernens beschäftigen. Dabei geht es einerseits um die Konstruktion der Verfahren, aber auch Konvergenz- sowie Implementierungsaspekte.

Im Fokus des Seminars liegen Regressionsverfahren und die Anwendung auf inverse Probleme und Differentialgleichungen.
Die Inhalte umfassen:

  • Lerntheorie
  • Support-Vektor-Maschinen (SVMs), Kernelmethoden
  • Hauptkomponentenzerlegung
  • Iterative Optimierung: SGD, Adam, ...
  • Automatisches Differenzieren
  • Neuronale Netze: Grundlagen, Backpropagation, Approximationseigenschaften
  • Anwendungen auf gewöhnliche Differentialgleichungen, inverse Probleme
  • Reinforcement Learning

Das Seminar richtet sich an Studierende im Masterstudiengang.
Es werden Kenntnisse in numerischer Mathematik und Wahrscheinlichkeitstheorie vorausgesetzt, wie sie im Bachelorstudiengang Mathematik vermittelt werden.

Literaturhinweise

Vorallem:

  • Aggarwal, Charu C. Linear Algebra and Optimization for Machine Learning: A Textbook. Berlin: Springer, 2020.
  • Charu, C. Aggarwal. Neural Networks and Deep Learning: A Textbook. Spinger, 2018.
  • Jo, Taeho. Machine Learning Foundations: Supervised, Unsupervised, and Advanced Learning. Springer Nature, 2021.

Evtl:

  • Siddhartha Mishra: A machine learning framework for data driven acceleration of computations of differential equations (2018)
  • Kevin P. Murphy, Machine Learning, A Probabilistic Perspective (2012)
  • Shai Shalev-Shwartz, Shai Ben-David, Understanding machine learning: From theory to algorithms (2014)
  • Mehryar Mohri, Afshin Rostamizadeh, Ameet Talwalkar, Foundations of machine learning (2012)