Mathematische Statistik und Maschinelles Lernen

Der Kurs konzertiert sich auf die Anwendung probabilistischer Modelle und Techniken zur Bewältigung von Unsicherheit und Variabilität in Daten. 
### Inhalte:

1. **Einführung in die Wahrscheinlichkeitstheorie:**
   - Grundbegriffe der Wahrscheinlichkeit (Wahrscheinlichkeitsräume, Ereignisse, bedingte Wahrscheinlichkeit)
   - Zufallsvariablen und Verteilungen (diskrete und kontinuierliche Verteilungen)
   - Erwartungswert, Varianz und Momente
   - Gesetz der großen Zahlen und zentraler Grenzwertsatz

2. **Bayessche Statistik:**
   - Grundlagen der Bayesschen Inferenz
   - Prior, Likelihood, Posterior und Bayes-Theorem
   - Bayessche Netzwerke und Einflussdiagramme
   - Monte-Carlo-Methoden und Markov-Chain-Monte-Carlo (MCMC)

3. **Probabilistische Graphische Modelle:**
   - Bayessche Netzwerke (gerichtete Graphen)
   - Markov-Netzwerke (ungerichtete Graphen)
   - Inferenz in graphischen Modellen
   - Lernen von Strukturen und Parametern

4. **Latente Variablenmodelle:**
   - Gemischte Modelle (z.B. Gaussian Mixture Models)
   - Latent Dirichlet Allocation (LDA)
   - Hidden Markov Models (HMM)

5. **Approximate Inference:**
   - Variationsmethoden
   - Expectation-Maximization (EM)
   - Gibbs-Sampling und andere Sampling-Methoden

6. **Gaussian Processes:**
   - Grundlagen und Anwendungen
   - Kernfunktionen und deren Eigenschaften
   - Modellierung und Inferenz mit Gaussian Processes

7. **Zeitreihenanalyse:**
   - Stochastische Prozesse und Zeitreihenmodelle
   - Autoregressive Modelle (AR), Moving Average Modelle (MA), ARMA und ARIMA
   - Kalman-Filter und Partikel-Filter

8. **Anwendungen:**
   - Anwendungsfälle in der Bild- und Spracherkennung
   - Natural Language Processing (NLP)
   - Anomalieerkennung
   - Empfehlungen und Personalisierung

### Kompetenzen:

- **Mathematische Grundlagen:** Verstehen und Anwenden der grundlegenden Konzepte der Wahrscheinlichkeitstheorie und Statistik.
- **Modellierung:** Fähigkeit, probabilistische Modelle für reale Probleme zu entwerfen und zu implementieren.
- **Inferenz:** Durchführung von inferenziellen Aufgaben mittels exakter und approximativer Methoden.
- **Datenanalyse:** Nutzung probabilistischer Methoden zur Analyse und Interpretation komplexer Datensätze.
- **Programmierung:** Implementierung probabilistischer Algorithmen mit Programmiersprachen wie Python und Bibliotheken wie PyMC3, TensorFlow Probability oder Stan.
- **Kritisches Denken:** Kritische Beurteilung der Annahmen und Ergebnisse probabilistischer Modelle.
- **Anwendungsorientierung:** Fähigkeit, probabilistische Methoden in verschiedenen Bereichen des maschinellen Lernens anzuwenden.