• Grundlagen der statistischen Mustererkennung: Bayes’sche Regel, Lernen von Verteilungsdichten, lineare Modelle für Klassifikation und Regression, Kernelmethoden
• EM-Algorithmus für Maximum-Likelilhood und Bayes’sche Schätzung
• Modelle mit diskreten und kontinuierlichen verborgenen Variablen: GMM, NMF
• Bias-Varianz Dilemma und Modellwahl
• Grafische Modelle
• Hidden Markov Modelle
• Tiefe neuronale Netze
• Aktuelle Veröffentlichungen aus Mustererkennung und maschinellem Lernen

Die Studierenden sind nach dem Besuch der Lehrveranstaltung in der Lage,

• für ein vorgegebenes Mustererkennungsproblem einen geeigneten Klassifikator auszuwählen und zu trainieren
• für ein gegebenes Regressionsproblem eine geeigneten Ansatz auswählen und die Parameter auf Trainingsdaten zu erlernen
• nach in Daten verborgener Struktur mit Methoden des maschinellen Lernens zu suchen
• eine geeignete Wahl für ein Modell treffen, welches einen guten Kompromiss zwischen Detailgrad und Verallgemeinerungsfähigkeit darstellt
• aktuelle Veröffentlichungen aus dem Bereich der Mustererkennung und des maschinellen Lernens zu verstehen, zu analysieren und zu bewerten

Die Studierenden

• haben ein Verständnis für die Bedeutung der Wahl der Modellordnung auf die Güte der Klassifikation und Regression
• haben ein Verständnis dafür, dass man bei der Suche nach verborgenen Variablen von a priori Annahmen ausgeht, die das Ergebnis stark beeinflussen können
• sind in der Lage, sich eigenständig in den Stand der Forschung in Teilgebieten der Mustererkennung und maschinellen Lernens durch Literaturrecherche und –studium einzuarbeiten
• können Veröffentlichungen aus diesem Bereich in einen größeren Kontext einordnen
• können die in diesem Kurse gewonnenen Kenntnisse und Fertigkeiten auf andereDiszipline übertragen

• Vorlesungen mit überwiegendem Tafeleinsatz, vereinzelt Folien-Präsentation
• Präsenzübungen mit Übungsblättern und Demonstrationen am Rechner
• Anleitung, wie aktuelle wissenschaftliche Veröffentlichungen zu analysieren sind
• und anschließend eigenständige Einarbeitung in Fachliteratur durch die Studierenden
• Präsentation von aktuellen Veröffentlichungen durch die Studierenden

• R.O. Duda, P.E. Hart, D.G.~ Stork,  Pattern   Classification, Wiley, 2001
• K. Fukunaga, Introduction to Statistical Pattern Recognition, Academic Press, 1990
• C. M. Bishop, Pattern Recognition and Machine Learning, Springer, 2006
• C. M. Bishop, Pattern Recognition and Machine Learning, Springer, 2006

• Veranstaltung für Master Studierende in Elektrotechnik, Computer Engineering und Electrical Systems Engineering
• ECTS: 6
• Sprache: Deutsch oder Englisch (je nach Wunsch)
• Semester: Wintersemester

Lecture slides

• Introduction
• Regression
• Information Theory and Machine Learning
• Discriminative Training
• EM Algorithm and Variational Inference
• Nonnegative Matrix Factorization
• Deep Neural Networks - Part 1
• Deep Neural Networks - Part 2
• ASR
• Sequential Data
• Ensemble Learning and Decision Trees
• Seminar Topics 2019/2020
• Paper on hierarchical NMF

Other

• Neural Network trained with CE approaches true class posterior

Templates and Leaflets

• Thesis
• Presentation
• Leaflet on Plagiarism

Exercises:

• To the exercise materials