Wie lassen sich KI-Systeme, insbesondere Large Language Models (LLMs) so modifizieren, dass sie zuverlässig und sicher auf spezifische Anforderungen reagieren? Und wie genau funktioniert dieser Prozess, wie wird er nachvollziehbar, verständlich und reproduzierbar? Mit diesen Fragen rund um das Post-Training bzw. Fine-Tuning von LLMs beschäftigt sich die Forschung von Marius Mosbach – mit dem Ziel, die bisweilen bei allen Anwendungen notwendige Adaption zu einer prinzipienbasierten Wissenschaft zu machen und dieses Verständnis zu nutzen, um zuverlässigere und anpassungsfähigere KI-Systeme zu entwickeln.
Nach mehreren Jahren als Postdoktorand am Mila – Quebec Artificial Intelligence Institute und an der McGill University in Montréal in Kanada freut sich der Wissenschaftler an die Universität des Saarlandes zurückzukehren, wo er selbst studiert und promoviert hat: “Dass es mit der Professur geklappt hat, ist natürlich großartig. Ich bin froh, zurück im Saarland zu sein und meinen Teil zur starken Forschungslandschaft beitragen zu können. Am meisten freue ich mich darauf, meine eigene Gruppe aufzubauen und gemeinsam mit Studierenden an spannenden Themen rund um Language Models zu arbeiten. Der kollaborative Aspekt von Forschung liegt mir sehr am Herzen.”
Um der langfristigen Vision von KI-Systemen, die sich im Laufe der Zeit transparent, robust und kontinuierlich anpassen, näherzukommen, wird Marius Mosbach Forschungsgruppe konkret in drei Richtung arbeiten:
1. Interpretierbarkeit: Wie funktionieren LLMs eigentlich und wie verändert die Adaption sie?
2. Generalisierung: Wie und wann können Modelle auch außerhalb ihrer Trainingsdaten verlässlich funktionieren?
3. Kontinuierliches Lernen: Wie können Systeme entwickelt werden, die nicht im Moment des Trainings “einfrieren”, sondern während des Einsatzes selbständig neues Wissen aufnehmen, veraltete Fakten aktualisieren oder entfernen und sich durch Interaktion verbessern?
In der Fachwelt wurde Marius Mosbach unter anderem durch LLM2Vec bekannt, ein Verfahren, mit dem sich große Sprachmodelle in leistungsfähige Text-Encoder verwandeln lassen. Darüber hinaus wurden seine Publikationen mehrfach ausgezeichnet.
Neben seiner Professur an der Fachrichtung Sprachwissenschaft und Sprachtechnologie wird Marius Mosbach auch als wissenschaftlicher Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) tätig sein. Damit ist er gleich auf doppeltem Wege eng mit der internationalen Forschungslandschaft und der KI-Forschung am Saarland Informatics Campus (SIC) verzahnt.
Wir begrüßen Marius Mosbach herzlich an der Fachrichtung und freuen uns auf eine produktive Zusammenarbeit!
Mehr über Marius Mosbach:
Persönliche Website
Offizielle Pressemitteilung der Universität des Saarlandes
