Große Sprachmodelle (LLMs) wie ChatGPT sind mittlerweile fest im Alltag von Privatpersonen und Unternehmen verankert und werden zunehmend für komplexere Aufgaben, wie beispielsweise das Erstellen von Dienstplänen oder Produktionsabläufen, herangezogen. Doch in der Praxis zeigt sich: Insbesondere, wenn Informationen sich stark ähneln, verschachtelt sind oder aus unterschiedlichen Quellen miteinander verknüpft werden sollen, stößt die KI an ihre Grenzen. Sie beginnt zu halluzinieren, macht Fehler und zieht letztendlich die falschen Schlussfolgerungen. Genau hier setzt die Forschung von Computerlinguist Michael Hahn an. Gemeinsam mit seinem Team im Fachbereich Sprachwissenschaft und Sprachtechnologie will er anhand großer Datenbestände erforschen, welche Zusammenhänge sich die KI bereits gut erschließen kann, woran sie noch scheitert und wie sie genau lernt – mit dem Ziel ihr sog. „Reasoning“ – ihre Argumentationsfähigkeit – deutlicher vorhersagen zu können und insgesamt zu verbessern. „Eine wichtige Rolle spielt dabei der induktive Bias, der auch als induktive Verzerrung bezeichnet wird. Damit ist die Menge an Annahmen und Vorwissen gemeint, die ein Algorithmus für maschinelles Lernen mitbringen muss, um von bekannten Trainingsdaten auf ungesehene Daten zu verallgemeinern“, erklärt Hahn.
Für sein Forschungsvorhaben unter dem Namen REALM: Foundations for Reliable Language Model Reasoning via Inductive Biases wird Michael Hahn jetzt von der Europäischen Union mit einem ERC Starting Grant in Höhe von 1,5 Millionen Euro über fünf Jahre gefördert. Es ist einer von lediglich fünf ERC Starting Grants im Bereich Informatik, die in der aktuellen Förderrunde nach Deutschland gehen. Nach der Bewilligung einer Emmy-Noether-Forschungsgruppe und dem Erhalt des Heinz Maier-Leibnitz-Preises ist der Grant für Michael Hahn bereits die dritte renommierte Förderung bzw. Auszeichnung innerhalb eines Jahres.
Die Fachrichtung Sprachwissenschaft und Sprachtechnologie gratuliert herzlich zu diesem Erfolg!
Die offizielle Pressemitteilung der Universität des Saarlandes ist hier zu lesen, auch der Saarland Informatics Campus berichtete.
