KI-Zertifizierung: Neues Projekt erforscht, wie Künstliche Intelligenz vertrauenswürdig wird

Bestätigt eine unabhängige Stelle schwarz auf weiß, dass gewisse Anforderungen und Standards sicher erfüllt sind, schafft dies Vertrauen. Mit Zertifizierungen weisen Unternehmen daher in ihrem eigenem Interesse nach, dass ihre Produkte oder Leistungen hohe Standards einhalten. Zertifizierungsstellen wie TÜV, DEKRA oder das Bundesamt für Sicherheit in der Informationstechnik prüfen und bestätigen Qualität und Sicherheit. Kunden können sich hierauf verlassen. „Auch KI-Systeme können mit Zertifizierungen an Vertrauen und Akzeptanz gewinnen“, sagt der Direktor des Instituts für Rechtsinformatik der Universität des Saarlandes Professor Georg Borges. 

Die KI-Verordnung der Europäischen Union, der sogenannte AI Act, ein Meilenstein in der Regulierung von Künstlicher Intelligenz, der am 1. August 2024 in Kraft getreten ist, sieht eine sogenannte „Konformitätsprüfung“ bei Hochrisiko-KI-Systemen vor: Bei KI-Systemen, die ein hohes Risiko für Gesundheit, Sicherheit oder Grundrechte bergen, überprüft grundsätzlich der Hersteller selbst, ob sie den Anforderungen und Standards entsprechen, die etwa in geltenden Vorschriften und Normen festgelegt sind. In Ausnahmefällen verlangt der AI Act auch eine Zertifizierung durch unabhängige Stellen. Für Nicht-Hochrisiko-KI-Systeme ist eine Zertifizierung freiwillig.

 „Künstliche Intelligenz birgt großes Potenzial, aber ihre Risiken erzeugen Unsicherheit. Hier setzen wir mit unserem Forschungsprojekt an und beleuchten die KI-Zertifizierung als Regulierungsinstrument für Künstliche Intelligenz. In der Zertifizierung liegt eine vielversprechende Lösung, die einerseits der rasanten Dynamik der digitalen Märkte und andererseits dem Regulierungsbedürfnis nach Kontrolle und Sicherheit gerecht wird“, erläutert Georg Borges. Gemeinsam mit den Teams von Informatikprofessor Holger Hermanns, ebenfalls von der Universität des Saarlandes, und Jura-Professor Juliano Souza de Albuquerque Maranhao von der brasilianischen Universität Sao Paulo untersucht der Experte für IT-Recht und Rechtsinformatik die rechtlichen Auswirkungen der KI-Zertifizierung in Europa, Deutschland und Brasilien.„Potenziale der Zertifizierung von KI-Systemen bei der Regulierung von Künstlicher Intelligenz" lautet der Titel des Forschungsprojektes, das im Mai 2025 gestartet ist.

Die Forschungsteams loten verschiedene Zertifizierungsarten und ihre Regelungen aus und bewerten diese. „Zertifizierungen können bestätigen, dass KI-Systeme geltende Standards, gesetzliche Vorschriften und sonstige Vorgaben erfüllen. Damit attestieren sie nicht nur, dass sie technisch zuverlässig laufen, sondern vor allem auch, dass sie sicher, transparent und fair arbeiten und verantwortungsvoll mit Daten umgehen“, sagt Georg Borges. „Wir untersuchen verschiedene Aspekte, die für verantwortungsvolle und vertrauenswürdige KI ausschlaggebend sind, ebenso wie die Einheitlichkeit und Angemessenheit internationaler Standards“, erläutert der Rechtsinformatiker. Ziel des Projektes ist es, einen sicheren Einsatz von KI-Systemen in verschiedenen Wirtschafts- und Lebensbereichen zu ermöglichen.

„Zertifizierungen haben das Potenzial, sich auch international zu einem vielversprechenden Regulierungsinstrument zu entwickeln, auch in Ländern, die keine staatliche Regulierung wollen. Sie liegen nicht nur im Interesse der Nutzer, die sichere KI-Systeme fordern, sondern auch im Interesse der KI-Anbieter, die so ihre Qualität nachweisen – insoweit können Zertifizierungen auch wichtige Anreize zur Einhaltung von Vorschriften bieten“, sagt Georg Borges. Wie mit einem Rechtsrahmen für Künstliche Intelligenz umzugehen ist, wird weltweit sehr unterschiedlich gesehen. Europa hat sich für Regulierung entschieden, in Brasilien durchläuft derzeit ein KI-Gesetz den Gesetzgebungsprozess, das vom EU-KI-Gesetz beeinflusst ist. Demgegenüber steht etwa in den USA zur Debatte, KI jeglicher staatlichen Kontrolle zu entziehen. 

Das Projekt, das von der Deutschen Forschungsgemeinschaft DFG und der brasilianischen Partnerorganisation CAPES gefördert wird, knüpft an zahlreiche Forschungsarbeiten der Saarbrücker Arbeitsgruppen an. Georg Borges und Holger Hermanns forschen bereits seit Jahren mit weiteren Teams verschiedener Fachdisziplinen auf dem Saarbrücker Campus daran, intelligente Systeme erklärbar und transparent zu gestalten. Ihr gemeinsames Projekt „Erklärbarkeit intelligenter Systeme“ (EIS) wird von der VolkswagenStiftung gefördert und ist Teil der Initiative „Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen“. Im Auftrag des Bundeswirtschaftsministeriums hat Georg Borges bereits eine Datenschutzzertifizierung am Beispiel von Cloud-Diensten samt Teststandard, dem sogenannten „Trusted Cloud Data Protection for Cloud Services (TCDP)“ erarbeitet und einen dazugehörigen Verhaltenskodex entwickelt. 

Weitere Informationen finden Sie auf der Webseite des Instituts für Rechtsinformatik:
https://www.rechtsinformatik.saarland

Fragen beantwortet:

Prof. Dr. Georg Borges: 0681/302-3105; E-Mail: ls.borges(at)uni-saarland.de

Pressefotos zum Download:  
Die Pressefotos können Sie mit Namensnennung des Fotografen als Fotonachweis honorarfrei in Zusammenhang mit dieser Pressemitteilung und der Berichterstattung über die Universität des Saarlandes verwenden.