Geförderte Projekte

NEVAKI

Neuro-symbolische Validierungsarchitektur für vertrauenswürdige KI-Systeme

Diese Maßnahme wird mitfinanziert durch Steuermittel auf der Grundlage des vom Sächsischen Landtag beschlossenen Haushaltes.

Projektpartner:

Nibiru Systems GmbH (Koordinator) und Hochschule für Technik und Wirtschaft Dresden (HTW Dresden), Professur für Datenbanksysteme, Prof. Dr.-Ing. Maik Thiele

Laufzeit:

05/2026 – 09/2028

Förderung:

Europäischer Sozialfonds Plus (ESF Plus) und Freistaat Sachsen, MINT-Fachkräfteprogramm (InnoTeam)

Ausgangslage

KI-Systeme treffen zunehmend Entscheidungen in sicherheitskritischen und regulierten Bereichen. Ihre Zuverlässigkeit wird bislang jedoch vor allem statistisch anhand von Testdaten bewertet. Ob ein System fachliche, rechtliche oder sicherheitsrelevante Anforderungen tatsächlich einhält, lässt sich so kaum nachweisen – gerade mit Blick auf den EU AI Act, der für Hochrisiko-Anwendungen eine nachweisbare Validierung fordert.

Ziel des Vorhabens

In NEVAKI entwickeln wir eine neuro-symbolische Validierungsarchitektur: Große Sprachmodelle erschließen unstrukturierte Texte und Daten, symbolische Verfahren prüfen die Ergebnisse anschließend gegen explizit modellierte Regeln und Anforderungen. Ein deterministischer Logik-Solver macht diese Prüfung reproduzierbar, und eine Erklärkomponente übersetzt die Ergebnisse in nachvollziehbare Begründungen in natürlicher Sprache. So werden KI-Systeme nicht nur leistungsfähig, sondern auch überprüfbar und beherrschbar.

Geplante Ergebnisse

• Eine Referenzarchitektur, die neuronale und symbolische Komponenten koppelt
• Prototypen für einen LLM-basierten Semantik-Parser, formale Regel- und Constraint-Modelle, einen deterministischen Logik-Solver und die erklärbare Rückübersetzung der Prüfergebnisse
• Ein integrierter Demonstrator, erprobt an Dokumenten aus vier Anwendungsfeldern: rechtliche Schriftsätze, Patentschriften, Compliance-Dokumente und medizinische Beschreibungen
• Wissenschaftliche Veröffentlichungen sowie ein Konzept, die Ergebnisse in Produkte und Dienstleistungen für vertrauenswürdige KI, KI-Governance und Compliance zu überführen

Über Zwischen- und Endergebnisse berichten wir an dieser Stelle im Laufe des Projekts.

InnoTeam

Im InnoTeam arbeiten Mitarbeiterinnen und Mitarbeiter der Nibiru Systems GmbH und der HTW Dresden gemeinsam an dem Vorhaben und bauen dabei Kompetenzen an der Schnittstelle von Künstlicher Intelligenz, Wissensrepräsentation und Softwarearchitektur auf. Das Projekt stärkt so den Wissenstransfer zwischen Hochschule und Wirtschaft und den KI-Standort Sachsen.

Das Vorhaben wird im Rahmen des MINT-Fachkräfteprogramms des Freistaates Sachsen von der Europäischen Union aus dem Europäischen Sozialfonds Plus (ESF Plus) kofinanziert. Diese Maßnahme wird mitfinanziert durch Steuermittel auf der Grundlage des vom Sächsischen Landtag beschlossenen Haushaltes.