Oktober 2026
Projektwebsite online
Auf dieser Seite berichten wir ab sofort über den Fortschritt von NEVAKI: über Zwischenergebnisse, Veranstaltungen und Veröffentlichungen.
Neuro-symbolische Validierungsarchitektur für vertrauenswürdige KI-Systeme
Ein Forschungsprojekt der Nibiru Systems GmbH und der HTW Dresden
Diese Maßnahme wird mitfinanziert durch Steuermittel auf der Grundlage des vom Sächsischen Landtag beschlossenen Haushaltes.
KI-Ergebnisse, die sich nachweisbar prüfen lassen
NEVAKI ist ein Verbundprojekt der Nibiru Systems GmbH und der Hochschule für Technik und Wirtschaft Dresden (HTW Dresden). Es wird als InnoTeam im Rahmen des MINT-Fachkräfteprogramms des Freistaates Sachsen aus dem Europäischen Sozialfonds Plus (ESF Plus) gefördert.
KI-Systeme treffen zunehmend Entscheidungen in sicherheitskritischen und regulierten Bereichen, in denen Fehler erhebliche wirtschaftliche, rechtliche oder gesellschaftliche Folgen haben können. Ihre Zuverlässigkeit wird bislang jedoch vor allem statistisch anhand von Testdaten bewertet. Ob ein System fachliche, rechtliche oder sicherheitsrelevante Anforderungen tatsächlich einhält, lässt sich so kaum nachweisen.
Der EU AI Act macht diese Lücke dringlich: Für Hochrisiko-Anwendungen fordert er nachweisbares Risikomanagement, Validierung und technische Dokumentation. Unternehmen müssen also nicht nur leistungsfähige KI entwickeln, sondern auch belegen, warum und unter welchen Bedingungen sie ihr vertrauen können.
Begrenzte Generalisierbarkeit
Trifft ein Modell auf Fälle am Rand seiner Trainingsdaten, kann es falsch entscheiden, ohne dass Testmetriken das vorhersagen.
Intransparente Entscheidungen
Worauf ein neuronales Netz seine Entscheidung stützt, bleibt meist unklar – und damit auch, ob sie fachliche oder rechtliche Vorgaben einhält.
Kaum formal absicherbar
Formale Verifikation neuronaler Netze gelingt bisher nur für Teilaspekte oder stark vereinfachte Modelle.
Fehlende Systemsicht
Geprüft wird oft das Modell allein, nicht das Zusammenspiel mit Vor- und Nachverarbeitung, Entscheidungslogik und Betrieb.
Neuronal verstehen, symbolisch prüfen
NEVAKI verbindet die Stärke großer Sprachmodelle beim Verstehen natürlicher Sprache mit der Verlässlichkeit formaler Logik. Anforderungen, Regeln und Fachwissen werden explizit modelliert und mit den Ausgaben der KI verknüpft. So wird aus einer rein statistischen Bewertung eine wissens- und anforderungsbasierte Prüfung.
LLM-basierter Semantik-Parser
Zerlegt Texte schrittweise und überführt Aussagen in formale Strukturen wie Prädikate, Relationen, Regeln und Constraints. Automatische Prüfungen auf Syntax, Konsistenz und Vollständigkeit decken Fehler früh auf.
Regel- und Constraint-Modell
Pflichten, Verbote, Bedingungen und Ausnahmen aus Compliance-Vorgaben, medizinischen Leitlinien oder Rechtsnormen werden zu wiederverwendbaren formalen Regelwerken.
Deterministischer Logik-Solver
Prüft als harte Prüfschicht Konsistenz, Regelkonformität und Erfüllbarkeit. Unsichere oder fehlerhafte Ausgaben des Sprachmodells werden erkannt, verworfen oder neu interpretiert.
Erklärkomponente
Übersetzt Beweise, Regelverletzungen und Konflikte in verständliche Begründungen. So entsteht eine durchgängige Erklärkette von der Eingabe bis zur Entscheidung.
Eine Orchestrierungsschicht koppelt die Komponenten: Das Sprachmodell liefert Interpretationen mit Konfidenzen, die symbolische Prüfung sichert sie ab. Das System vertraut neuronalen Vorhersagen nicht blind, sondern prüft sie systematisch.
Erprobt an realen Dokumenten
Ein integrierter Demonstrator erprobt die Architektur an Texten und Dokumenten aus vier anspruchsvollen Domänen. Ziel ist der Nachweis, dass sie komplexe Fachinhalte zuverlässig formalisiert, deterministisch prüft und nachvollziehbar erklärt.
Argumentationen mit vielen Bezügen auf Normen und Vorschriften, die in sich schlüssig sein müssen.
Präzise formulierte Ansprüche und Merkmale mit hohen Anforderungen an Vollständigkeit und Konsistenz.
Interne und externe Vorgaben voller Pflichten, Verbote, Bedingungen und Ausnahmen.
Fachtexte, deren Aussagen mit medizinischen Leitlinien und Regeln vereinbar sein müssen.
In fünf aufeinander aufbauenden Arbeitspaketen geht es vom Stand der Technik über Architektur und Prototypen bis zum validierten Demonstrator.
Analyse existierender Ansätze
Systematische Analyse bestehender Ansätze für neuro-symbolische KI und die Validierung vertrauenswürdiger KI – von der Übersetzung natürlicher Sprache in formale Logik bis zu LLM-basierten Prüfverfahren. Grundlage sind Literatur-, Patent- und Technologierecherchen sowie Interviews mit Fachleuten aus Forschung und Industrie.
05/2026 – 06/2026 (2 Monate) · Meilenstein M1 – Übersicht zum Stand von Wissenschaft und Technik inklusive Gap-Analyse
Entwurf des Gesamtkonzepts
Entwurf der Referenzarchitektur und Spezifikation ihrer Module und Schnittstellen: Semantik-Parser, Regel- und Constraint-Modell, Logik-Solver, Orchestrierung und Erklärkomponente. Erste Module werden prototypisch umgesetzt, eine reproduzierbare Testumgebung entsteht.
07/2026 – 12/2026 (6 Monate) · Meilensteine M2 – Projektwebsite zur Wissenschaftskommunikation; M3 – Technologisches Gesamtkonzept der Validierungsarchitektur
Prototypen und Funktionsnachweis
Die Kernkomponenten werden als lauffähige Prototypen implementiert und gekoppelt. Experimente mit Text- und Tabellendaten aus praxisnahen Anwendungsfällen zeigen, ob natürliche Sprache zuverlässig formalisiert und reproduzierbar geprüft werden kann – auch in Grenz- und Fehlerfällen.
01/2027 – 09/2027 (9 Monate) · Meilensteine M4 – Integrierte Prototypen der Kernkomponenten; M5 – Experimenteller Nachweis der Funktionstüchtigkeit
Validierung in der Praxis
Ein integrierter Labordemonstrator führt alle Module zusammen und wird an Dokumenten aus Recht, Patentwesen, Compliance und Medizin erprobt – bewertet nach Vollständigkeit der Formalisierung, Regelkonformität und Qualität der Erklärungen.
10/2027 – 06/2028 (9 Monate) · Meilensteine M6 – Integrierter Labordemonstrator in Betrieb; M7 – Technologievalidierung in relevanter Einsatzumgebung
Dokumentation und Verwertung
Die Ergebnisse werden dokumentiert und veröffentlicht. Dazu kommen eine Roadmap für die Weiterentwicklung sowie die Bewertung von Schutzrechten, Verwertung und möglichen Beiträgen zur Standardisierung.
07/2028 – 09/2028 (3 Monate) · Meilensteine M8 – Projektdokumentation und wissenschaftliche Veröffentlichung; M9 – Verwertungs- und Weiterentwicklungskonzept
In fünf aufeinander aufbauenden Arbeitspaketen geht es vom Stand der Technik über Architektur und Prototypen bis zum validierten Demonstrator.
1.
Analyse existierender Ansätze
Systematische Analyse bestehender Ansätze für neuro-symbolische KI und die Validierung vertrauenswürdiger KI – von der Übersetzung natürlicher Sprache in formale Logik bis zu LLM-basierten Prüfverfahren. Grundlage sind Literatur-, Patent- und Technologierecherchen sowie Interviews mit Fachleuten aus Forschung und Industrie.
05/2026 – 06/2026 (2 Monate) · Meilenstein M1 – Übersicht zum Stand von Wissenschaft und Technik inklusive Gap-Analyse
2.
Entwurf des Gesamtkonzepts
Entwurf der Referenzarchitektur und Spezifikation ihrer Module und Schnittstellen: Semantik-Parser, Regel- und Constraint-Modell, Logik-Solver, Orchestrierung und Erklärkomponente. Erste Module werden prototypisch umgesetzt, eine reproduzierbare Testumgebung entsteht.
07/2026 – 12/2026 (6 Monate) · Meilensteine M2 – Projektwebsite zur Wissenschaftskommunikation; M3 – Technologisches Gesamtkonzept der Validierungsarchitektur
3.
Prototypen und Funktionsnachweis
Die Kernkomponenten werden als lauffähige Prototypen implementiert und gekoppelt. Experimente mit Text- und Tabellendaten aus praxisnahen Anwendungsfällen zeigen, ob natürliche Sprache zuverlässig formalisiert und reproduzierbar geprüft werden kann – auch in Grenz- und Fehlerfällen.
01/2027 – 09/2027 (9 Monate) · Meilensteine M4 – Integrierte Prototypen der Kernkomponenten; M5 – Experimenteller Nachweis der Funktionstüchtigkeit
4.
Validierung in der Praxis
Ein integrierter Labordemonstrator führt alle Module zusammen und wird an Dokumenten aus Recht, Patentwesen, Compliance und Medizin erprobt – bewertet nach Vollständigkeit der Formalisierung, Regelkonformität und Qualität der Erklärungen.
10/2027 – 06/2028 (9 Monate) · Meilensteine M6 – Integrierter Labordemonstrator in Betrieb; M7 – Technologievalidierung in relevanter Einsatzumgebung
5.
Dokumentation und Verwertung
Die Ergebnisse werden dokumentiert und veröffentlicht. Dazu kommen eine Roadmap für die Weiterentwicklung sowie die Bewertung von Schutzrechten, Verwertung und möglichen Beiträgen zur Standardisierung.
07/2028 – 09/2028 (3 Monate) · Meilensteine M8 – Projektdokumentation und wissenschaftliche Veröffentlichung; M9 – Verwertungs- und Weiterentwicklungskonzept
Was am Ende stehen soll
Oktober 2026
Auf dieser Seite berichten wir ab sofort über den Fortschritt von NEVAKI: über Zwischenergebnisse, Veranstaltungen und Veröffentlichungen.
Vorträge, Workshops und Veröffentlichungen aus dem Projekt ergänzen wir hier laufend.
Ob KI dort eingesetzt werden kann, wo es auf Verlässlichkeit ankommt, hängt davon ab, ob sich ihr Verhalten nachweisbar prüfen lässt.
Der EU AI Act verlangt für Hochrisiko-Anwendungen eine nachweisbare Validierung. NEVAKI schafft die technische Grundlage, um Regelkonformität prüfbar und dokumentierbar zu machen.
Nachvollziehbare, regelkonforme KI senkt Haftungs- und Investitionsrisiken und verkürzt Entwicklungs- und Freigabeprozesse – gerade für kleine und mittlere Unternehmen.
Im InnoTeam entstehen Kompetenzen an der Schnittstelle von KI, Wissensrepräsentation, Softwareentwicklung und Systemabsicherung – und qualifizierte Arbeitsplätze in Sachsen.
NEVAKI stärkt Dresden als Kompetenzregion für vertrauenswürdige KI, eingebettet in ein Umfeld aus Silicon Saxony, Smart Systems Hub und technologieorientierten Unternehmen.
Ein InnoTeam aus Wirtschaft und Wissenschaft
Im InnoTeam arbeiten Mitarbeiterinnen und Mitarbeiter der Nibiru Systems GmbH und der HTW Dresden gemeinsam an dem Vorhaben. Industrielle Entwicklungserfahrung trifft auf wissenschaftliche Methodenkompetenz – und stärkt den Wissenstransfer zwischen Hochschule und Wirtschaft.
Koordinator
Das 2022 gegründete Dresdner Unternehmen entwickelt datengetriebene Lösungen und KI-Anwendungen – von der Datenanalyse über KI-Strategien und Prototypen bis zur Integration in bestehende IT-Landschaften. Nibiru koordiniert NEVAKI, verantwortet die praxisnahe Ausgestaltung der Architektur, die Entwicklungs- und Demonstrationsumgebungen sowie die Verwertung der Ergebnisse.
nibiru-systems.deWissenschaftlicher Partner · Professur für Datenbanksysteme, Prof. Dr.-Ing. Maik Thiele
Die Professur forscht zu datengetriebenen, KI-basierten Analyse- und Validierungssystemen, unter anderem zu Unsicherheitsmessung in Sprachmodellen und ethischer KI. Die HTW Dresden verantwortet die wissenschaftlich-methodische Fundierung, Experimente und Evaluationsstudien und bringt die Ergebnisse in Lehre und Abschlussarbeiten ein.
htw-dresden.deSie interessieren sich für NEVAKI, möchten an einem Workshop teilnehmen oder eigene Anwendungsfälle als Praxispartner einbringen?
Wir freuen uns auf Ihre Nachricht.
Sie interessieren sich für NEVAKI, möchten an einem Workshop teilnehmen oder eigene Anwendungsfälle als Praxispartner einbringen?
Wir freuen uns auf Ihre Nachricht.
E-Mail:
Telefon:
Kofinanziert von der Europäischen Union und dem Freistaat Sachsen
NEVAKI wird als InnoTeam im Rahmen des MINT-Fachkräfteprogramms des Freistaates Sachsen von der Europäischen Union aus dem Europäischen Sozialfonds Plus (ESF Plus) kofinanziert. Diese Maßnahme wird mitfinanziert durch Steuermittel auf der Grundlage des vom Sächsischen Landtag beschlossenen Haushaltes.
Der Europäische Sozialfonds Plus ist das wichtigste Instrument der Europäischen Union, um in Menschen zu investieren – in Beschäftigung, Bildung und Qualifizierung.
Diese Maßnahme wird mitfinanziert durch Steuermittel auf der Grundlage des vom Sächsischen Landtag beschlossenen Haushaltes.
Qualitativ hochwertige Data-Science- und KI-Beratung
Rechtliches
Seiten
Navigation
Nach oben
Ansatz
Arbeitsplan
Ergebnisse
Kontakt
Socials
Qualitativ hochwertige Data-Science- und KI-Beratung
Rechtliches
Seiten
Navigation
Nach oben
Ansatz
Arbeitsplan
Ergebnisse
Kontakt
Socials
© Nibiru Systems GmbH 2026
