KI-Governance beginnt auch bei der Bedeutung

KI-Governance: Wenn dieselben Regeln unterschiedlich verstanden werden

Unternehmen führen KI-Anwendungen ein, definieren Richtlinien und entwickeln Freigabeprozesse. Dennoch können unterschiedliche Teams und KI-Workflows dieselben Begriffe, Aufgaben und Vorgaben verschieden interpretieren. Was in einer Abteilung als verbindliche Regel gilt, erscheint in einer anderen Anwendung möglicherweise nur als unverbindliche Empfehlung.

Dieses Problem betrifft eine häufig unterschätzte Dimension der KI-Governance: die semantische Stabilität.

Sie beschreibt, inwieweit die vereinbarte Bedeutung von Begriffen, Aussagen und Regeln über unterschiedliche Kontexte hinweg erhalten bleibt. Ohne eine gemeinsame Bedeutungsgrundlage können selbst dokumentierte Richtlinien uneinheitlich angewendet werden.

Semantische Stabilität ersetzt keine Governance-Maßnahmen. Sie kann jedoch eine wichtige Voraussetzung dafür schaffen, dass bestehende Regeln nachvollziehbar interpretiert und angewendet werden.

Woran sich semantische Instabilität erkennen lässt

Semantische Instabilität muss sich nicht durch offensichtliche Fehler bemerkbar machen. Häufig zeigt sie sich in kleinen Bedeutungsverschiebungen zwischen Dokumenten, Prompts und Arbeitsabläufen.

Mögliche Symptome sind:

• Unterschiedliche Begriffsdefinitionen: Zwei KI-Assistenten interpretieren denselben Unternehmensbegriff unterschiedlich, weil ihre Referenzmaterialien voneinander abweichen.
• Widersprüchliche Aussagen: Dieselbe Regel wird in verschiedenen Workflows mit unterschiedlicher Verbindlichkeit wiedergegeben.
• Wiederkehrende manuelle Korrekturen: Redaktionelle oder fachliche Teams müssen dieselben Bedeutungsabweichungen mehrfach korrigieren.
• Unklare Freigabeentscheidungen: Es ist nicht erkennbar, auf welche Version einer Vorgabe sich eine KI-Ausgabe bezieht.
• Vermischte Informationsstände: Entwürfe, historische Dokumente und freigegebene Aussagen werden ohne eindeutige Unterscheidung verwendet.
• Veränderte Bedeutungen im Workflow: Eine ursprünglich eingeschränkte Aussage wird in späteren Verarbeitungsschritten als allgemeingültig formuliert.

Diese Beispiele sind mögliche Erscheinungsformen, keine allgemeingültige Diagnose. Vergleichbare Symptome können auch durch Datenqualität, Modellverhalten, fehlerhafte Implementierungen oder unzureichende Prozesskontrollen entstehen.

Warum Bedeutungen zwischen KI-Workflows auseinanderlaufen können

Fragmentierter Kontext

KI-Anwendungen arbeiten häufig mit unterschiedlichen Ausschnitten des verfügbaren Unternehmenswissens. Eine Anwendung erhält eine aktuelle Fachrichtlinie, eine andere verwendet ältere Dokumentation oder einen verkürzten Auszug.

Damit unterscheiden sich nicht nur die verfügbaren Informationen. Auch die Grundlage für ihre Interpretation verändert sich.

Überlagerte Anweisungen

Systemvorgaben, Prompts, lokale Arbeitsanweisungen und eingebrachte Dokumente können voneinander abweichende Anforderungen enthalten. Ohne klar definierte Prioritäten und Gültigkeitsbereiche ist möglicherweise unklar, welche Aussage im konkreten Kontext massgeblich sein soll.

Fehlende gemeinsame Bedeutungsreferenzen

Ein Glossar kann festlegen, wie ein Begriff heisst. Für seine verbindliche Verwendung sind jedoch häufig weitere Informationen erforderlich: Definition, fachlicher Kontext, verantwortliche Stelle, Quelle und Gültigkeitsbereich.

Fehlen diese Beziehungen, kann eine formal einheitliche Terminologie dennoch unterschiedlich interpretiert werden.

Veränderungen im Arbeitsablauf

Unternehmenswissen verändert sich durch neue Produkte, Richtlinien und organisatorische Entscheidungen. Werden Referenzen nicht abgestimmt aktualisiert, können unterschiedliche Anwendungen auf verschiedenen Bedeutungsständen arbeiten.

Welche betrieblichen Folgen entstehen können

Semantische Abweichungen können zusätzliche Abstimmungen und redaktionelle Nacharbeit erforderlich machen. Besonders relevant wird dies, wenn mehrere Anwendungen dieselben Informationen für unterschiedliche Aufgaben verwenden.

Auch die Nachvollziehbarkeit kann leiden. Wenn weder Referenzversion noch Gültigkeitsbereich bekannt sind, lässt sich schwerer beurteilen, warum eine bestimmte Aussage verwendet wurde.

Für Compliance und Risikomanagement entsteht damit eine zusätzliche Prüffrage: Nicht nur, ob eine Regel existiert, sondern auch, welche Bedeutung ihr im jeweiligen Anwendungskontext zugewiesen wurde.

Daraus lassen sich jedoch ohne konkrete Untersuchungen keine allgemeinen Aussagen über Kosten, Fehlerquoten oder Auditergebnisse ableiten.

Semantische Stabilität als ergänzende Governance-Aufgabe

Ein möglicher Ansatz besteht darin, zentrale Unternehmensbegriffe und Aussagen als überprüfbare, versionierte Bedeutungsreferenzen zu dokumentieren.

Dazu gehören Definitionen, Quellen, Gültigkeitsbereiche, fachliche Zuständigkeiten und Freigabestatus. Entscheidend ist, dass nicht nur Informationen gespeichert werden, sondern auch ihre vereinbarte Bedeutung und Verbindlichkeit nachvollziehbar bleiben.

Richtlinien und Checklisten beschreiben, was zu beachten ist. Semantische Referenzen ergänzen diese Vorgaben um die Frage, was die verwendeten Begriffe und Aussagen im jeweiligen Kontext bedeuten.

Technische Zugriffskontrollen, Tests, menschliche Freigaben und regulatorische Prüfungen bleiben weiterhin erforderlich. Semantische Governance ist deshalb als ergänzende organisatorische und technische Aufgabe zu verstehen, nicht als Ersatz bestehender Kontrollmechanismen.

Wie NARRIEL den Ansatz versteht

NARRIEL unterscheidet zwischen einer verbindlichen Bedeutungsgrundlage und den einzelnen Anwendungen, die diese nutzen sollen.

Mit Semantic Enterprise Identity können Begriffe, Rollen, Aussagen, Quellen und Gültigkeitsbereiche zu einem semantischen Unternehmensprofil strukturiert werden. Der NARRIEL Semantic Snapshot trägt diese dokumentierte und versionierte Referenz.

Dabei werden drei Funktionen getrennt: Canon als freigegebene Referenz, Ingest als neu eingebrachte Information und Goal als jeweilige Aufgabenstellung. Neues Material wird dadurch nicht automatisch zu einer verbindlichen Unternehmensvorgabe.

Enterprise Semantic Governance ergänzt diese Grundlage um Regeln, Zuständigkeiten, Freigabewege und definierte Integrationsschnittstellen für ausgewählte KI-Anwendungen.

Die Integration ist projektabhängig und muss für jedes Zielsystem validiert werden. Eine allgemeine, bereits nachgewiesene zentrale Governance über mehrere produktive KI-Systeme wird damit nicht behauptet.

Drei illustrative Anwendungsszenarien

Support: Unterschiedliche Produktdefinitionen

Problem: Ein Support-Assistent verwendet eine ältere Produktbezeichnung, während die aktuelle Dokumentation bereits eine geänderte Definition enthält.

Möglicher Ansatz: Versionierte Terminologie mit Quellen und Gültigkeitsbereichen kann helfen, die jeweils freigegebene Definition zu identifizieren.

Fachbereiche: Gemeinsame Begriffe, unterschiedliche Bedeutungen

Problem: Vertrieb und Engineering verwenden den Begriff „verfügbar“, meinen damit jedoch unterschiedliche Produkt- oder Lieferzustände.

Möglicher Ansatz: Getrennte Definitionen mit fachlichen Verantwortlichkeiten können verhindern helfen, dass unterschiedliche Sachverhalte unbeabsichtigt gleichgesetzt werden.

Regulierte Abläufe: Unklare Regelgrundlage

Problem: Eine KI-Anwendung erstellt eine fachliche Zusammenfassung, deren zugrunde liegende Richtlinienversion nicht eindeutig erkennbar ist.

Möglicher Ansatz: Dokumentierte Referenzstände, Freigaben und anwendungsbezogene Prüfprotokolle können die spätere Bewertung unterstützen, sofern ihre technische Erfassung validiert wurde.

Grenzen semantischer Stabilität

Eine konsistente Referenz ist nicht automatisch eine sachlich richtige Referenz. Fehlerhafte oder veraltete Ausgangsinformationen bleiben problematisch, auch wenn sie einheitlich verwendet werden.

Ebenso garantiert eine gemeinsame Bedeutungsgrundlage weder fehlerfreie KI-Ausgaben noch vollständige Reproduzierbarkeit, Informationssicherheit oder regulatorische Konformität.

Semantische Stabilität kann die Voraussetzungen für nachvollziehbare Interpretationen verbessern. Ob dies in einer konkreten Anwendung gelingt, muss jedoch anhand ihrer tatsächlichen Ergebnisse, Schnittstellen und Kontrollverfahren überprüft werden.

Fazit: Governance muss auch Bedeutung berücksichtigen

KI-Governance betrifft nicht nur die Kontrolle von Anwendungen, sondern auch die Verbindlichkeit jener Informationen, mit denen diese Anwendungen arbeiten.

Wer Begriffe, Quellen, Gültigkeitsbereiche und Zuständigkeiten nachvollziehbar definiert, schafft eine überprüfbare Grundlage für konsistentere Interpretationen. Die eigentliche Governance entsteht im Zusammenspiel dieser Referenzen mit technischen Kontrollen, organisatorischer Verantwortung und menschlicher Prüfung.

Wenn Sie die Bedeutungsgrundlagen Ihrer KI-Workflows untersuchen möchten, können Sie Ihre bestehenden Anwendungen und Referenzen mit NARRIEL besprechen.

FAQ

Was bedeutet semantische Stabilität bei KI?

Semantische Stabilität beschreibt, inwieweit die vereinbarte Bedeutung von Begriffen, Aussagen und Regeln über unterschiedliche KI-Anwendungen und Workflows hinweg erhalten bleibt. Dabei geht es nicht um identische Formulierungen, sondern um nachvollziehbare und kontextgerechte Interpretationen.

Reichen Richtlinien und Prompt-Vorgaben nicht aus?

Richtlinien und Prompts sind wichtige Steuerungsinstrumente. Sie legen jedoch nicht automatisch fest, wie unterschiedliche Anwendungen mehrdeutige Begriffe oder widersprüchliche Dokumente interpretieren. Gemeinsame Bedeutungsreferenzen können diese Vorgaben ergänzen.

Garantiert eine semantische Referenz richtige KI-Antworten?

Nein. Eine semantische Referenz dokumentiert vereinbarte Bedeutungen und Vorgaben, bestätigt aber nicht selbstständig deren sachliche Richtigkeit. Quellenprüfung, Anwendungstests und menschliche Freigaben bleiben erforderlich.

Wie lässt sich die Nutzung von Bedeutungsreferenzen nachvollziehen?

Dafür können Referenzversionen, Quellen, Gültigkeitsbereiche und Freigabestände dokumentiert werden. Ob eine KI-Anwendung die tatsächlich verwendeten Referenzen zuverlässig protokollieren kann, hängt von ihrer technischen Architektur ab und muss gesondert überprüft werden.

Kann NARRIEL die Governance in bestehende KI-Systeme integrieren?

Eine Integration ist projektabhängig möglich und wird nicht pauschal zugesagt. Die betreffenden Systeme, Schnittstellen, Sicherheitsanforderungen und Validierungsmöglichkeiten müssen einzeln geprüft werden. Erst danach lässt sich ein belastbarer Integrationsumfang festlegen.