Responsible AI und Governance

Die Situation

KI-Use-Cases in einem Unternehmen der Bundesverwaltung müssen Governance, Datenschutz, Informationssicherheit und den EU AI Act erfüllen — und trotzdem für die Menschen nutzbar bleiben, die die Arbeit erledigen. Regeln allein sagen einem Team nicht, was gebaut werden soll oder wie sich ein System verhalten soll. Ein Fokus lag darauf, Beschäftigten im entscheidenden Moment zu helfen, ob und wie sie KI für eine bestimmte Aufgabe oder Information nutzen dürfen.

Audit

Was ich gefunden habe

Ich habe KI-Use-Cases analysiert und strukturiert — bezogen auf Nutzerbedürfnisse, organisatorische Anforderungen, Governance und verantwortungsvolle Umsetzung — gemeinsam mit Fachbereichen, Produktteams, Technologie und Informationssicherheit.

Pathway

Der Weg, den wir gestaltet haben

Ich habe regulatorische, technische und organisatorische Anforderungen in Konzepte, Entscheidungsdokumente und Umsetzungsmaßnahmen übersetzt, mit denen Teams arbeiten konnten. Statt von Menschen zu verlangen, sich Richtlinien zu merken, habe ich die Regeln in kurze Entscheidungshilfen für die Momente übersetzt, in denen sie gelten: bevor Informationen in ein KI-Werkzeug eingegeben werden, wenn die Sensibilität von Daten beurteilt wird, wenn ein neuer KI-Use-Case gegen Regulierung geprüft wird, und immer dann, wenn jemand unsicher ist. Die Hilfen sind für alle Beschäftigten gedacht, mit besonderem Augenmerk auf nicht-technische und administrative Rollen. Den weiteren Blick, den ich nutze, bevor ein Use Case gebaut wird, finden Sie unter How I evaluate AI use cases (auf Englisch).

Prototype

Was wir greifbar gemacht haben

Eine Reihe praktischer Entscheidungshilfen: eine Eingabeprüfung vor dem Eintragen von Informationen in ein KI-Werkzeug, eine Prüfung der Datensensibilität, eine Entscheidungshilfe zur Bewertung von Use Cases gegenüber der Regulierung, und eine einfache Regel für unsichere Momente: stoppen, prüfen, nachfragen. Sie sind in szenariobasiertes Lernen in Articulate Storyline und Rise 360 eingebettet, beschrieben unter AI Learning Pathways (auf Englisch).

Test

Was das Testen gezeigt hat

Kolleginnen und Kollegen aus verschiedenen Teilen der Organisation haben die Hilfen in mehreren Feedbackrunden geprüft.

Meine Rolle

Senior UX Specialist für KI-Strategie, Einführung und digitales Vertrauen. Ich habe KI-Use-Cases analysiert, Governance-Anforderungen in Konzepte und Entscheidungsdokumente übersetzt und die praktischen Entscheidungshilfen als Teil eines übergreifenden Teams gestaltet.