Jenny Simonds-Spellmann

Über mich

KI-Einführung, die Menschen mitnimmt

Ich bin Jennifer Simonds-Spellmann, Senior UX/AI Design Specialist bei der Bundesdruckerei in Berlin. Ich gestalte, wie öffentliche Einrichtungen Künstliche Intelligenz verantwortungsvoll einführen, so dass Beschäftigte sie verstehen, steuern und ihr vertrauen können.

Agentische KI, mit dem Menschen darin

Agenten antworten nicht nur; sie planen, nutzen Werkzeuge und handeln. Ich helfe Organisationen zu entscheiden, wie viel Autonomie jede Aufgabe haben sollte, und baue die Schutzmaßnahmen, die den sicheren Einsatz ermöglichen.

Wie ich agentische KI angehe

Was ich in KI-Vorhaben einbringe

Eine KI-Strategie zählt erst, wenn sie verändert, wie gearbeitet wird. In diesen vier Bereichen sorge ich dafür.

  • Strategie und Use Cases

    Ich übersetze KI-Ambitionen in eine Roadmap: Use Cases, bewertet nach Nutzen, Daten, Risiko und Aufwand, mit einer klaren Empfehlung, was gebaut, eingekauft, pilotiert oder zurückgestellt wird.

    In der Praxis: Wie ich KI-Use-Cases bewerte (auf Englisch)

  • Governance und Risiko

    Ich übersetze EU AI Act, Datenschutz und Informationssicherheit in Richtlinien und Entscheidungshilfen, die Menschen genau dann nutzen können, wenn es darauf ankommt.

    In der Praxis: Responsible AI und Governance

  • Befähigung und Lernen

    Ich berate Leitung und Fachbereiche und gestalte rollenbasierte Lernpfade, mit denen Menschen KI sicher in ihrer eigenen Arbeit einsetzen.

    In der Praxis: KI-Lernen und Befähigung (auf Englisch)

Agentische KI, mit dem Menschen darin

Agenten antworten nicht nur; sie planen, nutzen Werkzeuge und handeln. Ich helfe Organisationen zu entscheiden, wie viel Autonomie jede Aufgabe haben sollte, und baue die Schutzmaßnahmen, die den sicheren Einsatz ermöglichen.

Wie ich agentische KI angehe

Methode

Von der KI-Idee zur veränderten Arbeit

Meine Methode, mit der Technik und dem menschlichen Prüfpunkt in jeder Stufe. An einem Beispiel entlang: ein mehrsprachiger Assistent, der Bewerberfragen in einem Antragsverfahren mit hohem Volumen beantwortet.

  • Menschlicher Prüfpunkt
  • System- oder KI-Schritt
Methoden-Pipeline von Audit bis Scale mit RückkopplungsschleifeEine fünfstufige Pipeline: Audit, Pathway, Prototype, Test und Scale. Eine durchgehende Flusslinie führt durch jede Stufe. An jeder Stufe sitzt ein menschlicher Prüfpunkt. Ein gestrichelter Pfeil führt von Scale zurück zu Audit.01Audit02Pathway03Prototype04Test05Scale

  1. Audit — Verstehen, was wirklich passiert.

    Was passiert
    Ich kartiere mit den beteiligten Teams die echte Arbeit, die Daten und die Schmerzpunkte, und halte fest, was die Technik inzwischen kann.
    Technik
    Prozess- und Dateninventar, Analyse eingehender Anfragen, Überblick über verfügbare Tools und Plattformen.
    Menschlicher Prüfpunkt
    Die Fachbereiche bestätigen, dass sich das Problem zu lösen lohnt.

    Beispiel: Viele Bewerber-E-Mails sind wiederkehrende Fragen zu Unterlagen und Fristen.

  2. Pathway — Entscheiden, was gebaut wird und wie es laufen darf.

    Was passiert
    Anforderungen, Use-Case-Bewertung und die Wahl des Ansatzes, bevor jemand baut.
    Technik
    Build, Buy, RAG oder Fine-Tuning; Cloud, souveräne Cloud oder On-Premise; Risikoklasse nach EU AI Act; Datenschutz; Abstimmung mit Informationssicherheit (NIS-2, ISO 27001).
    Menschlicher Prüfpunkt
    Governance, Informationssicherheit und Datenschutz geben frei. Nichts verlässt die Sandbox ohne das.
    Im Bild
    Tor: verlässt die Sandbox nur mit Freigabe.

    Beispiel: Assistent mit begrenztem Risiko und Transparenzhinweis, EU-gehostetes Modell, nur offizielle Leitlinien als Quelle, keine Rolle bei Zulassungsentscheidungen.

  3. Prototype — Es greifbar machen.

    Was passiert
    Eine funktionierende Version, auf die Menschen reagieren können, in kleinen Iterationen gebaut.
    Technik
    Retrieval-Augmented Generation über freigegebene Inhalte, Anbindung an bestehende Systeme über APIs, Logging von Tag eins.
    Menschlicher Prüfpunkt
    Die Mitarbeitenden, die diese Fragen heute beantworten, prägen Antworten, Ton und Grenzen.
    Im Bild
    Freigegebene Quellen → Index → Abruf → Sprachmodell → Antwort mit Zitat, plus Übergabe an einen Menschen, wenn das System unsicher ist.

    Beispiel: Der Assistent antwortet in der Sprache der Antragstellerin oder des Antragstellers, zitiert die offizielle Seite und übergibt an einen Menschen, wenn er unsicher ist.

  4. Test — Menschen wieder in das System holen.

    Was passiert
    Wir prüfen, ob es gut genug ist — und für wen.
    Technik
    Evaluationssatz aus echten früheren Fragen, Prüfungen zu Genauigkeit und Zitaten, Tests für Fehlermodi (erfundene Antworten, veraltete Regeln, falsche Sprache), Accessibility-Tests.
    Menschlicher Prüfpunkt
    Menschen prüfen die Fehler und entscheiden, welche inakzeptabel sind.
    Im Bild
    Wir trennen kritische von akzeptablen Fehlern — Menschen entscheiden, welche Fehler nie ausgeliefert werden dürfen.

    Beispiel: Eine falsche Frist zählt als kritischer Fehler. Getestet wird an echten Fragen, bevor Antragstellende ihn sehen.

  5. Scale — Daraus Fähigkeit machen.

    Was passiert
    Einführung mit den betroffenen Menschen und Verantwortung, die bleibt.
    Technik
    Monitoring, Rückmeldungen von Nutzenden, Prozess zum Aktualisieren der Quellen, Zugriffskontrolle, Kostenverfolgung.
    Menschlicher Prüfpunkt
    Benannte Verantwortliche, geschulte Mitarbeitende und eine regelmäßige Überprüfung.
    Im Bild
    Dieselbe Fähigkeit erreicht Antragstellende, Sachbearbeitung und Governance.

    Beispiel: Sachbearbeitung lernt Escalations und meldet veraltete Antworten; der Assistent wird monatlich geprüft.

Illustratives Beispiel, kein Kundenprojekt.

  • KI-Strategie und Leitlinien

    Mit dem Trust-by-Design-Framework (Erklärbarkeit, Eingriffsmöglichkeit, Wiederherstellbarkeit, Verantwortlichkeit) übersetze ich Anforderungen wie den EU AI Act in praktikable Richtlinien.

  • Teams begleiten

    Embedded Research mit über 14 KI-Umsetzungsteams im öffentlichen Sektor.

  • Digitale Verwaltung

    Konzeption und Gestaltung von i-Kfz, der ersten BITV-zertifizierten Behördenanwendung Deutschlands, mit über 1 Mio. Downloads. Aufbau des UX-Teams von 0 auf 6 Personen.

Hintergrund

MA Design for Responsible AI. Bildende Kunst und Film, frühe Laufbahn im Bereich Visual Effects in London. Seit 2002 in Berlin, Arbeitssprachen Deutsch und Englisch.

Ausgewählte Arbeiten

Kontakt

[Kontaktweg: E-Mail oder LinkedIn]

info@jennifersimonds.comLinkedInjennifersimonds.comEquitAI

English About page