Wie KI-Agenten in regulierten Unternehmen gesteuert werden

Timotheos Samartzidis

Ich bin Enterprise Architect in Wiesbaden. Ich baue Experimente und schreibe darüber, was geklärt sein muss, bevor ein KI-Agent in einem Unternehmen handeln darf, in dem Regeln und Prüfungen gelten.

Ein Agent kann seinen Weg zu einem Ergebnis selbst finden. Wer freigibt, was aufgezeichnet wird und wie sich eine Aktion rückgängig machen lässt, bleibt Sache der Organisation. Die sechs Punkte unten sind, was ich dazu bisher erarbeitet habe. Auf dieser Seite spreche ich für mich und nicht für meinen Arbeitgeber.

Sechs Punkte zur Steuerung von Agenten

Jeder Punkt verweist auf den Essay dahinter. Die Grundidee steht in Governed Intelligence.

Der Weg einer Aktion
Ergebnis eine benannte Zusage Agent wählt den Weg,schlägt eine Aktion vor Prüfung im System Befugnis, Budget,nötige Freigabe Dienst führt die Aktion aus Rückmeldung bestätigt, fehlgeschlagenoder unbekannt Person gibt frei, wenn eine Prüfung nötig ist Nachweis zurück an den Agenten
  1. 01

    Ein Ergebnis und seine Folgen

    Ein Review beginnt mit einem Ergebnis, das der Agent herbeiführen kann, und mit dem, was daraus folgt. Danach wird gefragt, wer jede Änderung freigeben darf.

    An agent architecture review starts with the commitment (Englisch)

  2. 02

    Flexibler Weg, ausdrückliche Befugnis

    Ein Agent darf wählen, wie er zu einem Ergebnis kommt. Wer einen Einkauf freigeben darf und welcher Dienst ihn auslöst, entscheidet weiterhin das Unternehmen.

    When to use a workflow and when to let an agent choose the route (Englisch)

  3. 03

    Erlaubnis durch das System

    Ein Modell kann ein Dokument auslegen oder einen nächsten Schritt vorschlagen. Das umgebende System entscheidet, wann eine Prüfung nötig ist, und setzt durch, ob eine Aktion ausgeführt werden darf.

    Agentische KI im Unternehmen gestalten

  4. 04

    Unbekannte Ergebnisse

    Gelingt eine Buchung und geht die Antwort verloren, sieht der Agent nur eine Zeitüberschreitung. Das System muss das Ergebnis als unbekannt führen, bis es beim ausführenden Dienst nachfragen kann.

    Authority and recovery have to survive the handoff (Englisch)

  5. 05

    Budgets im Code

    Zeit, Werkzeugaufrufe, Kosten und Wiederholungen sind Grenzen, die der Code durchsetzt. Die Zuversicht eines Modells belegt nicht, dass eine Aufgabe erledigt ist.

    An agent architecture review starts with the commitment (Englisch)

  6. 06

    Einarbeitung vor Autonomie

    Ein Agent bekommt, was ein neuer Kollege bekommt: eine Rolle, begrenzte Zugriffe, ausgewählten Kontext, einen Eskalationsweg und eine Probezeit.

    Why every AI agent needs onboarding before it gets autonomy (Englisch)

Neue Texte

Alle Texte

Experimente und Workshops

Graph-Walk-Experiment

Ein Experiment dazu, ob ein Wissensgraph die nächste Entscheidung eines Agenten verändern kann. Budget, Abbruchregel und Fehlerbilder sind festgehalten.

Zum Essay (Englisch)

Character Reactor

Zwei Figuren erhalten dieselben Worte und reagieren unterschiedlich. Ein lokales Modell läuft im Browser; Zustand und Entscheidungen lassen sich einsehen.

Anwendung öffnen

Klarogram

Eine App für Transkription, die offline im Browser läuft. Die Aufnahme verlässt das Gerät nicht.

Zur Produktseite

Workshops: ein Remote-Workshop für rund 200 Personen aus der F&E dazu, wie man mit einem internen KI-Portal aus Excel-Daten prüfbare HTML-Berichte erzeugt, gefolgt von einem zweiten zu Unternehmensdesign und druckbarer PDF-Ausgabe. Teilnehmende haben die Methode später auf eigene Aufgaben übertragen.

Über mich

Ich arbeite als Principal Systems / IT-Architect Engineer bei der R+V Versicherung AG im Center of Excellence Enterprise Architecture. Zuvor war ich in IT-Compliance und Architektur-Governance tätig und habe bei LIME Medical ein Team von rund 17 Personen für vernetzte Rehabilitationsprodukte geleitet.

Mein Hintergrund ist Forschung zu Biometrie und Computer Vision am Fraunhofer IGD, danach Software- und Produktarchitektur.

Schwerpunkte
  • KI-Governance
  • Enterprise Architecture
  • Agentische Systeme
  • Governance und Sicherheit
  • Systemdenken
  • Risikomanagement
  • Cloud-Architektur
  • MedTech

Ein erstes Gespräch

Wenn Sie sich fragen, was KI in der Arbeit Ihres Teams verändern wird und wo man anfängt, freue ich mich über ein Gespräch. Ein erstes Gespräch ist ein Austausch über eine konkrete Frage. Es ist kostenlos und verpflichtet keine Seite.

Schreiben Sie mir [email protected] Alle Kontaktangaben

Hilfreich in einer ersten Nachricht
  • Woran das Team arbeitet
  • Was sich Ihrer Vermutung nach ändern könnte
  • Was die Entscheidung darüber erschwert

Termin buchen

Sie können auch direkt einen Termin buchen. Der Kalender wird erst von Google geladen, wenn Sie Google Calendar in den Datenschutzeinstellungen erlauben.

Google-Kalender-Buchungsseite direkt öffnen →