Aus einem Dialog wird ein Arbeitsablauf
Ein Assistent formuliert beispielsweise eine Antwort auf eine Lieferantenanfrage. Ein Agent könnte zusätzlich die Bestellung suchen, den Lieferstatus abfragen und einen Antwortentwurf im Vorgang ablegen. Dafür braucht er Werkzeuge: klar definierte Funktionen mit Eingaben und Rückgabewerten. Ein Sprachmodell wählt den nächsten Schritt; die Anwendung prüft, ob dieser Schritt zulässig ist. Die Berechtigung entsteht nicht dadurch, dass das Modell eine Aktion für sinnvoll hält.
Schreibzugriffe verändern das Risiko
Lesen, Entwerfen und Ausführen sollten getrennte Befugnisse sein. Für eine Statusauskunft genügt ein lesender Zugriff. Eine Änderung an Bankverbindung oder Bestellung verlangt eine zusätzliche Kontrolle. Freigaben müssen in der Anwendung durchgesetzt werden. Ebenso wichtig sind begrenzte Laufzeiten, ein Kostenlimit und eine maximale Zahl von Werkzeugaufrufen. Sonst kann ein Agent in einer Schleife arbeiten, ohne fachlich voranzukommen.
Wiederholen darf keine Doppelbuchung erzeugen
Nach einem Verbindungsabbruch ist oft unklar, ob eine Aktion bereits erfolgt ist. Eine eindeutige Vorgangskennung hilft, denselben Auftrag nur einmal wirksam werden zu lassen. Das ist besonders wichtig bei Buchungen, Bestellungen und Benachrichtigungen. Ein Protokoll sollte Werkzeug, Eingaben, Freigabe und Ergebnis nachvollziehbar verbinden, ohne unnötig vertrauliche Inhalte zu speichern.
Beispiel: Reklamationen vorbereiten
Ein sinnvoller Pilot liest Reklamationen, ordnet Belege zu und erstellt einen Bearbeitungsvorschlag. Er erstattet noch kein Geld. Gemessen werden korrekte Zuordnung, notwendige Nacharbeit und Bearbeitungsdauer einschließlich Prüfung. Erst wenn auch unvollständige Belege und widersprüchliche Angaben sicher behandelt werden, lohnt sich eine Erweiterung der Befugnisse.
Womit Sie sinnvoll beginnen können
- Einen häufigen Ablauf mit klar erkennbarem Abschluss wählen.
- Für jeden Werkzeugaufruf festlegen, welche Identität und Berechtigung gelten.
- Zeitüberschreitung, doppelte Ausführung und verweigerte Freigaben gezielt testen.