Verfügbar für neue Projekte ab Januar 2027

AI Engineering: LLMs und Agenten in Ihre bestehenden Systeme bringen

KI-Funktionen dort, wo Ihre Daten und Prozesse schon liegen – in Java- und Spring-Landschaften, mit Tests, Kostenkontrolle und geregeltem Betrieb.

Schwerpunkte:

LLM-Integration
KI-Agenten & Tool-Use
Prompt Engineering
Sprach-KI
Java & Spring Boot

Kostenloses Erstgespräch (30 Min)

Ein Sprachmodell an eine Eingabemaske zu hängen, geht schnell. Schwierig wird es, sobald die Funktion im Alltag bestehen muss:

Anbindung an Bestandssysteme, die nie für KI gebaut wurden – mit ihren Daten, Rechten und Schnittstellen
Kosten pro Anfrage, die im Prototyp niemand misst und die mit dem Volumen wachsen
Fehlerverhalten und Datenschutz: Sprachmodelle antworten auch, wenn sie falsch liegen – und jede Anfrage kann Daten nach außen tragen

Meine Haltung: Eine KI-Funktion ist eine Softwarefunktion. Sie wird getestet, gemessen und betrieben wie jede andere – mit nachvollziehbaren Kosten und festgelegtem Verhalten für den Fall, dass das Modell danebenliegt.

LLM-Integration in Bestandssysteme

Sprachmodelle als Baustein Ihrer Java- und Spring-Landschaft – angebunden über REST-Schnittstellen oder Events, mit sauberer Fehlerbehandlung und Zugriff nur auf die Daten, die der Anwendungsfall braucht.

KI-Agenten mit Werkzeugen

Agenten, die nicht nur antworten, sondern handeln: Termine eintragen, Vorgänge weiterleiten, Informationen nachschlagen. Mit klar begrenzten Werkzeugen (Tool-Use), Freigaben für kritische Schritte und Guardrails gegen Fehlverhalten.

Prompt- und Kostenoptimierung

Prompts, Kontext und Modellwahl so abstimmen, dass Qualität und Kosten pro Anfrage zusammenpassen – auf Basis von Messungen und einer systematischen Auswertung mit echten Beispieldaten.

Sprach-KI und Telefonie

Echtzeit-Telefonie mit einer Kaskade aus Spracherkennung (STT), Sprachmodell (LLM) und Sprachsynthese (TTS) – mit austauschbaren Anbietern je Stufe, damit Sie bei Qualität, Latenz und Preis nicht an einen Hersteller gebunden sind.

Branche: Recruiting
Ergebnis: −60 % LLM-Kosten

Ein KI-gestütztes System schlägt zu unstrukturierten Stellenausschreibungen passende Mitarbeiterprofile vor. Ein Sprachmodell extrahiert darin strukturierte Daten.

Durch die Optimierung der Prompts für diese Datenextraktion habe ich die Kosten um 60 % gesenkt. Außerdem habe ich die Prozesse samt REST-API zum Importieren und Scoren von Profilen umgesetzt.

Eingesetzte Technologien

Prompt Engineering
Java
Spring
React
REST
Kubernetes

Projekt: Eigener Telefonagent
Status: Produktiv seit September 2026

Ein KI-Telefonagent, der Anrufe annimmt und im Auftrag Telefonate führt. Die Sprachstrecke ist eine Kaskade aus Spracherkennung, Sprachmodell und Sprachsynthese auf Basis von Pipecat; die Anbieter jeder Stufe sind austauschbare Module.

Über Werkzeuge trägt der Agent Termine in den Kalender ein und leitet Anrufe weiter; eine eigene Stufe bewertet Gespräche im Anschluss nach. Seit dem 22. September 2026 läuft das System im Eigenbetrieb produktiv.

Eingesetzte Technologien

Python
Pipecat
STT
LLM
TTS
Tool-Use
Docker

KI

Sprachmodelle anbinden, steuern und bei Bedarf lokal betreiben.

LLM-APIs
Prompt Engineering
Claude Code
opencode
Ollama

Backend

Die Anwendungslogik rund um das Modell – dort, wo Ihre Systeme schon laufen.

Java
Spring Boot
Python
n8n

Betrieb

Reproduzierbare Auslieferung vom Container bis zum Cluster.

Docker
Kubernetes
GitLab CI

In den meisten Fällen nicht. Für Aufgaben wie Datenextraktion, Klassifikation oder Dialoge reichen verfügbare Sprachmodelle – über die API eines Anbieters oder als offenes Modell im eigenen Betrieb. Entscheidend sind gute Prompts, die Auswahl der Daten im Kontext und eine saubere Einbindung in Ihre Prozesse. Eigenes Training oder Feintuning lohnt sich erst, wenn messbar ist, dass Standardmodelle die Aufgabe nicht zuverlässig lösen.

Indem sie von Anfang an gemessen werden: Kosten pro Anfrage und Tokenverbrauch gehören in dieselbe Überwachung wie Antwortzeiten und Fehlerquoten. Die größten Hebel sind präzisere Prompts, das kleinste Modell, das die Aufgabe zuverlässig löst, und der Verzicht auf unnötige Aufrufe. Welche Kombination passt, zeigt eine Auswertung mit echten Beispieldaten.

Das hängt von der Architektur ab – und die lässt sich nach Ihren Vorgaben ausrichten. Möglich sind Anbieter mit Auftragsverarbeitungsvertrag, offene Modelle auf eigener Infrastruktur oder eine Kombination aus beidem. In jedem Fall gilt: An das Modell geht nur, was der Anwendungsfall braucht. Personenbezogene Daten lassen sich vorher entfernen oder pseudonymisieren.

Nein. Eine KI-Funktion ist Software und braucht Menschen, die sie entwickeln, prüfen und betreiben. Ich arbeite mit Ihrem Team zusammen und übergebe Code, Tests und Dokumentation so, dass Ihre Entwickler die Funktion danach selbst weiterführen können.

Jetzt Gespräch vereinbaren Anrufen: +49 2362 9695973

AI Engineering: LLMs und Agenten in Ihre bestehenden Systeme bringen

Ein KI-Prototyp ist schnell gebaut – der Weg in Produktion ist die eigentliche Arbeit

Was ich für Sie umsetze

LLM-Integration in Bestandssysteme

KI-Agenten mit Werkzeugen

Prompt- und Kostenoptimierung

Sprach-KI und Telefonie

Aus der Praxis

Technologien, mit denen ich arbeite

KI

Backend

Betrieb

Häufige Fragen

Sie wollen KI in ein bestehendes System bringen?