Software AI Engineer (m/w/d) – LLM & Agentic Workflows

Leistungsbeschreibung

Project X ist ein innovativer Proof of Concept (PoC), der gestartet wurde, um die Fähigkeiten von „Hybrid Agentic Teams“ bei der Lösung komplexer Engineering-Herausforderungen zu erforschen. Das Kernziel ist der Aufbau und die Validierung einer Plattform mit AI Agent Swarm Orchestration, die mehrere spezialisierte KI-Agenten mit einem „Human-in-the-Loop“ kombiniert, um komplexe Softwareentwicklungsaufgaben zu automatisieren und zu beschleunigen.

Der PoC soll die Machbarkeit eines Multi-Agenten-Schwarmes demonstrieren, der autonom Softwarelösungen plant, programmiert und testet. Ziel ist es, die Entwicklungszyklen zu beschleunigen sowie Codequalität, Sicherheit und Compliance zu verbessern.

Die flexible, modell-agnostische Architektur des Systems umfasst:

• Orchestration Core zur Zerlegung von Zielen
• Specialized Agent Swarm mit Rollen wie Planner, Coder und Tester
• Poly-LLM Model Garden zur Auswahl des am besten geeigneten Modells
• Collective Memory für das Lernen aus interner Dokumentation
• Human-in-the-Loop Interface zur Expertenvalidierung

Der initiale Anwendungsfall konzentriert sich auf die Automatisierung der Migration von Infrastructure-as-Code (IaC). Der AI-Schwarm analysiert bestehende Module, prüft Anforderungen und generiert neuen, konformen Code für interne Plattformen.

Dies ist ein fokussierter PoC; die Hauptlieferungen sind die funktionierende Multi-Agenten-Anwendung und ein Summary Report zu Leistung, Erkenntnissen und Empfehlungen für zukünftiges Scaling. Die Produktionsreife ist für diese erste Phase nicht vorgesehen

Anforderungen

Wir suchen einen Software AI Engineer, der Anwendungen entwickelt, die von großen Sprachmodellen (LLMs) und agentischen Workflows angetrieben werden. Du arbeitest eng mit Produkt- und Engineering-Teams zusammen, um reale Probleme in zuverlässige AI-Systeme zu übersetzen.

Aufgaben:

• Design und Implementierung von LLM-basierten Features und Agent-Workflows (multi-step tools, Planners, Retrievers etc.)
• Aufbau und Wartung von Backend-Services und APIs mit Python und FastAPI
• Nutzung von Frameworks wie LangGraph (oder ähnliche Tools) zur Orchestrierung komplexer LLM-Pipelines
• Integration externer APIs, Vektor-Datenbanken und Datenquellen in AI-Workflows
• Schreiben von sauberem, testbarem und gut dokumentiertem Code
• Überwachung, Debugging und Verbesserung der Performance und Zuverlässigkeit von AI-Systemen
• Zusammenarbeit mit Produkt-, Daten- und Frontend-Teams von der Idee bis zur Produktion

Zusätzliche Kompetenzen:

• 3–6 Jahre Berufserfahrung als Software Engineer
• Sehr gute Python-Kenntnisse und Erfahrung im Aufbau von Web-APIs (FastAPI, Flask oder ähnlich)
• Praktische Erfahrung mit LLMs (z. B. OpenAI, Anthropic) und Prompt-Design
• Erfahrung mit agentischen Workflows (Tool-Calling, Memory, Multi-Step Reasoning oder Ähnliches)
• Vertrautheit mit Frameworks wie LangGraph, LangChain oder ähnlichen Orchestrierungstools
• Erfahrung mit REST-APIs und Cloud-Infrastruktur
• Erfahrung mit großen Cloud-Anbietern (GCP, Azure, AWS)
• Sicher im Umgang mit Git, CI/CD und Standard-Entwicklungsworkflows

Nice to have:

• Erfahrung mit Vektor-Datenbanken (Pinecone, Weaviate, Chroma etc.)
• Grundkenntnisse in Frontend-Frameworks (React, Next.js etc.)
• Erfahrung in Deployment und Monitoring von Produktions-AI-Systemen

Über den Auftraggeber

Start: ASAP

Ende: 13.03.2026 plus Option auf Verlängerung

Onsite Stunden: 1

Offsite Stunden: 720

Auslastung: ca. 40 Stunden pro Woche

Standort: Hannover | 100 % remote

Info: Es dürfen ausschließlich Kandidaten aus dem Nearshore-Bereich angeboten werden