LLM Engineer / LLM Application Engineer / Senior Software Engineer (m/w/d) – KI-Plattform & LLM-Integration – Vollzeit

KI Group is a technology company specializing in data-driven business intelligence solutions. As an LLM Application Engineer / Senior Software Engineer, you will play a central role in building the LLM platform, responsible for both internal tools and customer products, focusing on application development using foundation models.

Responsibilities:

• Aufbau der LLM-Plattform-Schicht: Retrieval-Backend, Embedding-Pipeline, API-Design
• Integration von LLM-APIs (OpenAI, Anthropic, Mistral u. a.) in interne und Kundensysteme
• Entwicklung von KI-Features: Conversational Analyst, semantische Suche, intelligenter Alert-Feed
• Implementierung von Agenten-Architekturen und MCP-Schnittstellen für Enterprise-Anbindung
• Mitarbeit bei der Entwicklung von Prototypen und Proof-of-Concepts für neue KI-Anwendungsfälle

Requirements:

• Absolventen oder Studierende der Informatik, Wirtschaftsinformatik, Data Science oder eines verwandten Studiengangs
• Erfahrung mit RAG-Pipelines in Produktion — Vector DB, Retrieval, Chunking, Evaluation/Grounding
• Erfahrung mit LLM-Frameworks — LangChain / LlamaIndex (o. ä.) für Orchestrierung, Chains/Agents, Tool-Use
• Erfahrung mit LLM-Application-Engineering — Prompt-/Context-Engineering, Function-Calling, Agenten-Architekturen
• Erfahrung mit Backend — Node/Python (o. ä.), saubere Services, Async, API-Design, Datenmodellierung
• Erfahrung mit Frontend — React / TypeScript, baut nutzbare Oberflächen für die KI-Features selbst
• Erfahrung mit Daten-Pipelines — Ingestion, Normalisierung, Embeddings über strukturierte und halb-strukturierte Quellen
• Erfahrung mit MCP (Model Context Protocol) / KI-native Schnittstellen für Enterprise
• Leidenschaftlicher Umgang mit KI-nativen Schnittstellen