via bundesagentur · 3. Juni 2026 ·vor 3 Tagen

(Senior) MLOps Engineer (w/m/d) 12823

KPMG AG Wirtschaftsprüfungs gesellschaft
Berlin Vollzeit
491 weitere Jobs in Berlin.
Lad deinen CV hoch und sieh, welche wirklich zu dir passen.
CV hochladen

Es gibt gute Gründe für eine Karriere bei KPMG: In unseren Teams arbeiten rund 14.000 Mitarbeiterinnen und Mitarbeiter an 27 Standorten in Deutschland. Dabei stehen wir für Vielfalt und eine Kultur der gegenseitigen Wertschätzung. Aufgrund dieser diversen und vielschichtigen Kompetenzen in unseren Teams können wir interdisziplinär an innovativen Themen arbeiten und gemeinsam auch große Projekte stemmen. Du begleitest mit uns unsere Mandantinnen und Mandanten in den Bereichen Wirtschaftsprüfung, Steuerberatung und Consulting, oder agierst hinter den Kulissen in Central Services. Wir suchen Talente, die gemeinsam mit uns die Herausforderungen von morgen angehen wollen. Schon gewusst? Wir stellen nicht nur Absolventinnen und Absolventen aus dem Bereich Wirtschaftswissenschaften ein. Auch motivierte Absolventinnen und Absolventen und (Young) Professionals mit naturwissenschaftlichem Hintergrund (Mathematik, Physik oder Informatik) erwarten bei uns spannende Projekte.
Begleite KPMG und unsere Mandant:innen auf ihrer KI-Transformationsreise. In Deiner Rolle als (Senior) MLOps Engineer verantwortest Du den Aufbau, den Betrieb und die kontinuierliche Weiterentwicklung produktiver LLM-basierter Systeme und fungierst als zentrale Ansprechperson für Projektteams während der technischen Implementierung. Deine Arbeit ermöglicht einen effizienten, sicheren und skalierbaren Einsatz generativer KI im Delivery-Bereich und trägt wesentlich zur Operationalisierung unserer AI-Lösungen bei.
Du möchtest Large Language Models in stabile Produktivsysteme überführen und moderne AI-Plattformen an der Schnittstelle von Modellen, Daten, Infrastruktur und Governance aufbauen? Dann bring Dich hier ein:

  • LLMOps & Lifecycle Management: Du konzipierst, entwickelst und betreibst End-to-End-LLM-Pipelines - von der Modellauswahl über Prompt- und Versionierungsstrategien bis hin zu Evaluierung, Monitoring und kontinuierlicher Optimierung.

  • Produktivsetzung von AI: Du überführst Prototypen in stabile, skalierbare Produktivsysteme und stellst Performance, Zuverlässigkeit, Wartbarkeit und reibungslose Betriebsprozesse sicher.

  • Modellintegration & Orchestrierung: Du integrierst moderne KI-Technologien wie Azure OpenAI, OpenAI, Agent Frameworks und weitere LLM-Services in produktive Business-Anwendungen und etablierst robuste Orchestrierungslogiken.

  • Agentic Skills & Skalierung: Du entwickelst und operationalisierst Agentic Skills für konkrete Business-Anwendungsfälle und schaffst die technischen Voraussetzungen, um diese nachhaltig im Unternehmen zu skalieren.

  • Evaluierung & Qualität: Du entwickelst Evaluierungs-, Benchmarking- und Guardrail-Ansätze, um LLM-basierte Anwendungen transparent, sicher, evaluierbar und qualitativ hochwertig zu machen.

  • Daten & Retrieval: Du entwickelst und integrierst RAG-Architekturen, Vektordatenbanken und Datenpipelines, um kontextbasierte Datenflüsse zuverlässig abzubilden und AI-Systeme fachlich wirksam zu machen.

  • Cloud & Betrieb: Du entwickelst, deployest und betreibst skalierbare AI-Lösungen auf Azure und bindest dabei APIs, Datenbanken, Observability-Tools und cloudbasierte Services nahtlos in die Gesamtarchitektur ein.

  • Security & Governance: Du sicherst hohe Standards in Bezug auf Datenschutz, Compliance, verantwortungsvollen KI-Einsatz und technische Governance über den gesamten Lebenszyklus der Systeme hinweg.

  • Zusammenarbeit & Agilität: Du arbeitest eng mit AI-Engineers, Data Engineers, Software-Entwicklern und Fachbereichen zusammen und bringst Dich aktiv in agile Entwicklungsprozesse, technische Konzeption und Enablement ein.

  • Akademischer Hintergrund: Du hast ein Studium der Informatik, des Ingenieurwesens oder eines vergleichbaren Fachgebiets abgeschlossen. Ein Schwerpunkt auf KI, Softwareentwicklung, Daten oder Cloud-Technologien ist von Vorteil.

  • LLM- und KI-Verständnis: Du verfügst über fundierte praktische Erfahrung mit Large Language Models, Prompting, RAG-Architekturen und Evaluierungsansätzen und kannst dieses Wissen in produktive Anwendungen übertragen.

  • Technologische Kompetenz: Du bringst fundierte Erfahrung in der Backend- und Plattformentwicklung mit und arbeitest sicher mit APIs, Microservices sowie modernen Software-Engineering-Praktiken rund um produktive AI-Systeme.

  • Cloud-Erfahrung: Du hast Erfahrung mit Azure-basierten Entwicklungs- und Deployment-Umgebungen und bringst ein gutes Verständnis für moderne DevOps-, CI/CD- und Betriebsprozesse mit.

  • Datenverständnis: Du hast Erfahrung mit Datenpipelines, Embeddings, Vektordatenbanken und Retrieval-Konzepten und verstehst, wie Datenqualität die Leistungsfähigkeit von LLM-Anwendungen beeinflusst.

  • Tooling & Frameworks: Du bringst praktische Erfahrung mit LLM-Frameworks, Evaluierungs-Tooling und Observability-Lösungen mit und kennst gängige Muster zur Operationalisierung generativer KI.

  • Arbeitsweise und Kommunikation: Du arbeitest eigenständig, denkst analytisch und kommunizierst klar (Deutsch C1 und Englisch B2) mit fachlichen und technischen Stakeholdern, auch bei komplexen Anforderungen und in interdisziplinären Teams.
Bei KPMG arbeiten wir an einer bedeutsamen Schnittstelle von Wirtschaft, Öffentlichkeit und Gesellschaft. Vom mittelständischen Unternehmen bis hin zum internationalen Großkonzern - wir entwickeln gemeinsam Lösungen für die Themen der Zukunft und haben so einen direkten Impact auf die Businesswelt von morgen. Lese mehr dazu auf unserem Blog. Deshalb suchen wir Menschen, die mit uns gemeinsam die Zukunft angehen. Dabei sind uns eine wertebasierte Unternehmenskultur, umfassende, persönliche Karriereentwicklung und -förderung genauso wichtig wie der Anspruch, gemeinsam mit dem Kunden/der Kundin neue und innovative Wege zu gehen.
Wir freuen uns auf Deine aussagekräftige Online-Bewerbung.

Der Markt für diese Art von Stelle

Ähnliche Angebote
491
Ingenieurwesen in Berlin
Vollzeit
81%
der Ingenieurwesen-Angebote in Deutschland
Remote möglich
16%
der Ingenieurwesen-Angebote
KPMG AG Wirtschaftsprüfungs gesellschaft

3 offene Stellen · Berlin

📊 Ingenieurwesen · Deutschland
3.381
aktive Stellen
15.9%
Remote
Ø 3d
Ø online
Gefragte Skills
ExcelERPISOPythonAWSCI/CDSQLAzureAgileLean

Häufige Fragen

Wie viele Ingenieurwesen-Jobs gibt es in Berlin?
Aktuell 491 Stellen im Bereich Ingenieurwesen in Berlin auf AlmostHired, bei 163 verschiedenen Unternehmen. Unsere Daten werden täglich aktualisiert.
Bieten Ingenieurwesen-Stellen Home Office an?
16% der Ingenieurwesen-Angebote in Deutschland erlauben Remote-Arbeit, teilweise oder vollständig. Um gezielt nach Remote-Stellen zu filtern, nutze AlmostHired.
Wie erfahre ich, ob ich für diese Stelle passe?
Lad deinen CV hoch — unsere KI vergleicht dein Profil mit den Stellenanforderungen und zeigt dir einen präzisen Match-Score, inklusive passender und fehlender Skills.