Blick in die Blackbox: Tracing-Architekturen für Generative KI (m/w/d)

St. Georgen im Schwarzwald, Hannover

Vollzeit

Praktikum/Werkstudium

Was du bei uns bewegst

KI-Agenten und LLM-Anwendungen laufen inzwischen im echten Betrieb. Was zwischen Prompt und Antwort passiert, bleibt aber oft unsichtbar. Klassisches Monitoring zeigt Latenz und Fehlerraten, aber nicht, warum sich ein KI-System so verhalten hat.

Für dieses Problem gibt es gerade viele Lösungen: spezialisierte Plattformen wie MLflow, Arize oder Langfuse, eigene Ansätze der großen Cloud-Anbieter und den offenen Standard OpenTelemetry. Alles entwickelt sich schnell und ist oft noch nicht ausgereift. Im Mittelpunkt deiner Arbeit steht OpenTelemetry: Der Standard entwickelt sich gerade aktiv weiter und wird von immer mehr Anbietern unterstützt. Andere Ansätze ziehst du zum Vergleich heran. Genau hier setzt du an, ganz vorne bei einem Thema, das sich gerade erst formt.

Deine Aufgaben:

Du verschaffst dir einen Überblick über aktuelle Ansätze für Tracing und Observability bei Generativer KI.
Du erarbeitest Referenzarchitekturen und wägst sie gegeneinander ab.
Du beurteilst, wie ausgereift die Ansätze heute sind: Was funktioniert schon gut, und wo gibt es noch offene Fragen?
Du baust einen praktischen Demonstrator, an dem du deine Ergebnisse testest und belegst.

Du bekommst Einblicke in:

Distributed Tracing und Observability
LLM- und Agent-Frameworks
aktuelle Tools und Plattformen rund um KI im Betrieb

Und vor allem siehst du, wie man KI-Systeme nachvollziehbar und vertrauenswürdig macht.

Deine Werkzeuge für den M&M Alltag

Das passt zu dir, wenn …

Du studierst Informatik, Softwaretechnik, Wirtschaftsinformatik oder etwas Vergleichbares.
Du programmierst sicher in mindestens einer gängigen Sprache, zum Beispiel Python, TypeScript oder C#.
Du hast schon praktisch mit LLMs gearbeitet, zum Beispiel über APIs oder Agent-Frameworks, gerne auch in eigenen Projekten.
Du kennst die Grundlagen von Logging, Monitoring oder Tracing in verteilten Systemen.
Du gehst sicher mit Git, Docker und Schnittstellen bzw. APIs um.
Du liest technische Dokumentationen auf Englisch ohne Probleme.
Du arbeitest eigenständig, strukturierst offene Fragen selbst und begründest deine Entscheidungen gut.

Mehr als nur ein Job

Individuelle Unterstützung: Ein/e dedizierte/r Betreuer:in an deiner Seite unterstützt dich bei deinem Projekt und steht für Fragen zur Verfügung
Networking: Bei uns kannst du dein berufliches Netzwerk ausbauen und wertvolle Kontakte innerhalb des Unternehmens knüpfen. Diese Masterthesis wird von unseren Expert:innen des Competence Centers Data & AI begleitet.
Regelmäßige Feedbackgespräche: Wir werden regelmäßig Feedback austauschen, um deinen Fortschritt zu überprüfen und deine Entwicklung zu fördern
Hybrides Arbeiten: In Abstimmung mit deiner Führungskraft wählst du aus einer Kombination von Remote-Arbeit und Büro-Präsenz, für mehr Flexibilität und Freiheit
Großzügige Gleitzeitregelung: In Abstimmung mit deiner Führungskraft legst du deine Arbeitszeiten nach deinen Präferenzen fest, um deinen persönlichen Bedürfnissen gerecht zu werden

Deine Ansprechpartnerin

Fiona Laube, Specialist Recruiting & HR Marketing
jobs@mm-software.com
Tel.: +49 7724 9415-36

Bewirb dich gerne per du und nutze unsere Vornamen!

Über uns

M&M Software ist internationaler Software- und Digitalisierungspartner.

Wir begleiten Unternehmen bei der digitalen Transformation ihrer Organisation, Produkte und Geschäftsmodelle. Wir erkennen Potenziale, erarbeiten Ideen, leiten Strategien ab und entwickeln maßgeschneiderte Softwarelösungen für die digitale Welt.

M&M Software bietet über 35 Jahre Erfahrung und modernstes technisches Know-how. Unsere fast 300 hoch motivierten Mitarbeitenden an vier weltweiten Standorten sind zentraler Erfolgsfaktor unserer Projekte. Gemeinsam treiben wir die digitale Zukunft voran.