Ai/Ml Engineer – LLM Systems (M/W/D)

Headquarters: URL: http://anexia.com Wir bei Anexia übernehmen jeden Tag Verantwortung für alle Herausforderungen der digitalen Welt. Denn wir verstehen uns als die „Digital Transformation Engine“. Wie uns das gelingt? Ganz einfach. Wir sind eine Familie von Möglichmacher:innen und Neu-Denker:innen. Wir können, wir wollen und wir dürfen auch. Und das macht uns einzigartig! Willst Du ein Teil unserer digitalen Revolution werden und mit uns gemeinsam Geschichte schreiben? #joinourrevolution AI/ML ENGINEER – LLM SYSTEMS (M/W/D) Wien, Graz, Klagenfurt, Remote | Vollzeit Du begeisterst dich für künstliche Intelligenz und arbeitest gerne mit modernsten LLM-Technologien? Du arbeitest strukturiert und selbstständig und liebst es, intelligente Systeme zu entwickeln, die echten Mehrwert schaffen? Du bist ein kommunikativer Teamplayer, der innovative KI-Lösungen mit Leidenschaft umsetzt? Dann ist diese Position perfekt für dich! #Profile • Du treibst die Entwicklung und den Einsatz von KI/ML-Systemen voran, mit besonderem Fokus auf Large Language Models (LLMs) und intelligente Agenten-Frameworks • Du implementierst und betreibst LLM-Inferenz-Lösungen mit Runtimes wie Ollama, vLLM und TensorRT-LLM • Du entwickelst agentische Anwendungen mit Frameworks wie Dify, LangFlow, Haystack, LlamaIndex, LangChain, LangGraph oder Pydantic AI • Du integrierst KI-Funktionen von unterschiedlichen Anbietern (wie OpenAI, Anthropic, Groq und Cerebras) in Produktionssysteme • Du implementierst LLMOps-Praktiken mit Tools wie LangFuse und LangSmith für Monitoring, Tracing und Observability • Du entwickelst und optimierst ML-Pipelines mit Python, TensorFlow, PyTorch und scikit-learn für verschiedene KI-Anwendungen • Du containerisierst und deployest KI-Anwendungen mit Docker und Podman • Du arbeitest mit SQL-Datenbanken und implementierst Evaluierungs-Frameworks wie DeepEval zur Sicherstellung der Modellqualität • Du arbeitest eng mit funktionsübergreifenden Teams zusammen und präsentierst und verbesserst kontinuierlich deine KI-Lösungen #Wanted • Erfahrung mit RAG (Retrieval-Augmented Generation), Prompt Engineering oder Multi-Agenten-Systemen ist von großem Vorteil • Fundiertes Verständnis von Large Language Models und Erfahrung mit dem HuggingFace-Ökosystem • Praktische Erfahrung mit mindestens einem agentischen Framework (LangChain, LangGraph, Haystack, LlamaIndex, Dify, LangFlow oder Pydantic AI) • Erfahrung mit Python und modernen ML-Frameworks (TensorFlow, PyTorch, scikit-learn) • Kenntnisse in LLM-Inferenz-Runtimes wie Ollama, vLLM oder TensorRT-LLM • Erfahrung mit LLM-APIs (OpenAI, Anthropic oder ähnliche Anbieter) • Fundierte Kenntnisse in SQL und Datenbankoperationen • Verständnis von LLMOps-Praktiken und Methoden zur Modellevaluierung • Erfahrung mit Containerisierung (Docker/Podman) und Orchestrierungstools • Erfahrung mit Versionskontrollsystemen und CI/CD-Tools von Vorteil • Kenntnisse in DevOps-Praktiken (Ansible) sind ein Plus • Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift #REWARD Anexia wurde als Familie groß und das soll auch in unserer Wachstumsstrategie so bleiben. Wir übernehmen gerne Verantwortung, respektieren einander und wir wissen, dass wir alles schaffen können. Wir schauen gut auf Anexia und Anexia schaut auch gut auf uns. Begeisterung, Erfahrung und Kompetenz zählen, daher kannst Du ein faires Gehalt und zahlreiche Benefits erwarten. Gehaltsspanne mind. 54.000€ Unsere Benefits Wir sind mehr als ein Arbeitsplatz. Daher bieten wir unseren Mitarbeiter:innen (teils abhängig von Deiner Position und Deinem Standort) viele Benefits: Gute Verkehrsanbindung, flexible Arbeitszeiten, Aus- und Weiterbildung, Mentoren-Programm, kostenlose Parkplätze, Arbeitshandy- und -notebook, Snacks und Getränke, Firmenwagen, Mitarbeiter:innen-Events, Fun-Corner, u.v.m. #JOINOURREVOLUTION #About Anexia bietet hochwertige und individuelle Lösungen im Bereich Web- und Managed Hosting, sowie Individualsoftware- und App Entwicklung. Das 2006 gegründete Unternehmen mit Sitz in Klagenfurt und weiteren Standorten in Wien, Graz, Karlsruhe, Nürnberg und New York betreut zahlreiche internationale Kunden. Über 350 Mitarbeiter:innen an mehr als 5 Bürostandorten in Österreich, Deutschland und den USA Wir sind ISO-zertifiziert und haben seit Jahren eine „Sehr gute Bonität