AI Solution Architect

About the role

As an AI Solution Architect, you will design the overall AI/ML architecture for complex enterprise environments in the cloud, with a focus on Microsoft Azure. You will connect expertise in ML engineering, RAG architectures, and MLOps to implement scalable and secure AI solutions. You will work closely with technical experts and stakeholders to establish innovative AI solutions.

Responsibilities

• Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur als Enterprise-KI-Plattform mit Schwerpunkt Microsoft Azure
• Technische Leitung von ML-Pipeline-Projekten, insbesondere in den Bereichen Training, Deployment, Monitoring und Drift Detection
• Konzeption und Optimierung von RAG-Architekturen, beispielsweise hinsichtlich Chunking, Retrieval, Guardrails und Context Orchestration
• Definition und Weiterentwicklung von MLOps-Strategien einschließlich CI/CD für Modelle, Experiment-Tracking und Model Registry
• Technische Führung und Koordination interdisziplinärer Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers
• Beratung interner und externer Stakeholder zu KI-Architekturen sowie Präsentation technischer Konzepte gegenüber IT-Leitung und Fachbereichen

Required skills

• Microsoft Azure
• Azure Machine Learning
• Azure OpenAI Service
• MLOps
• MLflow
• Kubeflow
• RAG architectures
• Prompt Engineering
• Vector databases
• LangChain
• LlamaIndex
• CI/CD
• Python
• Machine Learning frameworks
• Enterprise architecture

Nice to have

• Databricks
• Azure Data Factory
• Azure Data Lake
• Docker
• Kubernetes
• Terraform
• Prometheus
• Grafana
• Application Insights

Qualifications

• Mehrjährige Erfahrung mit ML-/AI-Architekturen oder vergleichbaren technischen Aufgaben in Enterprise-Umgebungen
• Erfahrung in einer technischen Leitungs- oder Architekturrolle
• Sehr gute Deutschkenntnisse (C2-Niveau)
• Gute Englischkenntnisse

Certifications

• Azure Certification
• AWS Certification
• Google Cloud Certification

Benefits

• Flexible Arbeitszeiten
• Hardware-Budget
• Mental Health support
• Weiterbildungsbudget
• Mitarbeiter:innen-PC-Programm
• JobRad
• Firmenwagen

About the Company

virtual7 GmbH is an IT service provider driving the digitalization of the public sector in Germany. The company focuses on responsiveness, transparency, and goal-oriented collaboration.