Pentru unul dintre clienții noștri, căutăm un Senior MLOps / LLMOps / AIOps Engineer care să contribuie la construirea și operarea platformei prin care modelele de machine learning și AI sunt dezvoltate, lansate și menținute în producție.

Rolul acoperă întregul ciclu de viață al modelelor: pipeline-uri automate de antrenare și deployment, model serving, monitorizare, detectarea driftului, optimizarea latenței și controlul costurilor. Infrastructura actuală se bazează în principal pe Amazon Bedrock și servicii AWS managed, iar obiectivul este dezvoltarea capabilităților de rulare a modelelor self-hosted pe Amazon EKS, Kubernetes și infrastructură proprie.

Responsabilități

• Proiectarea și operarea pipeline-urilor ML end-to-end, de la pregătirea datelor și antrenare până la evaluare, versionare și deployment.
• Utilizarea Amazon SageMaker, Amazon MWAA, EKS și a serviciilor AWS pentru construirea unor procese repetabile și auditabile.
• Lansarea și operarea modelelor pe Amazon Bedrock și SageMaker.
• Dezvoltarea capabilităților de inference containerizat și model serving pe Kubernetes, inclusiv pe noduri GPU.
• Administrarea ciclului de viață al modelelor folosind MLflow, model registry și feature store.
• Implementarea strategiilor de canary deployment, rollback automat și promovare controlată între medii.
• Monitorizarea modelelor și a datelor pentru identificarea driftului, degradării performanței și problemelor de calitate.
• Conectarea alertelor și a mecanismelor de monitorizare la procese automate de retraining sau remediere.
• Implementarea capabilităților AIOps pentru anomaly detection, event correlation, root cause analysis și reducerea zgomotului din alerte.
• Protejarea SLO-urilor și a error budget-urilor serviciilor ML și AI.
• Operaționalizarea soluțiilor GenAI și a fluxurilor cu LLM-uri și agenți pe Amazon Bedrock.
• Implementarea guardrails, evaluărilor de calitate și mecanismelor de control pentru token usage și costuri.
• Gestionarea infrastructurii prin Terraform și menținerea unor medii sigure, reproductibile și eficiente din punctul de vedere al costurilor.
• Colaborarea cu echipele de data science, AI și data engineering.
• Participarea la code reviews, definirea standardelor tehnice și mentorarea colegilor.
• Susținerea guvernanței AI prin model lineage, reproductibilitate și documentație aliniată la GDPR și EU AI Act.

Cerințe

• Peste 5 ani de experiență în MLOps, DevOps, platform engineering sau SRE, inclusiv experiență practică în operarea sistemelor ML în producție.
• Experiență solidă cu AWS, în special:
  • Amazon EKS;
  • SageMaker;
  • Lambda;
  • ECR;
  • S3.
• Cunoștințe avansate de Kubernetes, Docker și Linux.
• Experiență practică cu Terraform și Infrastructure as Code.
• Cunoștințe solide de Python și shell scripting.
• Experiență cu Git, testare automată și CI/CD.
• Experiență în construirea pipeline-urilor cu GitLab CI/CD.
• Experiență cu MLflow și Apache Airflow sau Amazon MWAA.
• Cunoștințe de observabilitate și monitorizare folosind CloudWatch, Prometheus, VictoriaMetrics, Grafana sau OTLP.
• Înțelegerea conceptelor de AIOps, anomaly detection, alerting, SLO și error budgets.
• Experiență sau familiaritate cu rularea în producție a LLM-urilor și agenților, prin Amazon Bedrock sau platforme echivalente.
• Interes și experiență relevantă în model serving self-hosted pe Kubernetes sau infrastructură proprie.
• Abilități bune de analiză, troubleshooting și optimizare a raportului dintre viteză, fiabilitate și cost.
• Comunicare și colaborare foarte bune.
• Limba engleză la nivel mediu-avansat.
• Studii superioare într-un domeniu tehnic relevant.

Constituie un avantaj

• Certificări AWS în Machine Learning, DevOps Engineering sau Solutions Architecture.
• Experiență cu training distribuit și inference pe GPU.
• Experiență cu modele self-hosted operate la scară pe Kubernetes.
• Cunoștințe de vLLM, SGLang sau TensorRT-LLM.
• Experiență cu AWS Inferentia sau Trainium.
• Experiență cu Kafka și Spark pentru procesarea datelor și calculul features în timp real.

Detalii contractuale

• Tip colaborare: B2B
• Durata contractului: 6 luni