DevOps
Contexte de la mission
Nous recherchons un profil DevOps pour intervenir sur deux périmètres liés à l?intelligence artificielle :
une application de gouvernance des modèles de Machine Learning ;
une plateforme interne de mise à disposition de LLM et de services d?IA générative.
Application de gouvernance des modèles AI / MLL?application a pour objectif d?interroger différentes ressources cloud et data science afin d?inventorier les modèles d?IA publiés, récupérer les informations et métriques associées, puis les restituer via une API consommée par une interface front.
Les modèles concernés peuvent être hébergés sur des environnements de type Azure Machine Learning, Databricks, AWS SageMaker ou équivalents.
L?application permet notamment le suivi des modèles : mise à jour, utilisation, performance, métriques disponibles, etc.
Une évolution future consistera à permettre un suivi en temps réel de l?utilisation des modèles en production.
Plateforme LLM HubLa plateforme LLM Hub permet de centraliser l?accès à différents modèles de langage, tels que OpenAI, Mistral, Claude ou équivalents, via des services cloud comme Azure OpenAI / AI Foundry, AWS Bedrock ou solutions similaires.
Les objectifs de la plateforme sont les suivants :
centraliser la consommation des modèles LLM ;
gérer le reporting de consommation des applications ;
optimiser les coûts via du provisioned throughput ;
proposer des fonctionnalités clé en main pour accélérer le développement de cas d?usage IA générative ;
maintenir et faire évoluer une application de type chatbot interne ;
préparer des fonctionnalités autour de la création d?agents, des bibliothèques de prompts, des guardrails, du low\-code chatbot et de composants prêts à intégrer.
Objectifs et livrablesApplication de gouvernance des modèles MLLe consultant interviendra notamment sur :
le développement, la mise à jour et la maintenance du code d?infrastructure Terraform sur Azure et/ou AWS ;
la mise en conformité avec les règles de sécurité et les bonnes pratiques internes ;
la gestion des workflows GitHub pour automatiser les déploiements et les scans de code ;
le développement, la mise à jour et la maintenance du backend permettant de récupérer les données provenant de services ML, Databricks ou SageMaker ;
le stockage des informations relatives aux modèles inventoriés ;
l?exposition d?API permettant à un front React de consommer les données.
Plateforme LLM HubLe consultant interviendra également sur :
le développement, la mise à jour et la maintenance du code Terraform sur Azure et/ou AWS ;
la gestion des workflows GitHub pour les builds, déploiements et scans de code ;
le développement et la maintenance du backend exposant des APIs LLM via un API Manager centralisé ;
la mise en place de fonctions de suivi de consommation des applications sur Azure et AWS ;
le développement de plugins ou composants facilitant l?intégration des LLM dans les applications internes ;
la mise à jour éventuelle d?une interface web en React pour gérer une application de chatbot ;
la conception de fonctionnalités complémentaires pour anticiper les besoins utilisateurs : plateforme de création d?agents, prompt library, guardrails, chatbot low\-code, composants réutilisables ;
la veille technologique sur les nouvelles solutions LLM et leur intégration dans la plateforme.
Poste à pourvoirProfil recherché : DevOps
Le consultant interviendra sur le périmètre décrit ci\-dessus, avec les responsabilités suivantes :
gestion du code Terraform de l?infrastructure ;
gestion des workflows de build et de déploiement GitHub ;
contribution à l?architecture technique ;
optimisation de la résilience et des coûts des infrastructures ;
monitoring des services du périmètre ;
accompagnement des évolutions techniques liées aux plateformes IA / LLM.
Environnement techniqueCloud / Infrastructure :
Azure API Management
Azure Functions / App Services
Azure OpenAI / AI Foundry
Azure Front Door / Application Gateway
Azure Container Apps
Azure Document Intelligence
AWS Bedrock
AWS Glue
AWS Lambda
Développement / DevOps :
GitHub
GitHub Actions / workflows CI/CD
Terraform
APIs
Monitoring
Backend cloud
Front :
React, apprécié pour des évolutions ponctuelles d?interface web
Compétences demandéesGitHub : confirmé
Terraform : confirmé
Azure : confirmé
API : confirmé
AWS : confirmé
Une bonne compréhension des environnements IA, ML, LLM et des architectures cloud est fortement appréciée.
Profil candidat:
Profil recherché : DevOps
Le consultant interviendra sur le périmètre décrit ci\-dessus, avec les responsabilités suivantes :
gestion du code Terraform de l?infrastructure ;
gestion des workflows de build et de déploiement GitHub ;
contribution à l?architecture technique ;
optimisation de la résilience et des coûts des infrastructures ;
monitoring des services du périmètre ;
accompagnement des évolutions techniques liées aux plateformes IA / LLM.
Cette annonce provient de indeed. Voir l'annonce originale ↗