Description du poste : Le titulaire du poste sera responsable de concevoir, gérer et sécuriser l'infrastructure et les mécanismes de contrôle soutenant notre plateforme interne d'IA agentique, nos services d'IA, notre passerelle API d'entreprise et nos grands modèles de langage (LLM) déployés sur Azure AI Foundry, OpenAI et Anthropic.
Supérieur immédiat : Ce poste relève de l'architecte d'entreprise.
Responsabilités clés :Infrastructure infonuagique et IA- Concevoir, déployer et maintenir une infrastructure infonuagique sécurisée et évolutive soutenant les charges de travail d'IA, notamment les environnements conteneurisés, les bases de données relationnelles et vectorielles, le stockage d'objets, la gestion des secrets, la journalisation et la surveillance des applications.
- Concevoir et gérer l'architecture réseau des plateformes d'IA, incluant les réseaux virtuels, les points de terminaison privés, le DNS, les sous-réseaux, les règles de pare-feu et la connectivité entre les services.
- Développer et maintenir des modèles d'infrastructure as code (Terraform) ainsi que les pipelines de déploiement.
Gestion des passerelles d'IA et de l'accès aux modèles- Administrer la couche de gestion des API pour les services d'IA, incluant la publication et le versionnement des API, la configuration des systèmes dorsaux, la gestion des identifiants et l'application des politiques.
- Mettre en œuvre des mécanismes sécurisés d'authentification et d'autorisation, y compris les flux on-behalf-of et les identités de service partagées.
- Publier et maintenir les modèles d'IA, les outils internes, les services tiers et les points de terminaison d'entreprise par l'intermédiaire de la passerelle API.
- Diagnostiquer et résoudre les incidents liés aux API et à la connectivité.
Gestion du cycle de vie des plateformes et modèles d'IA- Déployer, sécuriser et administrer les environnements de plateformes d'IA en assurant une connectivité privée, un accès restreint et le respect des normes de sécurité.
- Gérer l'ensemble du cycle de vie des modèles d'IA, du déploiement à l'exploitation en production et à la maintenance continue.
Gestion des identités, des accès et des secrets- Collaborer avec l'équipe de sécurité de l'information afin de concevoir et d'administrer les contrôles d'identité et d'accès des systèmes d'IA, y compris les enregistrements d'applications, les permissions et les modèles d'accès délégué.
- Administrer les coffres de clés (Key Vaults), les identifiants, les inventaires de secrets et les configurations de points de terminaison privés.
- Concevoir et maintenir des modèles d'accès sécurisés pour les identités d'automatisation et de service.
Intégration des outils et des données d'entreprise- Concevoir et gérer les intégrations entre les agents d'IA et les systèmes d'entreprise à l'aide du Model Context Protocol (MCP) et de technologies similaires, notamment pour les plateformes de gestion documentaire, les CRM, la gestion des dossiers et transactions, les plateformes de données, la recherche juridique, le marketing et les systèmes financiers.
- Collaborer avec les développeurs d'IA, l'équipe de sécurité de l'information et les parties prenantes afin d'évaluer, d'approuver et de mettre en œuvre des intégrations sécurisées.
- Travailler avec les fournisseurs pour concevoir les architectures d'intégration, résoudre les enjeux de connectivité et d'authentification et soutenir le déploiement de solutions d'IA.
Fiabilité, observabilité et gestion des incidents- Mettre en place et maintenir les mécanismes de surveillance, de journalisation, de diagnostic, de mesure de performance et de suivi des coøts de l'écosystème d'IA.
- Agir à titre de point d'escalade pour les incidents et interruptions de service liés aux plateformes d'IA.
- Réaliser les analyses des causes racines et documenter les constats ainsi que les plans correctifs.
Formation et expérience exigées : - Plus de huit (8) ans d'expérience en infrastructure infonuagique, en ingénierie de plateformes ou en DevOps, incluant une expérience concrète avec des solutions d'IA, d'apprentissage automatique ou fondées sur des grands modèles de langage (LLM) en environnement de production.
- Expérience démontrée dans la conception, le déploiement, la sécurisation et l'exploitation d'environnements infonuagiques au sein de secteurs réglementés et exigeant un haut niveau de confidentialité.
- Capacité reconnue à agir à titre d'expert technique et à conseiller efficacement des équipes techniques ainsi que des parties prenantes de niveau supérieur.
- Une expérience au sein d'un cabinet d'avocats, d'une firme de services professionnels, d'une institution financière ou d'un autre secteur réglementé constitue un atout.
- Connaissance des plateformes d'entreprise telles que les systèmes de gestion documentaire et des courriels, les CRM, les systèmes de gestion de la pratique et des dossiers, les solutions de saisie du temps et de facturation ainsi que les salles de données virtuelles, et de leur intégration avec des solutions d'IA.
- Expérience dans l'administration de plateformes et d'assistants d'IA à l'échelle de l'entreprise, ainsi que de solutions de données, d'analytique, de rapports et de tableaux de bord.
Qualifications :- Bilinguisme à l'oral et à l'écrit (français et anglais) compte tenu de la clientèle, des mandats et de l'envergure internationale du cabinet
- Expertise des plateformes infonuagiques, idéalement Microsoft Azure, incluant le calcul, le réseautage, le stockage, la sécurité, la surveillance et l'infrastructure as code (IaC).
- Excellente connaissance de la gestion des identités et des accès, notamment Entra ID, OAuth 2.0, les permissions applicatives, les identités gérées et le contrôle d'accès basé sur les rôles (RBAC).
- Expérience en gestion d'API, administration de passerelles (API gateways) et intégration sécurisée de services.
- Expérience pratique avec Terraform, les pipelines CI/CD et les environnements conteneurisés.
- Expérience du déploiement et de l'exploitation de plateformes d'IA, incluant les modèles, les embeddings et les technologies de recherche vectorielle.
- Connaissance des architectures d'IA agentique, du Model Context Protocol (MCP) et des modèles d'intégration sécurisés pour les agents d'IA.
- Solide compréhension de la sécurité réseau et infonuagique, notamment des pare-feux, de TLS, des certificats et de la connectivité sécurisée.
- Expérience de l'intégration de plateformes et services d'entreprise, notamment au moyen des API Microsoft Graph et d'autres technologies d'intégration d'entreprise.
Job description: The incumbent will be responsible for the infrastructure and controls underpinning our internal agentic AI platform, our portfolio of AI services, our enterprise API gateway and our LLMs on Azure AI Foundry, OpenAI and Anthropic.
Immediate report: This position reports to the Enterprise Architect.
Key responsibilities:Cloud & AI infrastructure- Design, deploy, and maintain secure, scalable cloud infrastructure supporting AI workloads, including containerized environments, relational and vector databases, object storage, secret management, logging, and application monitoring.
- Architect and manage network services for AI platforms, including virtual networks, private endpoints, DNS, subnets, firewall routing, ingress controls, and cross-service connectivity.
- Develop and maintain Infrastructure as Code (Terraform) templates and deployment pipelines.
AI gateway & Model Access Management- Manage the enterprise API management layer for AI services, including API publishing, versioning, backend configuration, credential management, and policy enforcement.
- Implement secure authentication and authorization models, including on-behalf-of-flows and shared service identities.
- Publish and maintain AI models, internal tools, third-party services, and enterprise endpoints through the API gateway.
- Troubleshoot and resolve API gateway and connectivity issues.
Model and AI Platform Lifecycle Management- Provision, secure, and administer AI platform environments, ensuring private connectivity, restricted access, and compliance with security standards.
- Manage the complete AI model deployment lifecycle, from provisioning to production operations and ongoing maintenance.
Identity, Access & Secrets Management- Collaborate with Information Security team to design and administer identity and access controls for AI systems, including application registrations, permissions, and delegated access models.
- Manage Key Vaults, credentials, secret inventories, and private endpoint configurations.
- Design and maintain secure mailbox and workload-specific access models for automation and service identities.
Tool & Enterprise Data Integration- Design and manage integrations between AI agents and enterprise systems using the Model Context Protocol (MCP) and related frameworks, connecting platforms such as document management, CRM, matter and deal management, enterprise data, legal research, marketing, and financial systems.
- Collaborate with AI developers, Information Security, and business stakeholders to assess, approve, and implement secure integrations, ensuring appropriate authentication, permissions, and governance.
- Partner with vendors to design integration architectures, address connectivity and authentication challenges, and support the successful deployment of AI-enabled solutions.
Reliability, Observability & Incident Management- Implement and maintain monitoring, logging, diagnostics, custom metrics, and cost-management telemetry across the AI ecosystem.
- Serve as an escalation point for AI platform incidents and service disruptions.
- Conduct root cause analysis and document incident findings and remediation plans.
Education and Experience Requirements: - 8+ years of experience in cloud infrastructure, platform engineering, or DevOps, including hands-on responsibility for production AI, machine learning, or LLM-based solutions.
- Proven experience designing, deploying, securing, and operating cloud environments in regulated and confidentiality-sensitive environments.
- Demonstrated ability to act as a technical subject matter expert, influencing technical teams and senior business stakeholders.
- Experience in a law firm, professional services, financial services, or other regulated industry is considered an asset.
- Familiarity with enterprise business systems such as document and email management, CRM, practice and matter management, time and billing, virtual data rooms, and their integration with AI solutions.
- Experience administering enterprise AI platforms and assistants, as well as enterprise data, analytics, and reporting solutions.
Qualifications:- Bilingual written and spoken (French and English) given the clientele, mandate and international scope of the firm
- Expertise in Microsoft Azure (preferred), including compute, networking, storage, security, monitoring, and Infrastructure as Code.
- Strong knowledge of identity and access management, including Entra ID, OAuth 2.0, application permissions, managed identities, and role-based access control (RBAC).
- Experience with API management, gateway administration, and secure service integration.
- Hands-on experience with Terraform, CI/CD pipelines, and containerized environments.
- Experience deploying and supporting AI platforms, including model deployment, embeddings, and vector search technologies.
- Knowledge of agentic AI architectures, including MCP and secure integration patterns for AI agents.
- Strong understanding of network and cloud security, including firewalls, TLS, certificates, and secure connectivity.
- Experience integrating enterprise platforms and services through Microsoft Graph APIs and other enterprise integration technologies.
