Ingénieur de plateforme – Ingénierie IA

DRW est une société de négoce diversifiée qui utilise une technologie sophistiquée pour opérer sur les marchés mondiaux. L'Ingénieur de plateforme contribuera à construire et opérationnaliser l'écosystème d'outils IA en intégrant les fournisseurs infonuagiques, les modèles internes et les outils utilisateurs à un plan de contrôle unifié. Il gérera les passerelles API, les services IA, le code Go et Python ainsi que l'enregistrement et le routage des modèles internes.

Responsibilities:

• Configurer et gérer les passerelles API multi-moteurs, en mettant en place des règles de routage dynamiques, des limites de requêtes et une logique de basculement pour les demandes de LLM
• Exécuter la migration technique et l'intégration des outils à l'échelle de l'entreprise dans notre plan de gestion centralisé pour assurer que tout le trafic IA est enregistré et gouverné de manière sécurisée
• Opérer selon notre Modèle de responsabilité partagée aux côtés de l'équipe infonuagique pour gérer les services IA déployés dans les zones d'atterrissage d'entreprise (p. ex., gérer les instances Azure OpenAI, les déploiements de modèles et la génération de clés API)
• Écrire du code Go et Python robuste pour supporter la boucle de synchronisation continue de notre tableau de bord d'utilisation et mettre en œuvre des mécanismes automatisés de « friction progressive », tels que les alertes
• Collaborer avec le pod d'Infrastructure d'inférence pour assurer que nos modèles en local sont correctement enregistrés et routables dans nos passerelles IA