Déploiement de fonctions Python
Vous pouvez déployer des fonctions Python dans watsonx.ai Runtime de la même manière que vous pouvez déployer des modèles. Vos outils et vos applications peuvent utiliser le client watsonx.ai Python ou l'API REST pour envoyer des données à vos fonctions déployées de la même manière qu'ils envoient des données à des modèles déployés. Le déploiement des fonctions Python vous permet de masquer les détails (tels que les données d'identification). Vous pouvez également prétraiter les données avant de les transmettre aux modèles. En outre, vous pouvez gérer les erreurs et inclure des appels à plusieurs modèles, tous dans la fonction déployée plutôt que dans votre application.
Exemples de bloc-notes pour la création et le déploiement de fonctions Python
Pour des exemples de création et de déploiement de fonctions Python à l'aide de la bibliothèque client Python watsonx.ai, reportez-vous à ces exemples de blocs-notes publiés dans le centre de ressources :
- Prévoir les affaires pour les voitures
- Déployer la fonction Python pour la spécification des logiciels
Vous pouvez accéder au Centre de ressources en sélectionnant Centre de ressources dans le menu de navigation principal.
Les exemples de bloc-notes illustrent les six étapes permettant de créer et déployer une fonction :
- Définir la fonction
- S'authentifier et définir un espace
- Stocker la fonction dans le référentiel
- Obtention de la spécification logicielle
- Déployer la fonction stockée
- Envoyer les données à la fonction pour traitement
Pour des liens vers d'autres exemples de carnets de notes qui utilisent la bibliothèque clientPython watsonx.ai, reportez-vous à la section Utilisation de watsonx.ai Runtime dans un carnet de notes.
Augmentation de l'évolutivité d'une fonction
Lorsque vous déployez une fonction à partir d'un espace de déploiement ou à l'aide d'un programme, une seule copie de la fonction est déployée par défaut. Pour augmenter son évolutivité, vous pouvez augmenter le nombre de répliques en modifiant la configuration du déploiement. Un plus grand nombre de répliques permet un plus grand volume de demandes d'évaluation.
L'exemple suivant utilise l'API du client Python pour définir le nombre de répliques sur 3.
change_meta = {
client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
"name":"S",
"num_nodes":3}
}
client.deployments.update(<deployment_id>, change_meta)
En savoir plus
- Pour en savoir plus sur la définition d'une fonction Python déployable, voir la section Exigences générales pour les fonctions déployables dans Ecriture et stockage de fonctions Python déployables.
- Vous pouvez déployer une fonction à partir d'un espace de déploiement via l'interface utilisateur. Pour plus d'informations, reportez-vous à la page relative aux espaces de déploiement.
Rubrique parent: Gestion des déploiements prédictifs