Vous pouvez déployer des fonctions Python dans watsonx.ai Runtime de la même manière que vous pouvez déployer des modèles. Vos outils et vos applications peuvent utiliser le client watsonx.ai Python ou l'API REST pour envoyer des données à vos fonctions déployées de la même manière qu'ils envoient des données à des modèles déployés. Le déploiement des fonctions Python vous permet de masquer les détails (tels que les données d'identification). Vous pouvez également prétraiter les données avant de les transmettre aux modèles. En outre, vous pouvez gérer les erreurs et inclure des appels à plusieurs modèles, tous dans la fonction déployée plutôt que dans votre application.
Exemples de bloc-notes pour la création et le déploiement de fonctions Python
Pour obtenir des exemples de création et de déploiement de fonctions Python à l'aide de l' watsonx.ai Bibliothèque client Python, reportez-vous aux exemples de bloc-notes suivants:
Nom d'échantillon | Infrastructure | Techniques mises en évidence |
---|---|---|
Prédire le commerce pour les voitures | Hybrid(Tensorflow) | Configurer une définition d'IA Préparer les données Créer un modèle Keras à l'aide de Tensorflow Déployer et évaluer le modèle Définir, stocker et déployer une fonction Python |
Déployez la fonction Python pour la spécification logicielle | Cœur | Créez une fonction Python Créez un service Web Évaluez le modèle |
Les exemples de bloc-notes illustrent les six étapes permettant de créer et déployer une fonction :
- Définition de la fonction
- Authentification et définition d'un espace
- Stockage de la fonction dans le référentiel
- Obtention de la spécification logicielle
- Déploiement de la fonction stockée
- Envoi de données à la fonction pour traitement
Pour des liens vers d'autres exemples de carnets de notes qui utilisent la bibliothèque clientPython watsonx.ai, reportez-vous à la section Utilisation de watsonx.ai Runtime dans un carnet de notes.
Augmentation de l'évolutivité d'une fonction
Lorsque vous déployez une fonction à partir d'un espace de déploiement ou à l'aide d'un programme, une seule copie de la fonction est déployée par défaut. Pour augmenter son évolutivité, vous pouvez augmenter le nombre de répliques en modifiant la configuration du déploiement. Un plus grand nombre de répliques permet un plus grand volume de demandes d'évaluation.
L'exemple suivant utilise l'API du client Python pour définir le nombre de répliques sur 3.
change_meta = {
client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
"name":"S",
"num_nodes":3}
}
client.deployments.update(<deployment_id>, change_meta)
En savoir plus
- Pour en savoir plus sur la définition d'une fonction Python déployable, voir la section Exigences générales pour les fonctions déployables dans Ecriture et stockage de fonctions Python déployables.
- Vous pouvez déployer une fonction à partir d'un espace de déploiement via l'interface utilisateur. Pour plus d'informations, reportez-vous à la page relative aux espaces de déploiement.
Rubrique parent: Gestion des déploiements prédictifs