0 / 0
Retourner à la version anglaise de la documentation
Déployer des fonctions Python dans le Runtime de watsonx.ai
Dernière mise à jour : 21 nov. 2024
Déployer des fonctions Python dans le Runtime de watsonx.ai

Vous pouvez déployer des fonctions Python dans watsonx.ai Runtime de la même manière que vous pouvez déployer des modèles. Vos outils et vos applications peuvent utiliser le client watsonx.ai Python ou l'API REST pour envoyer des données à vos fonctions déployées de la même manière qu'ils envoient des données à des modèles déployés. Le déploiement des fonctions Python vous permet de masquer les détails (tels que les données d'identification). Vous pouvez également prétraiter les données avant de les transmettre aux modèles. En outre, vous pouvez gérer les erreurs et inclure des appels à plusieurs modèles, tous dans la fonction déployée plutôt que dans votre application.

Exemples de bloc-notes pour la création et le déploiement de fonctions Python

Pour obtenir des exemples de création et de déploiement de fonctions Python à l'aide de l' watsonx.ai Bibliothèque client Python, reportez-vous aux exemples de bloc-notes suivants:

Nom d'échantillon Infrastructure Techniques mises en évidence
Prédire le commerce pour les voitures Hybrid(Tensorflow) Configurer une définition d'IA
Préparer les données
Créer un modèle Keras à l'aide de Tensorflow
Déployer et évaluer le modèle
Définir, stocker et déployer une fonction Python
Déployez la fonction Python pour la spécification logicielle Cœur Créez une fonction Python
Créez un service Web
Évaluez le modèle

Les exemples de bloc-notes illustrent les six étapes permettant de créer et déployer une fonction :

  1. Définition de la fonction
  2. Authentification et définition d'un espace
  3. Stockage de la fonction dans le référentiel
  4. Obtention de la spécification logicielle
  5. Déploiement de la fonction stockée
  6. Envoi de données à la fonction pour traitement

Pour des liens vers d'autres exemples de carnets de notes qui utilisent la bibliothèque clientPython watsonx.ai, reportez-vous à la section Utilisation de watsonx.ai Runtime dans un carnet de notes.

Augmentation de l'évolutivité d'une fonction

Lorsque vous déployez une fonction à partir d'un espace de déploiement ou à l'aide d'un programme, une seule copie de la fonction est déployée par défaut. Pour augmenter son évolutivité, vous pouvez augmenter le nombre de répliques en modifiant la configuration du déploiement. Un plus grand nombre de répliques permet un plus grand volume de demandes d'évaluation.

L'exemple suivant utilise l'API du client Python pour définir le nombre de répliques sur 3.

change_meta = {
                client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
                                       "name":"S",
                                       "num_nodes":3}
            }

client.deployments.update(<deployment_id>, change_meta)

En savoir plus

  • Pour en savoir plus sur la définition d'une fonction Python déployable, voir la section Exigences générales pour les fonctions déployables dans Ecriture et stockage de fonctions Python déployables.
  • Vous pouvez déployer une fonction à partir d'un espace de déploiement via l'interface utilisateur. Pour plus d'informations, reportez-vous à la page relative aux espaces de déploiement.

Rubrique parent: Gestion des déploiements prédictifs

Recherche et réponse à l'IA générative
Ces réponses sont générées par un modèle de langue de grande taille dans watsonx.ai en fonction du contenu de la documentation du produit. En savoir plus