Types d'actifs déployables pour les déploiements en ligne

Vous pouvez créer des déploiements en ligne pour ces types d'actifs:

• Fonctions
• Modèles
  • ModèlesAutoAI
  • Modèles Decision Optimization
  • Modèles d'apprentissage fédéré
  • Modèles importés à partir d'un fichier
  • Modèles créés avec des infrastructures prises en charge
  • Modèles de base optimisés
  • ModèlesSPSS Modeler
• Modèles d'invite
• Scripts

Méthodes de création d'un déploiement en ligne

Vous pouvez créer un déploiement en ligne de l'une des manières suivantes:

• Utilisez une approche sans code pour Créer un déploiement en ligne à partir d'un espace de déploiement.
• Utilisez le code pour Créer un déploiement en ligne à l'aide d'un programme à l'aide de blocs-notes.

Une fois que vous avez créé un déploiement en ligne, une URL de noeud final est générée. Vous pouvez utiliser l'URL de noeud final pour tester le déploiement ou pour l'inclure dans vos applications.

Avant de commencer

Vous devez définir les informations d'identification de votre tâche en générant une clé API. Pour plus d'informations, voir Gestion des informations d'identification des tâches.

Création d'un déploiement en ligne à partir d'un espace de déploiement

Pour créer votre déploiement en ligne à partir d'un espace de déploiement, procédez comme suit:

1. Promouvez ou ajoutez l'actif que vous souhaitez déployer dans un espace. Pour plus d'informations, voir Actifs dans un espace de déploiement.

2. Dans la page Actifs, cliquez sur Déployer dans le menu d'action.

3. Dans la page des détails du déploiement, cliquez sur Nouveau déploiement.

4. Choisissez En ligne comme type de déploiement.

5. Indiquez un nom et une description facultative pour le déploiement.

6. Utilisez la zone Nom de service pour spécifier un nom pour votre déploiement à la place de l'ID de déploiement.

   Remarque :

   • Le nom de service doit être distinctif au sein de l'espace de nom.
   • Le nom de service doit contenir uniquement les caractères suivants: [a-z,0-9, _ ] et ne doit pas comporter plus de 36 caractères.
   • Le nom de service ne fonctionne que dans le cadre de l'URL de prévision. Parfois, vous devrez peut-être utiliser l'ID de déploiement.

7. Facultatif: Sélectionnez une spécification matérielle si vous déployez des fonctions Python , des modèles Tensorflow ou des modèles avec des spécifications logicielles personnalisées. Par exemple, si vous mettez à l'échelle un déploiement, vous pouvez augmenter les ressources matérielles.

   Restriction :

   Vous ne pouvez pas créer ou sélectionner des spécifications matérielles personnalisées à partir de l'interface utilisateur dans un espace de déploiement. Pour en savoir plus sur les méthodes de création et de sélection d'une spécification matérielle, voir Gestion des spécifications matérielles pour les déploiements.

8. Facultatif: Sélectionnez une spécification logicielle compatible avec votre actif. Vous pouvez sélectionner des spécifications logicielles pour les fonctions uniquement.

9. Cliquez sur Créer pour créer le déploiement.

{"input_data":[{
        "fields": [<field1>, <field2>, ...],
        "values": [[<value1>, <value2>, ...]]
}]}

{"input_data":[{
        "fields": ["PassengerId","Pclass","Name","Sex","Age","SibSp","Parch","Ticket","Fare","Cabin","Embarked"],
        "values": [[1,3,"Braund, Mr. Owen Harris",0,22,1,0,"A/5 21171",7.25,null,"S"]]
}]}

{
    "parameters": {
        "prompt_variables": {
            "input": "input text goes here."
        }
    }
}

Création d'un déploiement en ligne à l'aide d'un programme à l'aide de blocs-notes

Vous pouvez créer un déploiement en ligne à l'aide d'un programme en utilisant:

• watsonx.ai Runtime REST API.
• watsonx Python.

Pour accéder à des exemples de notebooks qui démontrent comment créer et gérer des déploiements en utilisant le client Python watsonx.ai Runtime, voir Machine learning samples and examples.

model_details = client.repository.get_details("<model_id>")  # retrieves details and includes schema
columns_in_schema = []
for i in range(0, len(model_details['entity']['schemas']['input'][0].get('fields'))):
    columns_in_schema.append(model_details['entity']['schemas']['input'][0].get('fields')[i]['name'])

X = X[columns_in_schema] # where X is a pandas dataframe that contains values to be scored
#(...)
scoring_values = X.values.tolist()
array_of_input_fields = X.columns.tolist()
payload_scoring = {"input_data": [{"fields": [array_of_input_fields],"values": scoring_values}]}

En savoir plus

Pour savoir comment créer un déploiement par lots, voir Création d'un déploiement par lots.

Pour savoir comment gérer les travaux de déploiement et mettre à jour, mettre à l'échelle ou supprimer un déploiement en ligne, voir Gestion des actifs.

Pour en savoir plus sur les points de déploiement, voir URL des points de déploiement.

Rubrique parent: Gestion des déploiements prédictifs