Erstellen von Online-Bereitstellungen

Implementierbare Assettypen für Onlinebereitstellungen

Copy link to section

Sie können Onlinebereitstellungen für die folgenden Assettypen erstellen:

• Functions
• Modelle
  • AutoAI -Modelle
  • Decision Optimization-Modelle
  • Modelle für föderiertes Lernen
  • Modelle, die aus einer Datei importiert werden
  • Modelle, die mit unterstützten Frameworks erstellt wurden
  • Optimierte Basismodelle
  • SPSS Modeler -Modelle
• Eingabeaufforderungsvorlagen
• Scripts

Möglichkeiten zum Erstellen einer Onlineimplementierung

Copy link to section

Sie können eine Onlineimplementierung auf eine der folgenden Arten erstellen:

• Verwenden Sie einen No-Code-Ansatz, um eine Onlinebereitstellung aus einem Bereitstellungsbereich zu erstellen.
• Verwenden Sie Code, um eine Onlineimplementierung programmgesteuert mithilfe von Notebooks zu erstellen.

Nach der Erstellung einer Online-Bereitstellung wird eine Endpunkt-URL generiert. Sie können die Endpunkt-URL verwenden, um die Implementierung zu testen oder um sie in Ihre Anwendungen einzuschließen.

Vorbereitende Schritte

Copy link to section

Sie müssen Ihre Anmeldedaten für die Aufgabe einrichten, indem Sie einen API-Schlüssel erstellen. Weitere Informationen finden Sie unter Verwalten von Berechtigungsnachweisen für Aufgaben.

Onlinebereitstellung aus einem Bereitstellungsbereich erstellen

Copy link to section

Führen Sie die folgenden Schritte aus, um Ihre Onlinebereitstellung aus einem Bereitstellungsbereich zu erstellen:

1. Stufen Sie das Asset, das Sie bereitstellen möchten, in einen Bereich hoch oder fügen Sie es hinzu. Weitere Informationen finden Sie unter Assets in einem Bereitstellungsbereich.

2. Klicken Sie auf der Seite "Assets" im Aktionsmenü auf Bereitstellen .

3. Klicken Sie auf der Seite mit den Bereitstellungsdetails auf Neue Bereitstellung.

4. Wählen Sie Online als Bereitstellungstyp aus.

5. Geben Sie einen Namen und eine optionale Beschreibung für die Implementierung an.

6. Verwenden Sie das Feld Serving name , um einen Namen für Ihre Implementierung anstelle der Implementierungs-ID anzugeben.

   Hinweis:

   • Der Bereitstellungsname muss innerhalb des Namensbereichs eindeutig sein.
   • Der Serving-Name darf nur die folgenden Zeichen enthalten: [a-z,0-9, _] und darf maximal 36 Zeichen lang sein.
   • Der Bereitstellungsname funktioniert nur als Teil der Vorhersage-URL. Möglicherweise müssen Sie irgendwann die Implementierungs-ID verwenden.

7. Optional: Wählen Sie eine Hardwarespezifikation aus, wenn Sie Python -Funktionen, Tensorflow -Modelle oder Modelle mit angepassten Softwarespezifikationenbereitstellen. Wenn Sie beispielsweise eine Implementierung skalieren, können Sie die Hardwareressourcen erhöhen.

   Einschränkung:

   Sie können keine angepassten Hardwarespezifikationen in der Benutzerschnittstelle in einem Bereitstellungsbereich erstellen oder auswählen. Weitere Informationen zur Erstellung und Auswahl einer Hardwarespezifikation finden Sie unter Hardwarespezifikationen für Implementierungen verwalten.

8. Optional: Wählen Sie eine Softwarespezifikation aus, die mit Ihrer Anlage kompatibel ist. Sie können Softwarespezifikationen nur für Funktionen auswählen.

9. Klicken Sie auf Erstellen, um die Bereitstellung zu erstellen.

{"input_data":[{
        "fields": [<field1>, <field2>, ...],
        "values": [[<value1>, <value2>, ...]]
}]}
Copy to clipboardIn die Zwischenablage kopiert

{"input_data":[{
        "fields": ["PassengerId","Pclass","Name","Sex","Age","SibSp","Parch","Ticket","Fare","Cabin","Embarked"],
        "values": [[1,3,"Braund, Mr. Owen Harris",0,22,1,0,"A/5 21171",7.25,null,"S"]]
}]}
Copy to clipboardIn die Zwischenablage kopiert

{
    "parameters": {
        "prompt_variables": {
            "input": "input text goes here."
        }
    }
}
Copy to clipboardIn die Zwischenablage kopiert

Onlineimplementierung programmgestützt mithilfe von Notebooks erstellen

Copy link to section

Sie können eine Onlineimplementierung programmgesteuert erstellen, indem Sie Folgendes verwenden:

• watsonx.ai Runtime REST API.
• watsonx Python -Clientbibliothek.

Um auf Beispiel-Notebooks zuzugreifen, die das Erstellen und Verwalten von Deployments mit dem watsonx.ai Runtime Python demonstrieren, siehe Beispiele für maschinelles Lernen und Beispiele.

model_details = client.repository.get_details("<model_id>")  # retrieves details and includes schema
columns_in_schema = []
for i in range(0, len(model_details['entity']['schemas']['input'][0].get('fields'))):
    columns_in_schema.append(model_details['entity']['schemas']['input'][0].get('fields')[i]['name'])

X = X[columns_in_schema] # where X is a pandas dataframe that contains values to be scored
#(...)
scoring_values = X.values.tolist()
array_of_input_fields = X.columns.tolist()
payload_scoring = {"input_data": [{"fields": [array_of_input_fields],"values": scoring_values}]}
Copy to clipboardIn die Zwischenablage kopiert

Weitere Informationen

Copy link to section

Informationen zum Erstellen einer Batchbereitstellung finden Sie unter Batchbereitstellung erstellen.

Informationen zum Verwalten von Bereitstellungsjobs und zum Aktualisieren, Skalieren oder Löschen einer Onlinebereitstellung finden Sie unter Assets verwalten.

Weitere Informationen zu Bereitstellungsendpunkten finden Sie unter Endpunkt-URLs.

Übergeordnetes Thema: Vorhersagebereitstellungen verwalten