Sie können Python in watsonx.ai Runtime auf die gleiche Weise bereitstellen wie Modelle. Ihre Tools und Apps können den Python -Client oder die REST-API von watsonx.ai verwenden, um Daten an Ihre bereitgestellten Funktionen auf dieselbe Weise wie Daten an bereitgestellte Modelle zu senden. Durch die Bereitstellung von Python -Funktionen können Sie Details (z. B. Berechtigungsnachweise) ausblenden. Sie können Daten auch vorverarbeiten, bevor Sie sie an Modelle übergeben. Darüber hinaus können Sie Fehler behandeln und Aufrufe mehrerer Modelle einschließen, die alle innerhalb der bereitgestellten Funktion und nicht in Ihrer Anwendung enthalten sind.
Beispielnotebooks für die Erstellung und Bereitstellung von Python-Funktionen
Beispiele für die Erstellung und Bereitstellung von Python -Funktionen mithilfe der watsonx.ai Python -Clientbibliothekfinden Sie in den folgenden Beispielnotebooks:
| Name des Musterbeispiels | Framework | Dokumentierte Verfahren |
|---|---|---|
| Geschäftsvorhersage für Autos | Hybrid(Tensorflow) | Einrichten einer KI-Definition Daten vorbereiten Erstellen eines Keras -Modells mithilfe von Tensorflow Bereitstellen und Bewerten des Modells Definieren, Speichern und Bereitstellen einer Python -Funktion |
| Python-Funktion für Softwarespezifikation bereitstellen | Core | Python-Funktion erstellen Web-Service erstellen Modell bewerten |
Die Notebooks veranschaulichen die sechs Schritte zum Erstellen und Bereitstellen einer Funktion:
- Definieren Sie die Funktion.
- Authentifizieren und definieren Sie einen Bereich.
- Speichern Sie die Funktion im Repository.
- Rufen Sie die Softwarespezifikation ab.
- Stellen Sie die gespeicherte Funktion bereit.
- Senden Sie Daten zur Verarbeitung an die Funktion.
Links zu anderen Beispiel-Notizbüchern, die die watsonx.ai Python verwenden, finden Sie unter Verwendung der watsonx.ai Runtime in einem Notizbuch.
Skalierbarkeit für eine Funktion erhöhen
Wenn Sie eine Funktion von einem Bereitstellungsbereich aus oder programmgesteuert bereitstellen, wird standardmäßig eine einzelne Kopie der Funktion bereitgestellt. Zum Erhöhen der Skalierbarkeit können Sie die Anzahl Replikate erhöhen, indem Sie die Konfiguration der Bereitstellung bearbeiten. Mehr Replikate ermöglichen eine größere Anzahl von Scoring-Anforderungen.
Im folgenden Beispiel wird die Python-Client-API verwendet, um die Anzahl der Replikate auf 3 zu setzen.
change_meta = {
client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
"name":"S",
"num_nodes":3}
}
client.deployments.update(<deployment_id>, change_meta)
Weitere Informationen
- Weitere Informationen zum Definieren einer bereitstellbaren Python -Funktion finden Sie im Abschnitt Allgemeine Anforderungen für bereitstellbare Funktionen unter Python -Funktionen schreiben und speichern.
- Sie können eine Funktion aus einem Bereitstellungsbereich über die Benutzerschnittstelle einsetzen. Weitere Informationen finden Sie in Bereitstellungsbereiche.
Übergeordnetes Thema: Vorhersagebereitstellungen verwalten