Übersetzung nicht aktuell

Die Übersetzung dieser Seite stellt nicht die neueste Version dar. Die neuesten Aktualisierungen finden Sie in der englischen Version der Dokumentation.

Zurück zur englischen Version der Dokumentation

Einsatz von KI-Diensten mit Tools

Letzte Aktualisierung: 30. Jan. 2025

Wenn Sie visuelle Tools verwenden, um eine generative KI-Anwendung für einen komplexen Anwendungsfall wie Retrieval Augmented Generation (RAG) oder Agentic AI zu erstellen, wird Ihre Anwendung als KI-Dienst bereitgestellt. Sie können Ihre Anwendung mithilfe visueller Tools direkt als KI-Dienst bereitstellen. Alternativ können Sie Ihre Arbeit in einem Bereitstellungsnotizbuch speichern, wenn Sie Prompt Lab oder Agent Lab zur Erstellung Ihrer Lösung verwenden.

Prozessübersicht

Wenn Sie visuelle Tools verwenden, um eine generative KI-Lösung für einen komplexen Anwendungsfall zu erstellen, stellen Sie Ihre Lösung als KI-Dienst bereit. Wenn Sie KI-Dienste aus Tools bereitstellen, erstellen Sie eine Online-Bereitstellung, ohne Code schreiben zu müssen. Um eine Batch-Bereitstellung zu erstellen, müssen Sie Ihre Arbeit dagegen als Notizbuch speichern, Code für eine Generierungsfunktion schreiben und dann eine Bereitstellung programmgesteuert erstellen. Weitere Informationen finden Sie unter "KI-Service-Assets bereitstellen".

Der KI-Dienst erfasst die Logik für Ihren Anwendungsfall und enthält die Generierungsfunktion, die eine einsetzbare Code-Einheit ist. Die Bereitstellung wird als REST-API-Endpunkt offengelegt, auf den andere Anwendungen zugreifen können. Sie können eine Anfrage an den REST-API-Endpunkt senden, um den bereitgestellten KI-Dienst für die Inferenzierung zu verwenden. Der eingesetzte KI-Dienst verarbeitet die Anfrage und gibt eine Antwort zurück. Zum Beispiel können Sie mit den Tools die folgenden Arten von KI-Lösungen erstellen und diese dann als KI-Dienste bereitstellen:

Retrieval-Augmented-Generation-Lösung (RAG) mit Prompt Lab oder AutoAI
KI-Agent mit dem Agentenlabor

Wenn Sie einen KI-Dienst von Prompt Lab oder Agent Lab bereitstellen, haben Sie folgende Optionen:

Direkt bereitstellen: Verwenden Sie diese Option, wenn Ihre Lösung vollständig ist und Sie keine weiteren Änderungen vornehmen möchten.
Entwicklungsnotizbuch: Verwenden Sie diese Option, wenn Sie Ihre Lösung durch Hinzufügen oder Ändern des Codes anpassen möchten.

Wenn Sie einen KI-Dienst von AutoAI, bereitstellen, stellen Sie ihn direkt bereit.

Aufgaben für die Bereitstellung von KI-Diensten mit visuellen Tools

Hier sind die Schritte, die Sie befolgen müssen, um KI-Dienste mit visuellen Tools zu erstellen, bereitzustellen und zu verwalten:

KI-Dienst bereitstellen: Je nachdem, welches Tool Sie zur Erstellung Ihres generativen KI-Anwendungsfalls verwendet haben, können Sie Ihre Lösung direkt aus dem visuellen Tool bereitstellen, wenn Sie Agent Lab, Prompt Lab oder AutoAI verwendet haben. Wenn Sie das Agent Lab oder Prompt Lab verwenden, um Ihre Lösung zu erstellen, können Sie Ihre Lösung auch in einem Bereitstellungsnotizbuch speichern, das den KI-Dienst enthält. Wählen Sie die Methode, die für Ihren Anwendungsfall am besten geeignet ist.
Testen der Bereitstellung von KI-Diensten : Testen Sie Ihren bereitgestellten KI-Dienst für Online-Inferenz oder Batch-Scoring.
KI-Dienste verwalten : Zugriff auf und Aktualisierung von Bereitstellungsdetails. Skalieren oder löschen Sie die Bereitstellung über die Benutzeroberfläche oder programmgesteuert.

KI-Dienste mit Agent Lab bereitstellen

Wenn Sie das Agent Lab verwenden, um einen Agenten zu erstellen und Ihre Arbeit als KI-Dienst bereitzustellen, wird die Logik für Ihre KI-Anwendung automatisch in einem KI-Dienst-Asset erfasst und automatisch eine Online-Bereitstellung für das Asset erstellt.

Vorbereitende Schritte

Sie müssen über einen vorhandenen Ziel-Bereitstellungsbereich verfügen oder einen neuen erstellen, in dem Sie Ihr KI-Service-Asset bereitstellen möchten.
Erstellen Sie im Agent Lab eine agentenbasierte KI-Lösung aus Ihrem Projekt. Weitere Informationen finden Sie unter Agent Lab (Beta ).
Sie müssen Ihre Anmeldeinformationen für Aufgaben einrichten, indem Sie einen API-Schlüssel generieren. Weitere Informationen finden Sie unter Verwalten von Anmeldeinformationen für Aufgaben.

KI-Dienste direkt einsetzen

Führen Sie die folgenden Schritte aus, um eine Online-Bereitstellung für einen KI-Dienst über das Agent Lab-Tool zu erstellen:

Um Ihre Arbeit aus dem Agent Lab als KI-Dienst bereitzustellen, klicken Sie auf "Bereitstellen ".
Geben Sie Ihre Einsatzdetails ein, wählen Sie Ihren Einsatzbereich aus und klicken Sie auf "Erstellen ".

Durch dieses Verfahren wird automatisch eine Online-Bereitstellung für Ihr KI-Service-Asset in Ihrem Projekt- oder Bereitstellungsbereich erstellt. Um eine Batch-Bereitstellung für Ihr KI-Service-Asset zu erstellen, müssen Sie den Prozess zur manuellen Erstellung einer Batch-Bereitstellung aus Ihrem Bereitstellungsbereich befolgen. Weitere Informationen finden Sie unter "KI-Service-Assets bereitstellen ".

Bereitstellung von KI-Diensten mit einem Bereitstellungsnotizbuch in Agent Lab

Um die Programmierlogik Ihrer agentenbasierten KI-Anwendung anzupassen, können Sie das Agent Lab verwenden, um Ihre Arbeit in einem Bereitstellungsnotizbuch zu speichern. Wenn Sie Ihre Arbeit in einem Bereitstellungsnotizbuch speichern, generiert watsonx.ai automatisch ein Bereitstellungsnotizbuch, das die Logik Ihrer agentenbasierten KI-Anwendung in einem KI-Dienst erfasst.

Das Bereitstellungsnotizbuch enthält automatisch generierten Code, um Ihr KI-Service-Asset in einem Bereitstellungsbereich zu bewerben und eine Bereitstellung für das Asset zu erstellen. Sie können das Bereitstellungsnotizbuch bearbeiten, um es anzupassen, z. B. durch Erstellen einer Stapelbereitstellung, um ein KI-Dienstobjekt anstelle einer Online-Bereitstellung für Ihren Anwendungsfall bereitzustellen.

Um Ihre Arbeit in einem Bereitstellungsnotizbuch zu speichern, das einen KI-Dienst aus dem watsonx.ai Prompt-Labor enthält, gehen Sie wie folgt vor:

Arbeiten Sie mit dem Agent Lab zusammen, um eine agentenbasierte KI-Lösung mit Agenten zu erstellen.
Klicken Sie auf das Speichern-Symbol und wählen Sie "Speichern unter" aus dem Dropdown-Menü aus.
Wählen Sie im Dialogfeld "Speichern Sie Ihre Arbeit " das Einsatznotizbuch aus.
Hinweis : Das Bereitstellungsnotizbuch enthält den Code zum Testen, Fördern und Bereitstellen eines KI-Dienstes. Um Ihre Anwendung bereitzustellen, müssen Sie Ihre Arbeit in einem Bereitstellungsnotizbuch speichern. Sie können kein Standard-Notebook verwenden, um ein KI-Service-Asset bereitzustellen.
Geben Sie im Abschnitt "Details definieren " einen Namen und optional eine Beschreibung für Ihr Einsatznotizbuch ein.
Klicken Sie auf Speichern.

Wenn Sie Ihre Arbeit in einem Bereitstellungsnotizbuch speichern, generiert watsonx.ai automatisch ein Notizbuch, das den Code zum Testen, Fördern und Bereitstellen eines KI-Dienstes enthält. Um eine Online-Bereitstellung für Ihren KI-Dienst zu erstellen, führen Sie die Zellen im Bereitstellungsnotizbuch aus.

Sie können das automatisch generierte Bereitstellungsnotizbuch für Ihre agentenbasierten KI-Anwendungen anpassen, indem Sie auf das Symbol "Bearbeiten" klicken.

Inferencing-KI-Dienste, die von Agent Lab bereitgestellt werden

Der vom Notebook bereitgestellte KI-Dienst kann über eine REST-API genutzt werden. Nachfolgend finden Sie ein Beispiel für eine Anfrage an cURL, um Ihren Einsatz zu benennen:

curl --location '${PUBLIC_ENDPOINT}' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer ${IAM_TOKEN}' \
--data '{ \
  "messages": [{$MESSAGES}]
}'

PUBLIC_ENDPOINT ist der öffentliche Endpunkt Ihrer Bereitstellung.
IAM_TOKEN ist das Authentifizierungstoken für den Zugriff auf IBM Cloud -Dienste. Das von Ihnen verwendete Zugriffstoken muss mit demselben Konto verknüpft sein wie das Projekt, auf das im Notizbuch verwiesen wird.

MESSAGES ist eine Reihe von Chatverlauf-Texteinträgen mit folgendem Schema:

{
 "role": type, // "user" or "assistant"
 "content": content // The text content of the message
}

Einen KI-Dienst mit Prompt Lab

Wenn Sie Prompt Lab verwenden, um Ihre Arbeit als KI-Dienst bereitzustellen, wird die Logik für Ihre RAG-Anwendung automatisch in einem KI-Dienst-Asset erfasst und automatisch eine Online-Bereitstellung für das Asset erstellt.

Vorbereitende Schritte

Sie müssen über einen vorhandenen Ziel-Bereitstellungsbereich verfügen oder einen neuen erstellen, in dem Sie Ihr KI-Service-Asset bereitstellen möchten.
Sie müssen einen Vektorindex (in-memory Vektor-Speicher oder Vektor-Datenbank) erstellen, um mit Dokumenten chatten zu können. Weitere Informationen finden Sie unter Chatten mit Dokumenten und Bildern.
Erstellen Sie eine generative KI-Lösung, die RAG aus Ihrem Projekt verwendet.
Sie müssen Ihre Anmeldeinformationen für Aufgaben einrichten, indem Sie einen API-Schlüssel generieren. Weitere Informationen finden Sie unter Verwalten von Anmeldeinformationen für Aufgaben.

Direkte Bereitstellung eines KI-Dienstes

Befolgen Sie diese Schritte, um eine Online-Bereitstellung für einen KI-Dienst aus dem watsonx.ai Prompt-Labor zu erstellen:

Um Ihre Arbeit von Prompt Lab als KI-Dienst bereitzustellen, klicken Sie auf "Bereitstellen ".
Geben Sie Ihre Einsatzdetails ein, wählen Sie Ihren Einsatzbereich aus und klicken Sie auf "Erstellen ".

Bereitstellung von KI-Diensten mit einem Bereitstellungsnotizbuch in Prompt Lab

Um die Programmierlogik Ihrer generativen KI-Anwendung anzupassen, können Sie Ihre Arbeit unter Prompt Lab in einem Bereitstellungsnotizbuch speichern. Wenn Sie Ihre Arbeit in einem Bereitstellungsnotizbuch speichern, generiert watsonx.ai automatisch ein Bereitstellungsnotizbuch, das die Logik Ihrer generativen KI-Anwendung in einem KI-Dienst erfasst.

Um Ihre Arbeit in einem Bereitstellungsnotizbuch zu speichern, das einen KI-Dienst aus dem watsonx.ai Prompt-Labor enthält, gehen Sie wie folgt vor:

Arbeiten Sie mit Prompt Lab zusammen, um eine generative KI-Lösung zu erstellen.
Klicken Sie auf das Speichern-Symbol und wählen Sie "Speichern unter" aus dem Dropdown-Menü aus.
Wählen Sie im Dialogfeld "Speichern Sie Ihre Arbeit " das Einsatznotizbuch aus.
Hinweis : Das Bereitstellungsnotizbuch enthält den Code zum Testen, Fördern und Bereitstellen eines KI-Dienstes. Um Ihre Anwendung bereitzustellen, müssen Sie Ihre Arbeit in einem Bereitstellungsnotizbuch speichern. Sie können kein Standard-Notebook verwenden, um ein KI-Service-Asset bereitzustellen.
Geben Sie im Abschnitt "Details definieren " einen Namen und optional eine Beschreibung für Ihr Einsatznotizbuch ein.
Klicken Sie auf Speichern.

Sie können das automatisch generierte Bereitstellungsnotizbuch für Ihre generativen KI-Anwendungen anpassen, indem Sie auf das Symbol "Bearbeiten" klicken.

Inferencing-KI-Dienste, die von Prompt Lab

Der vom Notebook bereitgestellte KI-Dienst kann über eine REST-API genutzt werden. Nachfolgend finden Sie ein Beispiel für eine Anfrage an cURL, um Ihren Einsatz zu benennen:

curl --location '${PUBLIC_ENDPOINT}' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer ${IAM_TOKEN}' \
--data '{ \
  "input_data": [{
      "fields": ["Search", "Access token"],
      "values": [
        [${MESSAGES}],
        [${IAM_TOKEN}]]
    }]
}'

PUBLIC_ENDPOINT ist der öffentliche Endpunkt Ihrer Bereitstellung.
IAM_TOKEN ist das Authentifizierungstoken für den Zugriff auf IBM Cloud -Dienste. Das von Ihnen verwendete Zugriffstoken muss mit demselben Konto verknüpft sein wie das Projekt, auf das im Notizbuch verwiesen wird.

MESSAGES ist eine Reihe von Chatverlauf-Texteinträgen mit folgendem Schema:

{
 "role": type, // "user" or "assistant"
 "content": content // The text content of the message
}

Einsatz von KI-Diensten mit AutoAI

Wenn Sie AutoAI verwenden, um ein Experiment zu erstellen, das RAG verwendet, und Ihre Arbeit als KI-Dienst bereitstellen, wird die Logik für Ihre RAG-Anwendung automatisch in einem KI-Dienst-Asset erfasst und automatisch eine Online-Bereitstellung für das Asset erstellt.

Vorbereitende Schritte

Sie müssen über einen vorhandenen Ziel-Bereitstellungsbereich verfügen oder einen neuen erstellen, in dem Sie Ihr KI-Service-Asset bereitstellen möchten.
Sie müssen einen Vektorindex (in-memory Vektor-Speicher oder Vektor-Datenbank) erstellen, um mit Dokumenten chatten zu können. Weitere Informationen finden Sie unter Chatten mit Dokumenten und Bildern.
Erstellen Sie eine generative KI-Lösung, die RAG mit dem AutoAI -Experiment-Builder aus Ihrem Projekt verwendet. Weitere Informationen finden Sie unter "Aufbau eines AutoAI -Experiments, das RAG verwendet ".
Sie müssen Ihre Anmeldeinformationen für Aufgaben einrichten, indem Sie einen API-Schlüssel generieren. Weitere Informationen finden Sie unter Verwalten von Anmeldeinformationen für Aufgaben.

KI-Dienste direkt einsetzen

Führen Sie die folgenden Schritte aus, um eine Online-Bereitstellung für einen KI-Dienst aus dem Experiment Builder-Tool AutoAI zu erstellen:

Um Ihre Arbeit aus dem AutoAI -Experiment-Builder bereitzustellen, wählen Sie die Pipeline mit der besten Leistung für die Bereitstellung aus und klicken Sie auf "Speichern unter ".
Wählen Sie "Abrufen und Generieren " als Ziel und wählen Sie den KI-Dienstleistungstyp aus.
Aktivieren Sie die Option, um den KI-Dienst zu bewerben und in einem Bereitstellungsbereich bereitzustellen.
Wählen Sie Ihren Einsatzbereich aus und klicken Sie auf "Erstellen und speichern ".

Nächste Schritte

Übergeordnetes Thema: Einsatz von KI-Diensten

War das Thema hilfreich?

0/1000