0 / 0
Zurück zur englischen Version der Dokumentation

Bereitstellung von KI-Diensten von Prompt Lab mit schnellem Weg

Letzte Aktualisierung: 07. Nov. 2024
Bereitstellung von KI-Diensten von Prompt Lab mit schnellem Weg

Sie können das Prompt Lab verwenden, um mit Dokumenten zu chatten, indem Sie einen Vektorindex bereitstellen. Wenn Sie Ihre Arbeit als KI-Service bereitstellen, wird die Logik für Ihre RAG-Anwendung automatisch in einem KI-Service-Asset erfasst und eine Online-Bereitstellung für das Asset erstellt.

Vorbereitende Schritte

  1. Sie müssen einen bestehenden Zielverteilungsraum haben oder einen neuen erstellen, in dem Sie Ihr KI-Service-Asset bereitstellen möchten.
  2. Sie müssen einen Vektorindex (In-Memory-Vektorspeicher oder Vektordatenbank) erstellen, um mit Dokumenten zu kommunizieren. Weitere Informationen finden Sie unter Chatten mit Dokumenten und Bildern.
  3. Sie müssen Ihre Anmeldedaten für die Aufgabe einrichten, indem Sie einen API-Schlüssel erstellen. Weitere Informationen finden Sie unter Verwalten von Berechtigungsnachweisen für Aufgaben.

Erstellung einer Online-Bereitstellung für AI-Dienste

Führen Sie die folgenden Schritte aus, um ein Online-Deployment für einen KI-Dienst über die Benutzeroberfläche von watsonx.ai Prompt Lab zu erstellen:

  1. Öffnen Sie in Ihrem Projekt das Prompt-Labor und chatten Sie mit Dokumenten, um eine RAG-Lösung zu erstellen. Weitere Informationen finden Sie unter Chatten mit Dokumenten und Bildern.

  2. Um Ihre Arbeit als KI-Dienst bereitzustellen, klicken Sie auf Bereitstellen.

    Der Screenshot zeigt die Bereitstellung von KI-Diensten aus dem Prompt Lab mit schnellem Pfad

  3. Geben Sie im Dialogfeld " Als KI-Dienst bereitstellen " Ihre Bereitstellungsdetails ein:

    a. Geben Sie einen Namen für Ihren AI-Service-Einsatz ein.
    b. Wählen Sie ein Zielprojekt oder einen Bereitstellungsraum aus dem Dropdown-Menü.
    c. Optional: Geben Sie eine Beschreibung ein und aktivieren Sie das Kontrollkästchen, wenn Sie das KI-Service-Asset nach der Bereitstellung im Projekt anzeigen möchten.

  4. Klicken Sie auf Bereitstellen.

Hinweis:

Dieses Verfahren erstellt automatisch eine Online-Bereitstellung für Ihr KI-Service-Asset in Ihrem Projekt oder Bereitstellungsbereich. Um eine Batch-Bereitstellung für Ihr AI-Service-Asset zu erstellen, müssen Sie den Prozess zur manuellen Erstellung einer Batch-Bereitstellung aus Ihrem Bereitstellungsbereich befolgen. Weitere Informationen finden Sie unter Bereitstellen von AI-Service-Assets.

Weitere Informationen

Bereitstellung von KI-Diensten aus Prompt Lab mit Notebooks

Übergeordnetes Thema: Bereitstellung von KI-Diensten mit Prompt Lab