È possibile utilizzare il Prompt Lab per chattare con i documenti fornendo un indice vettoriale. Quando si distribuisce il lavoro come servizio AI, la logica dell'applicazione RAG viene automaticamente catturata in un asset del servizio AI e viene creato un deployment online per l'asset.
Prima di iniziare
- È necessario disporre di uno spazio di distribuzione di destinazione esistente o crearne uno nuovo in cui si desidera distribuire la risorsa del servizio AI.
- È necessario creare un indice vettoriale (archivio vettoriale in memoria o database vettoriale) per chattare con i documenti. Per ulteriori informazioni, vedere Chattare con documenti e immagini.
- È necessario impostare le credenziali dell'attività generando una chiave API. Per ulteriori informazioni, vedere Gestione delle credenziali delle attività.
Creazione di una distribuzione online per i servizi AI
Seguite questi passaggi per creare un'installazione online per un servizio AI dall'interfaccia utente del laboratorio Prompt di watsonx.ai
Dal vostro progetto, aprite il laboratorio di prompt e chiacchierate con i documenti per costruire una soluzione RAG. Per ulteriori informazioni, vedere Chattare con documenti e immagini.
Per distribuire il lavoro come servizio AI, fare clic su Deploy.
Nella finestra di dialogo Distribuisci come servizio AI, inserire i dettagli di distribuzione:
a. Inserire un nome per la distribuzione del servizio AI.
b. Selezionate un progetto o uno spazio di distribuzione di destinazione dal menu a discesa.
c. Opzionale: Fornire una descrizione e selezionare la casella di controllo se si desidera visualizzare la risorsa del servizio AI nel progetto dopo la distribuzione.Fare clic su Deploy.
Questa procedura crea automaticamente una distribuzione online per la risorsa del servizio AI nel progetto o nello spazio di distribuzione. Per creare un'installazione batch per l'asset del servizio AI, è necessario seguire la procedura per creare manualmente un'installazione batch dallo spazio di distribuzione. Per ulteriori informazioni, vedere Distribuzione di risorse di servizi AI.
Ulteriori informazioni
Distribuzione di servizi AI da Prompt Lab con i notebook
Argomento principale: Distribuzione di servizi AI con Prompt Lab