Démarrage rapide: Demander un modèle de base avec le modèle de génération d'extension d'extraction
Suivez ce tutoriel pour apprendre à utiliser des modèles de base dans IBM watsonx.ai afin de générer une sortie factuellement précise basée sur des informations dans une base de connaissances en appliquant le modèle de génération d'extraction augmentée. Les modèles de base peuvent générer une sortie factuellement inexacte pour diverses raisons. Une façon d'améliorer la précision de la sortie générée consiste à fournir les faits nécessaires en tant que contexte dans votre texte d'invite. Ce tutoriel utilise un exemple de bloc-notes utilisant la méthode de modèle de génération d'extension d'extraction pour améliorer la précision de la sortie générée.
- Services requis
- Watson Studio
- Watson Machine Learning
Votre flux de travaux de base inclut les tâches suivantes :
- Ouvrez un projet. Les projets sont l'endroit où vous collaborez avec d'autres personnes sur les données.
- Ajoutez un bloc-notes à votre projet. Vous pouvez créer votre propre bloc-notes ou ajouter un exemple de bloc-notes à votre projet.
- Ajoutez et éditez du code, puis exécutez le bloc-notes.
- Passez en revue la sortie du bloc-notes.
En savoir plus sur l'extraction-modèle de génération étendu
Vous pouvez mettre à l'échelle la technique d'inclusion de contexte dans vos invites en tirant parti des informations d'une base de connaissances. Le modèle de génération d'extension d'extraction implique trois étapes de base:
- Recherchez du contenu pertinent dans votre base de connaissances
- Extraire le contenu le plus pertinent dans votre invite en tant que contexte
- Envoyer le texte d'invite combiné au modèle pour générer la sortie
En savoir plus sur le modèle de génération étendu d'extraction
Regardez une vidéo sur l'utilisation du modèle de génération avec récupération augmentée
Regardez cette vidéo pour prévisualiser les étapes de ce tutoriel. Il peut y avoir de légères différences dans l'interface utilisateur affichée dans la vidéo. La vidéo est destinée à être un compagnon du tutoriel écrit.
Cette vidéo fournit une méthode visuelle pour apprendre les concepts et les tâches de cette documentation.
Essayez un tutoriel pour inviter un modèle de base avec le modèle de génération étendu d'extraction
Dans ce tutoriel, vous exécutez les tâches suivantes :
- Tâche 1: Ouvrir un projet
- Tâche 2: Ajouter un exemple de bloc-notes à votre projet
- Tâche 3: Editer le bloc-notes
- Tâche 4: Exécuter le bloc-notes et vérifier la sortie
Conseils pour l'exécution de ce tutoriel
Voici quelques conseils pour réussir ce tutoriel.
Utiliser la vidéo image-in-picture
L'image animée suivante montre comment utiliser les fonctions d'image vidéo et de table des matières:
Obtenir de l'aide dans la communauté
Si vous avez besoin d'aide pour ce tutoriel, vous pouvez poser une question ou trouver une réponse dans le forum de discussion de la communautéwatsonx.
Configurez les fenêtres de votre navigateur
Pour une expérience optimale lors de l'exécution de ce tutoriel, ouvrez Cloud Pak for Data dans une fenêtre de navigateur et laissez cette page de tutoriel ouverte dans une autre fenêtre de navigateur pour basculer facilement entre les deux applications. Envisagez d'organiser les deux fenêtres du navigateur côte à côte pour faciliter le suivi.
Tâche 1: Ouvrir un projet
Vous avez besoin d'un projet pour stocker l'exemple de bloc-notes.
Regardez une vidéo pour voir comment créer un projet de bac à sable et associer un service. Suivez ensuite les étapes pour vérifier que vous disposez d'un projet existant ou créez un projet de bac à sable.
Cette vidéo fournit une méthode visuelle pour apprendre les concepts et les tâches de cette documentation.
Suivez les étapes pour vérifier que vous disposez d'un projet existant ou que vous créez un projet.
A partir de l'écran d'accueil watsonx , faites défiler l'écran jusqu'à la section Projects . Si vous voyez des projets répertoriés, passez à Associer le service Watson Machine Learning. Si vous ne voyez aucun projet, procédez comme suit pour créer un projet.
Cliquez sur Créer un projet de bac à sable. Une fois le projet créé, le bac à sable apparaît dans la section Projets .
Ouvrez un projet existant ou le nouveau projet de bac à sable.
Associez le service Watson Machine Learning au projet
Vous utiliserez Watson Machine Learning pour inviter le modèle de base. Par conséquent, suivez ces étapes pour associer votre instance de service Watson Machine Learning à votre projet.
Dans le projet, cliquez sur l'onglet Gérer .
Cliquez sur la page Services et intégrations .
Vérifiez si un service Watson Machine Learning est associé à ce projet. Si aucun service n'est associé, procédez comme suit:
Cliquez sur Associer un service.
Cochez la case en regard de votre instance de service Watson Machine Learning .
Cliquez sur Associer.
Si nécessaire, cliquez sur Annuler pour revenir à la page Services & Intégrations .
Pour plus d'informations ou pour regarder une vidéo, voir Création d'un projet.
Vérifiez votre progression
L'image suivante montre l'onglet Gérer avec le service associé. Vous êtes maintenant prêt à ajouter l'exemple de bloc-notes à votre projet.
Tâche 2: Ajouter l'exemple de bloc-notes à votre projet
L'exemple de bloc-notes utilise une petite base de connaissances et un composant de recherche simple pour illustrer le modèle de base. Le scénario utilisé dans ce bloc-notes est destiné à une société qui vend des graines pour les planter dans un jardin. Le site Web d'un catalogue de semences en ligne contient de nombreux articles pour aider les clients à planifier leur jardin et à choisir les semences à acheter. La nouvelle largeur est ajoutée au site Web pour répondre aux questions des clients sur le contenu des articles.
Regardez cette vidéo pour voir comment ajouter un exemple de bloc-notes à un projet, puis suivez les étapes pour ajouter le bloc-notes à votre projet.
Cette vidéo fournit une méthode visuelle pour apprendre les concepts et les tâches de cette documentation.
Accédez au RAG : A simple introduction notebook dans le Resource hub.
Cliquez sur Ajouter au projet.
Sélectionnez votre projet dans la liste et cliquez sur Ajouter.
Entrez le nom et la description du bloc-notes (facultatif).
Sélectionnez un environnement d'exécution pour ce bloc-notes.
Cliquez sur Créer. Attendez que l'éditeur de bloc-notes se charge.
Dans le menu, cliquez sur Noyau > Redémarrer & Effacer la sortie, puis confirmez en cliquant sur Redémarrer et effacer toutes les sorties pour effacer la sortie de la dernière exécution sauvegardée.
Pour plus d'informations sur les services associés, voir Ajout de services associés.
Vérifiez votre progression
L'image suivante montre le bloc-notes ouvert en mode édition. Vous êtes maintenant prêt à configurer les prérequis pour l'exécution du bloc-notes.
Tâche 3: Editer le bloc-notes
Pour prévisualiser cette tâche, regardez la vidéo à partir de 00:57.
Avant de pouvoir exécuter le bloc-notes, vous devez configurer l'environnement. Pour vérifier les prérequis du bloc-notes, procédez comme suit:
Faites défiler l'écran jusqu'à la section For IBM watsonx on IBM Cloud du bloc-notes pour voir les deux prérequis pour l'exécution du bloc-notes.
Dans la section Créer une clé d'API IBM Cloud , vous devez transmettre vos données d'identification à l'API Watson Machine Learning à l'aide d'une clé d'API. Si vous ne disposez pas déjà d'une clé d'API sauvegardée, procédez comme suit pour créer une clé d'API.
Accédez à la page des clés d'API de la consoleIBM Cloud.
Cliquez sur Créer une clé d'API IBM Cloud. Si vous disposez de clés d'API existantes, le bouton peut être intitulé Créer.
Entrez un nom et une description.
Cliquez sur Créer.
Copier la clé de l'API.
Téléchargez la clé de l'API pour une utilisation ultérieure.
Passez en revue la section Associer une instance du service Watson Machine Learning au projet en cours . Vous avez effectué les tâches prérequises dans la Tâche 1.
Accédez à la section Exécuter la cellule pour fournir la clé d'API IBM Cloud :
Cliquez sur l'icône Exécuter
pour exécuter la cellule.
Collez la clé d'API et appuyez sur
Enter
.
Sous Exécuter la cellule pour définir les données d'identification pour IBM watsonx sur IBM Cloud, cliquez sur l'icône Exécuter
pour exécuter la cellule et définir les données d'identification.
Vérifiez votre progression
Les images suivantes montrent le bloc-notes avec les prérequis remplis. Vous êtes maintenant prêt à exécuter le bloc-notes et à passer en revue la sortie.
Tâche 4: Exécuter le bloc-notes et examiner la sortie
Pour prévisualiser cette tâche, regardez la vidéo à partir de 01:03.
L'exemple de bloc-notes inclut des informations sur la génération d'extension d'extraction et sur la manière dont vous pouvez adapter le bloc-notes à votre cas d'utilisation spécifique. Procédez comme suit pour exécuter le bloc-notes et passer en revue la sortie:
Faites défiler la page jusqu'à la section Etape 2: Créer une base de connaissances dans le bloc-notes:
Cliquez sur l'icône Exécuter
pour chacune des trois cellules de cette section.
Examinez la sortie des trois cellules de la section. Le code de ces cellules configure la base de connaissances sous la forme d'une collection de deux articles. Ces articles ont été écrits en tant qu'exemples pour watsonx.ai, ils ne sont pas de vrais articles publiés ailleurs. Les auteurs et les dates de publication sont fictifs.
Accédez à la section Etape 3: Génération d'un composant de recherche simple dans le bloc-notes:
Cliquez sur l'icône Exécuter
pour chacune des deux cellules de cette section.
Examinez la sortie des deux cellules de la section. Le code de ces cellules génère un composant de recherche simple. De nombreux articles qui traitent de la récupération-la génération augmentée supposent que le composant de récupération utilise une base de données vectorielle. Toutefois, pour effectuer le modèle de génération étendu d'extraction générale, toute méthode de recherche et d'extraction qui peut renvoyer de manière fiable du contenu pertinent à partir de la base de connaissances sera utilisée. Dans ce bloc-notes, le composant de recherche est une fonction de recherche triviale qui renvoie l'index de l'un ou l'autre des deux articles de la base de connaissances, en fonction d'une simple correspondance d'expression régulière.
Faites défiler l'écran jusqu'à la section Etape 4: Texte d'invite du corps de métier dans le bloc-notes:
Cliquez sur l'icône Exécuter
pour chacune des deux cellules de cette section.
Examinez la sortie des deux cellules de la section. Le code de ces cellules entre dans le texte de l'invite. Il n'y a personne, la meilleure invite pour une tâche donnée. Toutefois, les modèles qui ont été optimisés pour les instructions, tels que bigscience/mt0-xxl-13b, google/flan-t5-xxl-11bou google/flan-ul2-20b, peuvent généralement effectuer cette tâche avec un exemple d'invite. Les méthodes de décodage conservatrices tendent vers des réponses succinctes. Dans l'invite, remarquez deux marques de réservation de chaîne (marquées de %s) qui seront remplacées lors de la génération:
- La première marque de réservation sera remplacée par le texte de l'article correspondant de la base de connaissances
- La deuxième marque de réservation sera remplacée par la question à répondre
Faites défiler la page jusqu'à la section Etape 5: Générer la sortie à l'aide de la section Python library des modèles de base dans le bloc-notes:
Cliquez sur l'icône Exécuter
pour chacune des trois cellules de cette section.
Examinez la sortie des trois cellules de la section. Le code de ces cellules génère une sortie à l'aide de la bibliothèque Python . Vous pouvez inviter des modèles de base dans watsonx.ai à l'aide d'un programme à l'aide de la bibliothèque Python . Pour plus d'informations sur la bibliothèque, voir les rubriques suivantes:
Faites défiler jusqu'à la section Etape 6: Extraire tout ensemble pour effectuer la récupération-génération augmentée dans le bloc-notes:
Cliquez sur l'icône Exécuter
pour chacune des deux cellules de cette section. Ce code rassemble tous les éléments pour effectuer une génération avec récupération augmentée.
Examinez la sortie de la première cellule de la section. Le code de cette cellule configure les éléments d'entrée utilisateur.
Pour la deuxième cellule de la section, tapez une question relative aux tomates ou aux concombres pour voir la réponse et la source. Par exemple,
Do I use mulch with tomatoes?
.Passez en revue la réponse à votre question.
Vérifiez votre progression
L'image suivante montre le bloc-notes terminé.
Etapes suivantes
Regardez la vidéo à partir de 02:55 pour en savoir plus sur l'application du modèle de génération d'extension d'extraction à une solution de production.
- Essayez le tutoriel Demander un modèle de base à l'aide de Prompt Lab.
- Essayez les autres tutoriels de cas d'utilisationwatsonx.ai.
Ressources supplémentaires
Afficher plus de vidéos.
Recherchez des exemples d'ensembles de données, de projets, de modèles, d'invites et de blocs-notes dans le concentrateur de ressources pour acquérir une expérience pratique:
Notebooks que vous pouvez ajouter à votre projet pour commencer à analyser les données et à générer des modèles.
Projets que vous pouvez importer contenant des blocs-notes, des ensembles de données, des invites et d'autres actifs.
Ensembles de données que vous pouvez ajouter à votre projet pour affiner, analyser et générer des modèles.
Invites que vous pouvez utiliser dans le lab d'invite pour demander un modèle de base.
Modèles Foundation que vous pouvez utiliser dans Prompt Lab.
Rubrique parent: Tutoriels de démarrage rapide