Suivez ce tutoriel pour apprendre à utiliser Prompt Lab dans watsonx.ai. Il existe généralement plusieurs façons d'inciter un foundation model à donner un résultat satisfaisant. Dans le laboratoire d'invite, vous pouvez tester différents modèles de base d'invite, explorer des exemples d'invite, ainsi que sauvegarder et partager vos meilleures invites. Voir les conseils d'invite pour vous aider à inviter la plupart des modèles de fondation générateurs de texte.
- Services requis
- studio watsonx.ai
- watsonx.ai Runtime
Votre flux de travaux de base inclut les tâches suivantes :
- Ouvrez un projet. Les projets sont l'endroit où vous collaborez avec d'autres personnes sur les données.
- Ouvrez le laboratoire d'invite. Prompt Lab vous permet d'expérimenter différents modèles de base d'invite, d'explorer des exemples d'invites, ainsi que d'enregistrer et de partager vos meilleures invites.
- Entrez votre invite dans l'éditeur d'invite. Vous pouvez entrer des invites en format libre et en mode structuré.
- Sélectionnez le modèle à utiliser. Vous pouvez soumettre votre demande à l'un des modèles disponibles dans watsonx.ai.
- Sauvegardez votre travail en tant qu'actif de projet. La sauvegarde de votre travail en tant qu'actif de projet met votre travail à la disposition des collaborateurs dans le projet en cours.
En savoir plus sur l'incitation à un foundation model
Les modèles de base sont de très grands modèles d'IA. Ils ont des milliards de paramètres et sont entraînés sur des téraoctets de données. Les modèles de base peuvent effectuer diverses tâches, notamment la génération de texte, de code ou d'image, la classification, la conversation, etc. Les grands modèles de langage sont un sous-ensemble de modèles de base utilisés pour les tâches liées au texte et au code. Dans IBM watsonx.ai, il existe une collection de grands modèles de langue déployés que vous pouvez utiliser, ainsi que des outils permettant de tester les invites.
Regarder une vidéo sur l'incitation d'un foundation model
Regardez cette vidéo pour prévisualiser les étapes de ce tutoriel. Il peut y avoir de légères différences dans l'interface utilisateur affichée dans la vidéo. La vidéo est destinée à être un compagnon du tutoriel écrit.
Cette vidéo fournit une méthode visuelle pour apprendre les concepts et les tâches de cette documentation.
Essayer un tutoriel pour susciter un foundation model
Dans ce tutoriel, vous exécutez les tâches suivantes :
- Tâche 1: Ouvrir un projet
- Tâche 2: Utiliser le laboratoire d'invite en mode libre
- Tâche 3: Utiliser le lab d'invite en mode structuré
- Tâche 4: Utiliser les exemples d'invites
- Tâche 5 : Choisir un foundation model
- Tâche 6: Ajuster les paramètres de modèle
- Tâche 7: Sauvegarder votre travail
Conseils pour l'exécution de ce tutoriel
Voici quelques conseils pour réussir ce tutoriel.
Utiliser la vidéo image-in-picture
L'image animée suivante montre comment utiliser les fonctions d'image vidéo et de table des matières:
Obtenir de l'aide dans la communauté
Si vous avez besoin d'aide avec ce tutoriel, vous pouvez poser une question ou trouver une réponse dans le forum de discussion de la Communautéwatsonx.
Configurez les fenêtres de votre navigateur
Pour une expérience optimale lors de l'exécution de ce tutoriel, ouvrez Cloud Pak for Data dans une fenêtre de navigateur et laissez cette page de tutoriel ouverte dans une autre fenêtre de navigateur pour basculer facilement entre les deux applications. Envisagez d'organiser les deux fenêtres du navigateur côte à côte pour faciliter le suivi.
Tâche 1: Ouvrir un projet
Vous avez besoin d'un projet pour stocker les ressources Prompt Lab.
Regardez une vidéo pour voir comment créer un projet de bac à sable et associer un service. Suivez ensuite les étapes pour vérifier que vous disposez d'un projet existant ou créez un projet de bac à sable.
Cette vidéo fournit une méthode visuelle pour apprendre les concepts et les tâches de cette documentation.
A partir de l'écran d'accueil watsonx , faites défiler l'écran jusqu'à la section Projects . Si vous voyez des projets répertoriés, passez à la Tâche 2. Si vous ne voyez aucun projet, procédez comme suit pour créer un projet.
Cliquez sur Créer un projet de bac à sable. Une fois le projet créé, vous verrez le projet de bac à sable dans la section Projets .
Pour plus d'informations ou pour regarder une vidéo, voir Création d'un projet.
Vérifier votre progression
L'image suivante montre l'écran d'accueil avec le bac à sable répertorié dans la section Projets. Vous êtes maintenant prêt à ouvrir Prompt Lab.
Tâche 2: Utiliser le laboratoire d'invite en mode libre
Pour avoir un aperçu de cette tâche, regardez la vidéo à partir de 00:03.
Vous pouvez entrer votre texte d'invite dans un éditeur de texte en clair à structure libre, puis cliquer sur Générer pour envoyer votre invite au modèle. Pour utiliser Prompt Lab en mode libre, procédez comme suit:
Dans l'écran d'accueil, cliquez sur la vignette Ouvrir dans Prompt Lab .
Cochez chaque case pour accepter les accusés de réception, puis cliquez sur Ignorer la visite.
Cliquez sur l'onglet Forme libre pour inviter un foundation model en mode Forme libre.
Cliquez sur Changer de mode.
Copiez et collez le texte suivant dans la zone de texte, puis cliquez sur Générer pour afficher la sortie du nom de classe: Problème.
Classify this customer message into one of two classes: question, problem.
Class name: Question
Description: The customer is asking a technical question or a how-to question about our products or services.
Class name: Problem
Description: The customer is describing a problem they are having. They might say they are trying something, but it's not working. They might say they are getting an error or unexpected results.
Message: I'm having trouble registering for a new account.
Class name:
Vérifier votre progression
Les images suivantes montrent la sortie générée pour l'invite en mode libre. Vous êtes maintenant prêt à demander un foundation model en mode structuré.
Tâche 3: Utiliser le lab d'invite en mode structuré
Pour avoir un aperçu de cette tâche, regardez la vidéo à partir de 00:19.
Vous pouvez entrer votre invite dans un format structuré. Le format structuré est utile pour les invites de saisie de données, lorsque votre invite comporte plusieurs exemples. Pour utiliser Prompt Lab en mode structuré, procédez comme suit:
Cliquez sur l'onglet Structuré .
Cliquez sur Changer de mode.
Dans la zone Instruction , copiez et collez le texte suivant:
Given a message submitted to a customer-support chatbot for a cloud software company, classify the customer's message as either a question or a problem description so the chat can be routed to the correct support team.Dans la zone Configurer , copiez et collez le texte suivant dans chaque colonne:
Valeurs de la zone Configuration Entrée Sortie Lorsque j'essaie de me connecter, je reçois une erreur. Problème Où puis-je trouver les prix du plan? Question Quelle est la différence entre l'essai et le paiement? Question La page d'enregistrement est tombée en panne, et maintenant je ne peux pas créer de nouveau compte. Problème Quelles sont les régions prises en charge? Question Je ne me souviens pas de mon mot de passe. Problème Dans la zone Try , copiez et collez le texte suivant:
I'm having trouble registering for a new account.Cliquez sur Générer pour afficher la sortie Problème.
Vérifier votre progression
Les images suivantes montrent la sortie générée pour l'invite en mode structuré. Vous êtes maintenant prêt à essayer les exemples d'invite.
Tâche 4: Utiliser les exemples d'invites
Pour prévisualiser cette tâche, regardez la vidéo à partir de 00:33. Si vous ne savez pas comment commencer, des exemples d'invites peuvent vous aider à démarrer. Pour utiliser les exemples d'invites, procédez comme suit:
- Ouvrez l'icône "
des messages-types pour afficher la liste. - Faites défiler la liste et cliquez sur l'exemple d'invite Marketing email generation .
- Afficher le modèle sélectionné. Lorsque vous chargez un exemple d'invite, un modèle approprié est sélectionné pour vous.
- Ouvrez le panneau Paramètres du modèle "
. Les paramètres de critères de décodage et d'arrêt appropriés sont également définis automatiquement. - Cliquez sur Générer pour soumettre l'exemple d'invite au modèle et voir l'exemple de sortie d'e-mail.
Vérifier votre progression
L'image suivante montre la sortie générée à partir d'un exemple d'invite. Vous êtes maintenant prêt à personnaliser l'exemple de sortie d'invite en sélectionnant un modèle et des paramètres différents.
Tâche 5 : Choisir un foundation model
Pour avoir un aperçu de cette tâche, regardez la vidéo à partir de 01:04. Vous pouvez soumettre la même invite à un modèle différent. Si vous devez générer une sortie dans une sortie structurée spécifique, telle que JSON, HTML ou XML, vous pouvez le faire en choisissant un modèle qui a été affiné pour générer une sortie structurée, en utilisant des exemples à quelques mesures dans votre invite ou en ajustant un modèle. Procédez comme suit pour choisir un autre foundation model:
- Cliquez sur Modèle > Afficher tous les modèles de base.
- Cliquez sur un modèle pour en savoir plus sur un modèle et afficher des détails tels que l'architecture du modèle, les données de préapprentissage, les informations d'optimisation et les performances par rapport aux tests de performances.
- Cliquez sur Précédent pour revenir à la liste des modèles.
- Sélectionnez le foundation model flan-t5-xxl-11b ou mt0-xxl-13b, puis cliquez sur Sélectionner un modèle.
- Survolez la colonne de sortie du modèle et cliquez sur l'icône X pour supprimer la sortie précédente.
- Cliquez sur le même exemple d'invite, Marketing email generation, dans la liste.
- Cliquez sur Générer pour générer la sortie à l'aide du nouveau modèle.
Vérifier votre progression
L'image suivante montre la sortie générée à l'aide d'un modèle différent. Vous êtes maintenant prêt à ajuster les paramètres du modèle.
Tâche 6: Ajuster les paramètres de modèle
Pour avoir un aperçu de cette tâche, regardez la vidéo à partir de 01:28.
Vous pouvez expérimenter la modification des paramètres de critères de décodage ou d'arrêt. Procédez comme suit pour ajuster les paramètres de modèle.
Le tableau suivant définit les paramètres disponibles pour le foundation model flan-t5-xxl-11b.
| Paramètres de modèle | Signification |
|---|---|
| Décodage | Définissez le décodage sur Greedy pour toujours sélectionner les mots avec la probabilité la plus élevée. Définissez le décodage sur Echantillonnage pour personnaliser la variabilité de la sélection de mots. |
| Température | Contrôlez la créativité du texte généré. Des valeurs plus élevées entraîneront des sorties générées plus aléatoirement. |
| Top P (échantillonnage de noyau) | Définissez sur < 1.0 pour utiliser uniquement le plus petit ensemble de jetons les plus probables avec des probabilités dont la somme est supérieure ou égale à top_p . |
| Top K | Définissez le nombre de jetons de vocabulaire à la probabilité la plus élevée à conserver pour le filtrage Top K. Des valeurs plus faibles réduisent la probabilité que le modèle s'écarte du sujet. |
| Valeur aléatoire de départ | Contrôlez l'échantillonnage aléatoire des jetons générés lorsque l'échantillonnage est activé. La définition de la vue aléatoire sur le même nombre pour chaque génération assure la répétabilité expérimentale. |
| Pénalité de répétition | Définissez une pénalité de répétition pour contrer la tendance du modèle à répéter textuellement le texte de l'invite ou à être bloqué dans une boucle. 1.00 indique qu'il n'y a pas de pénalité. |
| Séquences d'arrêt | Définissez des séquences d'arrêt sur une ou plusieurs chaînes pour que la génération de texte s'arrête si ou quand elles sont produites dans le cadre de la sortie. |
| Nombre minimal de jetons | Définissez le nombre minimal de jetons à générer. Les séquences d'arrêt rencontrées avant le nombre minimal de jetons générés sont ignorées. |
| Nombre maximal de jetons | Définissez le nombre maximal de jetons à générer. |
- Remplacez la valeur du paramètre Top K par
10pour réduire la probabilité que le modèle ne soit pas traité dans la rubrique. - Cliquez sur X pour supprimer la sortie de modèle précédente.
- Cliquez sur le même exemple d'invite dans la liste.
- Cliquez sur Générer pour générer la sortie à l'aide des nouveaux paramètres de modèle.
- Cliquez sur l'icône "
de l'historique de la session après avoir répondu à plusieurs questions pour consulter l'historique de votre session. - Cliquez sur une entrée pour utiliser une invite précédente, une spécification de modèle et des paramètres, puis cliquez sur Restaurer.
- Editez l'invite, modifiez le modèle ou ajustez les paramètres des critères de décodage et d'arrêt.
- Cliquez sur Générer pour générer la sortie à l'aide des informations mises à jour.
Vérifier votre progression
L'image suivante montre la sortie générée à l'aide de différents paramètres de modèle. Vous êtes maintenant prêt à sauvegarder votre travail.
Tâche 7: Enregistrer votre travail
Pour avoir un aperçu de cette tâche, regardez la vidéo à partir de 02:15.
Vous pouvez sauvegarder votre travail dans trois formats:
| Type d'actif | Descriptif |
|---|---|
| Modèle d'invite | Sauvegardez l'invite en cours uniquement, sans son historique. |
| Session d'invites | Sauvegardez l'historique et les données de la session en cours. |
| Bloc-notes | Sauvegardez l'invite en cours sous forme de bloc-notes. |
Pour sauvegarder votre travail, procédez comme suit:
- Cliquez sur Sauvegarder le travail > Sauvegarder sous.
- Sélectionnez Modèle d'invite.
- Pour le nom, entrez
Sample prompts. - Sélectionnez l'option Afficher dans le projet après avoir sauvegardé .
- Cliquez sur Sauvegarder.
- Dans l'onglet Actifs du projet, cliquez sur l'actif Exemples d'invites pour charger cette invite dans le lab d'invite et revenir directement au travail.
- Cliquez sur Saved promp ts '
pour voir les invites sauvegardées de votre projet bac à sable.
Vérifier votre progression
L'image suivante montre l'onglet Actifs du projet avec l'actif de modèle d'invite:
L'image suivante montre une invite sauvegardée dans le laboratoire des invites :
Etapes suivantes
Regardez cette vidéo montrant le mode Discussion dans le laboratoire d'invite.
Cette vidéo fournit une méthode visuelle pour apprendre les concepts et les tâches de cette documentation.
Vous êtes maintenant prêt à:
- Utilisez Prompt Lab pour demander des modèles de base et sauvegarder votre travail dans un projet.
- Essayez le tutoriel Prompt a foundation model with the retrieval-augmented generation pattern
- Essayez les autres tutoriels de cas d'utilisationwatsonx.ai.
Ressources supplémentaires
Afficher plus de vidéos.
Recherchez des exemples d'ensembles de données, de projets, de modèles, d'invites et de blocs-notes dans le concentrateur de ressources pour acquérir une expérience pratique:
Cahiers de notes que vous pouvez ajouter à votre projet pour commencer à analyser des données et à construire des modèles.
Projets que vous pouvez importer et qui contiennent des carnets de notes, des ensembles de données, des messages-guides et d'autres ressources.
Ensembles de données que vous pouvez ajouter à votre projet pour affiner, analyser et construire des modèles.
Invites que vous pouvez utiliser dans le laboratoire d'invite pour inviter un foundation model.
Modèles de fondation que vous pouvez utiliser dans le cadre du laboratoire d'expertise.
Rubrique parent: Tutoriels de démarrage rapide