0 / 0
Go back to the English version of the documentation
Ukázkové výzvy modelu základů pro běžné úlohy
Last updated: 09. 11. 2023
Ukázkové výzvy modelu základů pro běžné úlohy

Vyzkoušejte tyto ukázky, abyste se dozvěděli, jak mohou různé výzvy vést základní modely k provádění běžných úloh.

 

Jak používat toto téma

Prozkoumejte ukázkové výzvy k zadání v tomto tématu:

  • Okopírujte a vložte text výzvy k zadání a vstupní hodnoty parametrů do Výzvě Lab v souboru IBM watsonx.ai
  • Podívejte se, jaký text je generován.
  • Podívejte se, jak různé modely generují jiný výstup.
  • Změňte text výzvy a parametry, abyste viděli, jak se výsledky liší.

Neexistuje jediný správný způsob, jak používat modely založené na základech. V akademickém a průmyslovém prostředí však byly nalezeny vzorce, které fungují poměrně spolehlivě. Použijte ukázky v tomto tématu k sestavení vašich dovedností a intuice o urychlovacím inženýrství prostřednictvím experimentů.

 

Toto video poskytuje vizuální metodu pro seznámení se s koncepty a úlohami v této dokumentaci.


Kapitoly videa
[ 0:11 ] Úvod do výzev k zadání a výzvy k zadání testovacího pracoviště
[ 0:33 ] Klíčová koncepce: Vše je dokončeno dokončování textu
[ 1:34 ] Užitečný vzorek výzvy k zadání: málo výtečných výzev
[ 1:58 ] Zastavení kritérií: Maximální počet tokenů, zastavení posloupností
[ 3:32 ], koncept klíče: Vyladění
[ 4:32 ] Užitečné vzory výzev k zadání: Zero-shot prompt
[ 5:32 ] Klíčová koncepce: Buďte flexibilní, vyzkoušejte různé výzvy
[ 6:14 ] Další kroky: Experimentujte s ukázkovými výzvami k zadání

 

Přehled ukázek

Můžete najít ukázky, které vyzývají základní modely ke generování výstupu, který podporuje následující úlohy:

Následující tabulka zobrazuje modely základů, které se používají v ukázkách specifických pro úlohu. Zaškrtnutí označuje, že se model používá v ukázce pro přidruženou úlohu.

Tabulka 1. Modely použité ve vzorcích pro určité úlohy
Model Klasifikace Extrakce Generace QA Sumarizace Kódování Dialog
flan-t5-xxl-11b
flan-ul2-20b
gpt-neox-20b
granite-13b-chat-v1
granite-13b-instruct-v1
llama-2 konverzace
mpt-7b-instruct2
mt0-xxl-13b
starcoder-15.5b

Následující tabulka shrnuje dostupné ukázkové výzvy k zadání.

Tabulka 2. Seznam ukázkových výzev k zadání
Scénář Editor výzev k zadání Formát výzvy k zadání Model Dekóduje se Poznámky
Ukázka 1: Klasifikovat zprávu Volný formát Nulové střely • mt0-xxl-13b
• flan-t5-xxl-11b
• flan-ul2-20b
Nenasytná Používá názvy tříd jako posloupnosti zastavení k zastavení modelu poté, co vytiskne název třídy.
Ukázka 2: Klasifikovat zprávu Volný formát Málo záběv • gpt-neox-20b
• mpt-7b-instruct
Nenasytná Použije názvy tříd jako posloupnosti ukončení
Ukázka 3: Klasifikovat zprávu Strukturované Málo záběv • gpt-neox-20b
• mpt-7b-instruct
Nenasytná Použije názvy tříd jako posloupnosti ukončení
Ukázka 4: Extrahovat podrobnosti ze stížnosti Volný formát Nulové střely • flan-ul2-20b Nenasytná
Ukázka 5: Generovat číslovaný seznam pro konkrétní motiv Volný formát Málo záběv • gpt-neox-20b Vzorkování Generuje formátovaný výstup
Používá dva znaky nového řádku jako posloupnost zastavení pro zastavení modelu po jednom seznamu.
Ukázka 6: Generovat číslovaný seznam pro konkrétní motiv Strukturované Málo záběv • gpt-neox-20b Vzorkování Generuje formátovaný výstup.
Používá dva znaky nového řádku jako posloupnost zastavení
Ukázka 7: Generovat číslovaný seznam pro konkrétní motiv Volný formát Nulové střely • granite-13b-instruct-v1 Nenasytná Generuje formátovaný výstup
Ukázka 8: Odpověď na otázku na základě článku Volný formát Nulové střely • mt0-xxl-13b
• flan-t5-xxl-11b
• flan-ul2-20b
Nenasytná Používá tečku "." jako posloupnost zastavení, aby se model vrátil pouze s jednou větou
Ukázka 9: Odpověď na otázku na základě článku Strukturované Nulové střely • mt0-xxl-13b
• flan-t5-xxl-11b
• flan-ul2-20b
Nenasytná Používá tečku "." jako posloupnost zastavení
Generuje výsledky pro více vstupů najednou
Ukázka 10: Odpověď na obecné znalostní otázky Volný formát Nulové střely • granite-13b-instruct-v1 Nenasytná
Ukázka 11: Shrnout transkripci schůzky Volný formát Nulové střely • flan-t5-xxl-11b
• flan-ul2-20b
• mpt-7b-instruct2
Nenasytná
Ukázka 12: Shrnout transkripci schůzky Volný formát Málo záběv • gpt-neox-20b Nenasytná
Ukázka 13: Shrnout transkripci schůzky Strukturované Málo záběv • gpt-neox-20b Nenasytná Generuje formátovaný výstup
Používá dva znaky nového řádku jako posloupnost stop k zastavení modelu po jednom seznamu
Ukázka 14: Generovat programový kód z pokynů Volný formát Málo záběv • starcoder-15.5b Nenasytná Generuje programový kód jako výstup
Používá < konec kódu > jako posloupnost zastavení
Ukázka 15: Převod kódu z jednoho programovacího jazyka do jiného Volný formát Málo záběv • starcoder-15.5b Nenasytná Generuje programový kód jako výstup
Používá < konec kódu > jako posloupnost zastavení
Ukázka 16: Konverzace v dialogovém okně Volný formát Vlastní struktura • granite-13b-chat-v1 Nenasytná Generuje výstup dialogu jako chatbot
Používá speciální token s názvem END_KEY jako posloupnost zastavení
Ukázka 17: Konverzace v dialogovém okně Volný formát Vlastní struktura llama-2 konverzace Nenasytná Generuje výstup dialogu jako např. chatbot
Používá specifický formát výzvy k zadání pro model.

Klasifikace

Klasifikace je užitečná pro predikci dat v různých kategoriích. Klasifikace mohou být binární, se dvěma třídami dat nebo s více třídami. Klasifikační úloha je užitečná pro kategorizaci informací, jako např. zpětná vazba zákazníka, abyste mohli spravovat nebo pracovat s informacemi efektivněji.

Ukázka 1: Klasifikace zprávy

Scénář: Vzhledem ke zprávě, která je odeslána chatbotovi zákaznické podpory pro cloudovou softwarovou společnost, klasifikujte zprávu zákazníka buď jako otázku, nebo jako problém. V závislosti na přiřazení třídy je konverzace směrována na správný tým podpory pro daný typ problému.

Volba modelu
Modely, které jsou vyladěné instrukcemi, mohou obecně tuto úlohu provést s touto ukázkovou výzvou. Návrhy: mt0-xxl-13b, flan-t5-xxl-11bnebo flan-ul2-20b

Dekódování
Nenasytná. Model musí vrátit jeden ze zadaných názvů tříd; nemůže být kreativní a vytvářet nové třídy.

Zastavení kritérií

  • Určete dvě posloupnosti zastavení: "Otázka" a "Problém". Poté, co model vygeneruje jedno z těchto slov, mělo by se zastavit.
  • S takovým krátkým výstupem může být parametr Maximální počet tokenů nastaven na hodnotu 5.

Text výzvy
Vložte tento text výzvy k zadání nulové hodnoty do editoru výzev ve volném formátu v produktu Prompt Lab, vyberte model, nastavte parametry a potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

Classify this customer message into one of two classes: Question, Problem.

Class name: Question
Description: The customer is asking a technical question or a how-to question 
about our products or services.

Class name: Problem
Description: The customer is describing a problem they are having. They might 
say they are trying something, but it's not working. They might say they are 
getting an error or unexpected results.

Message: I'm having trouble registering for a new account.
Class name: 

Ukázka 2: Klasifikace zprávy

Scénář: Vzhledem ke zprávě, která je odeslána chatbotovi zákaznické podpory pro cloudovou softwarovou společnost, klasifikujte zprávu zákazníka buď jako otázku, nebo jako popis problému. Na základě typu třídy lze konverzaci přesměrovat na správný tým podpory.

Volba modelu
S několika příklady obou tříd může většina modelů provést tuto úlohu dobře, včetně: gpt-neox-20b a mpt-7b-instruct.

Dekódování
Nenasytná. Model musí vrátit jeden ze zadaných názvů tříd; nemůže být kreativní a vytvářet nové třídy.

Zastavení kritérií

  • Určete dvě posloupnosti zastavení: "Otázka" a "Problém". Poté, co model vygeneruje jedno z těchto slov, mělo by se zastavit.
  • S takovým krátkým výstupem může být parametr Maximální počet tokenů nastaven na hodnotu 5.

Text výzvy
Vložte tento neurčitý text výzvy do editoru výzev k volném formuláři v produktu Prompt Lab, vyberte model, nastavte parametry a potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

Message: When I try to log in, I get an error.
Class name: Problem

Message: Where can I find the plan prices?
Class name: Question

Message: What is the difference between trial and paygo?
Class name: Question

Message: The registration page crashed, and now I can't create a new account.
Class name: Problem

Message: What regions are supported?
Class name: Question

Message: I can't remember my password.
Class name: Problem

Message: I'm having trouble registering for a new account.

Ukázka 3: Klasifikace zprávy

Scénář: Vzhledem ke zprávě, která je odeslána chatbotovi zákaznické podpory pro cloudovou softwarovou společnost, klasifikujte zprávu zákazníka buď jako otázku, nebo jako popis problému. Na základě typu třídy lze konverzaci přesměrovat na správný tým podpory.

Volba modelu
S několika příklady obou tříd může většina modelů provést tuto úlohu dobře, včetně: gpt-neox-20b a mpt-7b-instruct.

Dekódování
Nenasytná. Model musí vrátit jeden z uvedených názvů tříd, nesmí být kreativní a vytvářet nové třídy.

Zastavení kritérií

  • Určete dvě posloupnosti zastavení: "Otázka" a "Problém". Poté, co model vygeneruje jedno z těchto slov, mělo by se zastavit.
  • S takovým krátkým výstupem může být parametr Maximální počet tokenů nastaven na hodnotu 5.

Část Nastavení
Vložte tato záhlaví a příklady do oblasti Příklady v části Nastavit :

Tabulka 2. Příklady klasifikací-málo-snímku
Zpráva: Název třídy:
When I try to log in, I get an error. Problem
Where can I find the plan prices? Question
What is the difference between trial and paygo? Question
The registration page crashed, and now I can't create a new account. Problem
What regions are supported? Question
I can't remember my password. Problem


Zkuste sekci
Vložte tuto zprávu do sekce Try :

I'm having trouble registering for a new account.

Vyberte model a nastavte parametry, potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

 

Extrahování podrobností

Úlohy extrakce vám mohou pomoci najít klíčové výrazy nebo zmínky v datech na základě sémantického významu slov, spíše než jednoduchých textových shod.

Vzorek 4: Extrahujte podrobnosti ze stížnosti

Scénář: Na základě stížnosti od zákazníka, který měl potíže rezervaci letu na webových stránkách rezervace, identifikujte faktory, které přispěly k neuspokojivým zkušenostem tohoto zákazníka.

Výběr modelu
flan-ul2-20b

Dekódování
Nenasytná. Potřebujeme, aby model vracel slova, která jsou ve vstupu; model nemůže být kreativní a vytvářet nová slova.

Kritéria zastavení
Seznam extrahovaných faktorů nebude dlouhý, proto nastavte parametr Max tokenů na hodnotu 50.

Text výzvy
Vložte tento text výzvy k zadání nulové hodnoty do editoru výzev ve volném formátu v produktu Prompt Lab, vyberte model, nastavte parametry a potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

From the following customer complaint, extract all the factors that 
caused the customer to be unhappy.

Customer complaint:
I just tried to book a flight on your incredibly slow website. All 
the times and prices were confusing. I liked being able to compare 
the amenities in economy with business class side by side. But I 
never got to reserve a seat because I didn't understand the seat map. 
Next time, I'll use a travel agent!

Numbered list of all the factors that caused the customer to be unhappy:

Generování přirozeného jazyka

Úlohy generování jsou to, co velké jazykové modely dělají nejlépe. Vaše výzvy mohou pomoci vést model k vygenerování užitečného jazyka.

Ukázka 5: Vygenerování číslovaného seznamu pro konkrétní téma

Scénář: Vygenerujte číslovaný seznam pro konkrétní motiv.

Volba modelu
gpt-neox-20b byla vyškolena k rozpoznání a zpracování speciálních znaků, jako je například znak nového řádku, dobře. Tento model je dobrou volbou, když chcete, aby generovaný text byl formátován specifickým způsobem se speciálními znaky.

Dekódování
Vzorkování. Tohle je kreativní úkol. Nastavte následující parametry:

  • Teplota: 0.7
  • Top P: 1
  • Prvních K: 50
  • Náhodný původ: 9045 (Chcete-li získat jiný výstup při každém klepnutí na tlačítko Generovat, uveďte odlišnou hodnotu pro náhodný parametr náhodného řetězce nebo vymažte parametr.)

Zastavení kritérií

  • Chcete-li zajistit, aby model přestal generovat text po jednom seznamu, zadejte posloupnost ukončení dvou znaků nového řádku. Chcete-li to provést, klepněte na textové pole Zastavit posloupnost , dvakrát stiskněte klávesu Enter a poté klepněte na volbu Přidat pořadí.
  • Seznam nebude příliš dlouhý, proto nastavte parametr Maximální počet tokenů na hodnotu 50.

Text výzvy
Vložte tento neurčitý text výzvy do editoru výzev k volném formuláři v produktu Prompt Lab, vyberte model, nastavte parametry a potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

What are 4 types of dog breed?
1. Poodle
2. Dalmatian
3. Golden retriever
4. Bulldog

What are 3 ways to incorporate exercise into your day?
1. Go for a walk at lunch
2. Take the stairs instead of the elevator
3. Park farther away from your destination

What are 4 kinds of vegetable?
1. Spinach
2. Carrots
3. Broccoli
4. Cauliflower

What are the 3 primary colors?
1. Red
2. Green
3. Blue

What are 3 ingredients that are good on pizza?

Ukázka 6: Generování číslovaného seznamu pro konkrétní téma

Scénář: Vygenerujte číslovaný seznam pro konkrétní motiv.

Volba modelu
gpt-neox-20b byla vyškolena k rozpoznání a zpracování speciálních znaků, jako je například znak nového řádku, dobře. Tento model je dobrou volbou, pokud chcete, aby generovaný text byl formátován specifickým způsobem se speciálními znaky.

Dekódování
Vzorkování. Tento scénář je kreativní. Nastavte následující parametry:

  • Teplota: 0.7
  • Top P: 1
  • Prvních K: 50
  • Náhodný původ: 9045 (Chcete-li generovat různé výsledky, uveďte odlišnou hodnotu parametru Náhodný náhodný řetězec nebo vymažte parametr.)

Zastavení kritérií

  • Chcete-li se ujistit, že model přestane generovat text po jednom seznamu, zadejte pořadí zastavení dvou znaků nového řádku. Chcete-li to provést, klepněte do textového pole Zastavit posloupnost , stiskněte dvakrát klávesu Enter a poté klepněte na tlačítko Přidat pořadí.
  • Seznam nebude dlouhý, proto nastavte parametr Max tokenů na hodnotu 50.

Část Nastavení
Vložte tato záhlaví a příklady do oblasti Příklady v části Nastavit :

Tabulka 3. Generování několika příkladů-snímek
Input: Output:
What are 4 types of dog breed? 1. Poodle
2. Dalmatian
3. Golden retriever
4. Bulldog
What are 3 ways to incorporate exercise into your day? 1. Go for a walk at lunch
2. Take the stairs instead of the elevator
3. Park farther away from your destination
What are 4 kinds of vegetable? 1. Spinach
2. Carrots
3. Broccoli
4. Cauliflower
What are the 3 primary colors? 1. Red
2. Green
3. Blue


Zkuste sekci
Vložte tento vstup do sekce Try :

What are 3 ingredients that are good on pizza?

Vyberte model a nastavte parametry, potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

Ukázka 7: Vygenerování číslovaného seznamu pro konkrétní téma

Scénář: Požádej model, aby hrál obhájce ďábla. Popište potenciální akci a požádejte model, aby vypsal možné nevýhody nebo rizika, která jsou přidružena k akci.

Volba modelu
Podobně jako gpt-neox-20b, granite-13b-instruct-v1 byl trénován, aby rozpoznal a zpracoval speciální znaky, jako je znak nového řádku. Tento model je dobrou volbou, pokud chcete, aby generovaný text byl formátován specifickým způsobem se speciálními znaky.

Dekódování
Nenasytná. Model musí vrátit nejpředvídatelnější obsah na základě toho, co je ve výzvě; model nemůže být příliš kreativní.

Zastavení kritérií
Souhrn může spouštět několik vět, takže nastavte parametr Maximální počet tokenů na hodnotu 60.

Text výzvy k zadání
Vložte tento text výzvy do editoru výzev ve volném formuláři v produktu Prompt Lab, vyberte model, nastavte parametry a pak klepněte na tlačítko Generovat , abyste zobrazili výsledek.

You are playing the role of devil's advocate. Argue against the proposed plans. List 3 detailed, unique, compelling reasons why moving forward with the plan would be a bad choice. Consider all types of risks.

Plan we are considering:
Extend our store hours.
Three problems with this plan are:
1. We'll have to pay more for staffing.
2. Risk of theft increases late at night.
3. Clerks might not want to work later hours.

Plan we are considering:
Open a second location for our business.
Three problems with this plan are:
1. Managing two locations will be more than twice as time-consuming than managed just one.
2. Creating a new location doesn't guarantee twice as many customers.
3. A new location means added real estate, utility, and personnel expenses.

Plan we are considering:
Refreshing our brand image by creating a new logo.
Three problems with this plan are:

odpověď na otázky

Úlohy odpovídání na otázky jsou užitečné v systémech nápovědy a dalších scénářích, kde mohou být často kladené nebo více nuancované otázky zodpovězeny z existujícího obsahu.

Chcete-li pomoci modelu vrátit faktické odpovědi, implementujte vzor generování s rozšířením pro načtení. Další informace viz Načtení-rozšířené generování.

Ukázka 8: Odpověď na otázku na základě článku

Scénář: Webový server pro online katalog předdefinovaných hodnot má mnoho článků, které zákazníkům pomohou plánovat svou zahradu a nakonec vybrat, která semena se mají zakoupit. Do webové stránky se přidává nový modul widget, který odpovídá na dotazy zákazníků na základě obsahu článku, který si zákazník prohlídne. Vzhledem k otázce, která souvisí s článkem, odpovězte na otázku založenou na článku.

Volba modelu
Modely, které jsou vyladěné podle instrukcí, jako např. mt0-xxl-13b, flan-t5-xxl-11bnebo flan-ul2-20b, mohou obecně provést tuto úlohu s touto ukázkovou výzvou.

Dekódování
Nenasytná. Odpovědi musí být založeny na faktech v článku, a pokud v článku není žádná dobrá odpověď, model by neměl být tvořivý a aby se z něj zodpovídal.

Zastavení kritérií
Chcete-li způsobit návrat modelu odpovědi na jednu větu, zadejte tečku "." jako přerušte sekvenci. Parametr maximálního počtu tokenů lze nastavit na hodnotu 50.

Text výzvy
Vložte tento text výzvy k zadání nulové hodnoty do editoru výzev ve volném formátu v produktu Prompt Lab, vyberte model, nastavte parametry a potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

Article:
###
Tomatoes are one of the most popular plants for vegetable gardens. 
Tip for success: If you select varieties that are resistant to 
disease and pests, growing tomatoes can be quite easy. For 
experienced gardeners looking for a challenge, there are endless 
heirloom and specialty varieties to cultivate. Tomato plants come 
in a range of sizes. There are varieties that stay very small, less 
than 12 inches, and grow well in a pot or hanging basket on a balcony 
or patio. Some grow into bushes that are a few feet high and wide, 
and can be grown is larger containers. Other varieties grow into 
huge bushes that are several feet wide and high in a planter or 
garden bed. Still other varieties grow as long vines, six feet or 
more, and love to climb trellises. Tomato plants do best in full 
sun. You need to water tomatoes deeply and often. Using mulch 
prevents soil-borne disease from splashing up onto the fruit when you 
water. Pruning suckers and even pinching the tips will encourage the 
plant to put all its energy into producing fruit.
###

Answer the following question using only information from the article. 
Answer in a complete sentence, with proper capitalization and punctuation. 
If there is no good answer in the article, say "I don't know".

Question: Why should you use mulch when growing tomatoes?
Answer: 

Můžete experimentovat s kladným dotazům, jako jsou následující otázky:

  • "Jak velkou rajčatové rostliny dostanou?"
  • "Rostliny rajčete dávají přednost stínu nebo slunci?"
  • "Je snadné pěstovat rajčata?"

Vyzkoušejte také otázky typu out-of-scope, jako jsou:

  • "Jak můžeš pěstovat okurky?"

Ukázka 9: Odpověď na otázku na základě článku

Scénář: Webový server pro online katalog předdefinovaných hodnot má mnoho článků, které zákazníkům pomohou plánovat svou zahradu a nakonec vybrat, která semena se mají zakoupit. Do webové stránky se přidává nový modul widget, který odpovídá na dotazy zákazníků na základě obsahu článku, který si zákazník prohlídne. Vzhledem k otázce týkající se konkrétního článku odpovězte na otázku založenou na článku.

Volba modelu
Modely, které jsou vyladěné podle instrukcí, jako např. mt0-xxl-13b, flan-t5-xxl-11bnebo flan-ul2-20b, mohou obecně provést tuto úlohu s touto ukázkovou výzvou.

Dekódování
Nenasytná. Odpovědi musí být založeny na faktech v článku, a pokud v článku není žádná dobrá odpověď, model by neměl být tvořivý a aby se z něj zodpovídal.

Zastavení kritérií
Chcete-li způsobit návrat modelu odpovědi na jednu větu, zadejte tečku "." jako přerušte sekvenci. Parametr maximálního počtu tokenů lze nastavit na hodnotu 50.

Nastavit sekci
Vložte tento text do oblasti Instrukce sekce Nastavit :

Article:
###
Tomatoes are one of the most popular plants for vegetable gardens. 
Tip for success: If you select varieties that are resistant to 
disease and pests, growing tomatoes can be quite easy. For 
experienced gardeners looking for a challenge, there are endless 
heirloom and specialty varieties to cultivate. Tomato plants come 
in a range of sizes. There are varieties that stay very small, less 
than 12 inches, and grow well in a pot or hanging basket on a balcony 
or patio. Some grow into bushes that are a few feet high and wide, 
and can be grown is larger containers. Other varieties grow into 
huge bushes that are several feet wide and high in a planter or 
garden bed. Still other varieties grow as long vines, six feet or 
more, and love to climb trellises. Tomato plants do best in full 
sun. You need to water tomatoes deeply and often. Using mulch 
prevents soil-borne disease from splashing up onto the fruit when you 
water. Pruning suckers and even pinching the tips will encourage the 
plant to put all its energy into producing fruit.
###

Answer the following question using only information from the article. 
Answer in a complete sentence, with proper capitalization and punctuation. 
If there is no good answer in the article, say "I don't know".


Zkuste sekci
V sekci Zkusit přidejte další řádek testu, abyste mohli vložit každou z těchto dvou otázek do samostatného řádku:

Why should you use mulch when growing tomatoes?

How do you grow cucumbers?

Vyberte model a nastavte parametry, potom klepněte na tlačítko Generovat , abyste zobrazili dva výsledky.

Ukázka 10: Odpověď na otázky týkající se obecných znalostí

Scénář: Odpovězte na obecné otázky týkající se financí.

Volba modelu
Model granite-13b-instruct-v1 lze použít pro více úloh, včetně generování textu, sumarizace, otázek a odpovědí, klasifikace a extrakce.

Dekódování
Nenasytná. Tato ukázka odpovídá na otázky, takže nechceme kreativní výstup.

Kritéria zastavení
Nastavte parametr Maximální počet tokenů na hodnotu 200, aby model mohl vrátit úplnou odpověď.

Text výzvy k zadání
Model byl vyladěn pro odpovídání na otázky s příklady v následujícím formátu:

<|user|>
obsah otázky
<|assistant|>žádné koncové mezery
nový řádek pro odpověď modelu

Můžete použít přesnou syntaxi <|user|> a <|assistant|> v řádcích před a za otázkou, nebo můžete nahradit hodnoty ekvivalentními výrazy, jako např. User a Assistant.

Důležité: bez ohledu na text, který použijete k zavedení odpovědi asistenta, nemůže obsahovat koncové mezery a musí být následován novým řádkem. Když odešlete požadavky z testovacího pracoviště výzev, tyto požadavky na formátování se použijí na váš vstup. Pokud však použijete tento model z rozhraní API, musíte vstup správně naformátovat. Jinak bude jako výstup modelu vrácen prázdný řetězec.

Vložte tento text výzvy k zadání do editoru výzev k zadání ve výzvě k zadání Lab, vyberte model, nastavte parametry a pak klepněte na tlačítko Generovat , abyste viděli výsledek.

<|user|>
Tell me about interest rates
<|assistant|>

Poté, co model vygeneruje odpověď, můžete položit následnou otázku. Model používá informace z předchozí otázky, když generuje odpověď.

<|user|>
Who sets it?
<|assistant|>

Model si uchovává informace z předchozí otázky, když odpovídá na následnou otázku, ale není optimalizován pro podporu rozšířeného dialogu.

Poznámka: Když se zeptáte na následnou otázku, předchozí otázka se znovu zadá, což se přidá k počtu použitých tokenů.

Sumarizace

Úlohy sumarizace vám ušetří čas, když kondenzujete velké množství textu do několika klíčových informací.

Ukázka 11: Shrnout transkripci schůzky

Scénář: Vzhledem k transkripci schůzky shrňte hlavní body jako poznámky ze schůzky, aby tyto poznámky mohly být sdíleny se spolupracovníky, kteří se schůzky nezúčastnili.

Volba modelu
Modely, které jsou vyladěné instrukcemi, mohou obecně tuto úlohu provést s touto ukázkovou výzvou. Návrhy: flan-t5-xxl-11b, flan-ul2-20bnebo mpt-7b-instruct2.

Dekódování
Nenasytná. Model musí vrátit nejpředvídatelnější obsah na základě toho, co je ve výzvě; model nemůže být příliš kreativní.

Zastavení kritérií
Souhrn může spouštět několik vět, takže nastavte parametr Maximální počet tokenů na hodnotu 60.

Text výzvy
Vložte tento text výzvy k zadání nulové hodnoty do editoru výzev ve volném formátu v produktu Prompt Lab, vyberte model, nastavte parametry a potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

Summarize the following transcript.
Transcript:
00:00   [alex]  Let's plan the team party!
00:10   [ali]   How about we go out for lunch at the restaurant?
00:21   [sam]   Good idea.
00:47   [sam]   Can we go to a movie too?
01:04   [alex]  Maybe golf?
01:15   [sam]   We could give people an option to do one or the other.
01:29   [alex]  I like this plan. Let's have a party!
Summary:

Ukázka 12: Shrnout transkripci schůzky

Scénář: Vzhledem k transkripci schůzky shrňte hlavní body jako poznámky ze schůzky, aby tyto poznámky mohly být sdíleny se spolupracovníky, kteří se schůzky nezúčastnili.

Volba modelu
S několika málo příklady může většina modelů tento úkol dobře dokončit. Zkuste: gpt-neox-20b.

Dekódování
Nenasytná. Model musí vrátit nejpředvídatelnější obsah na základě toho, co je ve výzvě k zadání, a ne příliš kreativní.

Zastavení kritérií

  • Chcete-li se ujistit, že model přestane generovat text po souhrnu, zadejte pořadí zastavení dvou znaků nového řádku. Chcete-li to provést, klepněte do textového pole Zastavit posloupnost , stiskněte dvakrát klávesu Enter a poté klepněte na tlačítko Přidat pořadí.
  • Nastavte parametr Maximální počet tokenů na hodnotu 60.

Text výzvy
Vložte tento neurčitý text výzvy do editoru výzev k volném formuláři v produktu Prompt Lab, vyberte model, nastavte parametry a potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

Transcript:
00:00   [sam]   I wanted to share an update on project X today.
00:15   [sam]   Project X will be completed at the end of the week.
00:30   [erin]  That's great!
00:35   [erin]  I heard from customer Y today, and they agreed to buy our product.
00:45   [alex]  Customer Z said they will too.
01:05   [sam]   Great news, all around.
Summary:
Sam shared an update that project X will be complete at the end of the week. 
Erin said customer Y will buy our product. And Alex said customer Z will buy 
our product too.

Transcript:
00:00   [ali]   The goal today is to agree on a design solution.
00:12   [alex]  I think we should consider choice 1.
00:25   [ali]   I agree
00:40   [erin]  Choice 2 has the advantage that it will take less time.
01:03   [alex]  Actually, that's a good point.
01:30   [ali]   So, what should we do?
01:55   [alex]  I'm good with choice 2.
02:20   [erin]  Me too.
02:45   [ali]   Done!
Summary:
Alex suggested considering choice 1. Erin pointed out choice two will take 
less time. The team agreed with choice 2 for the design solution.

Transcript:
00:00   [alex]  Let's plan the team party!
00:10   [ali]   How about we go out for lunch at the restaurant?
00:21   [sam]   Good idea.
00:47   [sam]   Can we go to a movie too?
01:04   [alex]  Maybe golf?
01:15   [sam]   We could give people an option to do one or the other.
01:29   [alex]  I like this plan. Let's have a party!
Summary:

Ukázka 13: Shrnout transkripci schůzky

Scénář: Vzhledem k transkripci schůzky shrňte hlavní body v seznamu s odrážkami, aby bylo možné tento seznam sdílet se spoluhráči, kteří se schůzky nezúčastnili.

Volba modelu
gpt-neox-20b byla vyškolena k rozpoznání a zpracování speciálních znaků, jako je například znak nového řádku, dobře. Tento model je dobrou volbou, pokud chcete, aby generovaný text byl formátován specifickým způsobem se speciálními znaky.

Dekódování
Nenasytná. Model musí vrátit nejpředvídatelnější obsah na základě toho, co je ve výzvě; model nemůže být příliš kreativní.

Zastavení kritérií

  • Chcete-li se ujistit, že model přestane generovat text po jednom seznamu, zadejte pořadí zastavení dvou znaků nového řádku. Chcete-li to provést, klepněte do textového pole Zastavit posloupnost , stiskněte dvakrát klávesu Enter a poté klepněte na tlačítko Přidat pořadí.
  • Nastavte parametr Maximální počet tokenů na hodnotu 60.

Část Nastavení
Vložte tato záhlaví a příklady do oblasti Příklady v části Nastavit :

Tabulka 4. Několik příkladů-snímek souhrnu
Transcript: Summary:
00:00 [sam] I wanted to share an update on project X today.
00:15   [sam]   Project X will be completed at the end of the week.
00:30   [erin]  That's great!
00:35   [erin]  I heard from customer Y today, and they agreed to buy our product.
00:45   [alex]  Customer Z said they will too.
01:05   [sam]  Great news, all around.
- Sam shared an update that project X will be complete at the end of the week
- Erin said customer Y will buy our product
- And Alex said customer Z will buy our product too
00:00   [ali]   The goal today is to agree on a design solution.
00:12   [alex]  I think we should consider choice 1.
00:25   [ali]   I agree
00:40   [erin]  Choice 2 has the advantage that it will take less time.
01:03   [alex]  Actually, that's a good point.
01:30   [ali]   So, what should we do?
01:55   [alex]  I'm good with choice 2.
02:20   [erin]  Me too.
02:45  [ali]   Done!
- Alex suggested considering choice 1
- Erin pointed out choice two will take less time
- The team agreed with choice 2 for the design solution


Zkuste sekci
Vložte tuto zprávu do sekce Try :

00:00   [alex]  Let's plan the team party!
00:10   [ali]   How about we go out for lunch at the restaurant?
00:21   [sam]   Good idea.
00:47   [sam]   Can we go to a movie too?
01:04   [alex]  Maybe golf?
01:15   [sam]   We could give people an option to do one or the other.
01:29   [alex]  I like this plan. Let's have a party!

Vyberte model a nastavte parametry, potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

Generování a převod kódu

Základní modely, které mohou generovat a převádět programový kód, jsou skvělými prostředky pro vývojáře. Mohou vývojářům pomoci při brainstormování a odstraňování problémů s programovacími úlohami.

Ukázka 14: Generovat programový kód z pokynů

Scénář: Chcete generovat kód z pokynů. Konkrétně chcete napsat funkci v programovacím jazyku Python , která vrací posloupnost prvočísel, která jsou nižší než číslo předané funkci jako proměnná.

Volba modelu
Modely, které mohou generovat kód, jako např. starcoder-15.5b, mohou obecně provést tuto úlohu, když je poskytnuta vzorová výzva.

Dekódování
Nenasytná. Odpověď musí být platný úsek kódu. Model nemůže být kreativní a tvořit odpověď.

Zastavení kritérií
Chcete-li model zastavit poté, co vrací jeden úsek kódu, zadejte jako posloupnost zastavení <end of code> . Parametr Maximum tokenů může být nastaven na 1000.

Text výzvy
Vložte tento úsek kódu do editoru výzev ve volném formátu v produktu Prompt Lab, vyberte model, nastavte parametry a potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

Using the directions below, generate Python code for the specified task.

Input:
# Write a Python function that prints 'Hello World!' string 'n' times.

Output:
def print_n_times(n):
    for i in range(n):
        print("Hello World!")

<end of code>

Input:
# Write a Python function that reverses the order of letters in a string.
# The function named 'reversed' takes the argument 'my_string', which is a string. It returns the string in reverse order.

Output:

Výstup obsahuje kód Python podobný následujícímu úseku kódu:

def reversed(my_string):
    return my_string[::-1]

Ujistěte se, že jste generovali vygenerovaný kód, abyste ověřili, že to funguje tak, jak očekáváte.

Například, pokud spustíte reversed("good morning"), výsledek je 'gninrom doog'.

Poznámka: Model StarCoder může generovat kód, který je převzat přímo ze svých výukových dat. V důsledku toho může vygenerovaný kód vyžadovat přisouzení. Jste odpovědni za zajištění toho, že veškerý generovaný kód, který použijete, bude řádně připisován, je-li to nutné.

Ukázka 15: Převod kódu z jednoho programovacího jazyka do jiného

Scénář: Chcete převést kód z jednoho programovacího jazyka do jiného. Konkrétně chcete převést úsek kódu z C++ na Python.

Volba modelu
Modely, které mohou generovat kód, jako např. starcoder-15.5b, mohou obecně provést tuto úlohu, když je poskytnuta vzorová výzva.

Dekódování
Nenasytná. Odpověď musí být platný úsek kódu. Model nemůže být kreativní a tvořit odpověď.

Zastavení kritérií
Chcete-li model zastavit poté, co vrací jeden úsek kódu, zadejte jako posloupnost zastavení <end of code> . Parametr Maximum tokenů může být nastaven na 300.

Text výzvy
Vložte tento úsek kódu do editoru výzev ve volném formátu v produktu Prompt Lab, vyberte model, nastavte parametry a potom klepněte na tlačítko Generovat , abyste zobrazili výsledek.

Tento náznak obsahuje vzorovou vstupní a výstupní dvojici. Vstup je kód C++ a výstup je ekvivalentní funkce v kódu Python .

Další úsek kódu C++ pro převod je obsažen. Jedná se o funkci, která spočítá počet aritmetických postupů se součtem S a běžným rozdílem D, kde S a D jsou celočíselné hodnoty, které jsou předávány jako parametry.

Poslední část výzvy k zadání určuje jazyk, do kterého má být převáděn úsek kódu C++.

Translate the following code from C++ to Python.

C++:
#include "bits/stdc++.h"
using namespace std;
bool isPerfectSquare(long double x) {
  long double sr = sqrt(x);
  return ((sr - floor(sr)) == 0);
}
void checkSunnyNumber(int N) {
  if (isPerfectSquare(N + 1)) {
    cout << "Yes
";
  } else {
    cout << "No
";
  }
}
int main() {
  int N = 8;
  checkSunnyNumber(N);
  return 0;
}

Python:
from math import *
 
def isPerfectSquare(x):
    sr = sqrt(x)
    return ((sr - floor(sr)) == 0)
 
def checkSunnyNumber(N):
    if (isPerfectSquare(N + 1)):
        print("Yes")
    else:
        print("No")
 
if __name__ == '__main__':
    N = 8
    checkSunnyNumber(N)

<end of code>

C++:
#include <bits/stdc++.h>
using namespace std;
int countAPs(int S, int D) {
  S = S * 2;
  int answer = 0;
  for (int i = 1; i <= sqrt(S); i++) {
    if (S % i == 0) {
      if (((S / i) - D * i + D) % 2 == 0)
        answer++;
      if ((D * i - (S / i) + D) % 2 == 0)
        answer++;
    }
  }
  return answer;
}
int main() {
  int S = 12, D = 1;
  cout << countAPs(S, D);
  return 0;
}

Python:

Výstup obsahuje kód Python podobný následujícímu úseku kódu:

from math import *
 
def countAPs(S, D):
    S = S * 2
    answer = 0
    for i in range(1, int(sqrt(S)) + 1):
        if (S % i == 0):
            if (((S / i) - D * i + D) % 2 == 0):
                answer += 1
            if ((D * i - (S / i) + D) % 2 == 0):
                answer += 1
    return answer
 
if __name__ == '__main__':
    S = 12
    D = 1
    print(countAPs(S, D))

Vygenerovaný kód Python funguje stejně jako funkce C + +, která je součástí výzvy k zadání.

Otestujte vygenerovaný kód Python , abyste ověřili, že pracuje tak, jak jste očekávali.

Nezapomeňte, že model StarCoder může generovat kód, který je převzat přímo ze svých údajů o školení. V důsledku toho může vygenerovaný kód vyžadovat přisouzení. Jste odpovědni za zajištění toho, že veškerý generovaný kód, který použijete, bude řádně připisován, je-li to nutné.

Dialog

Úlohy dialogu jsou užitečné ve scénářích zákaznických služeb, zejména když je chatbot používán k vedení zákazníků pracovním postupem k dosažení cíle.

Ukázka 16: Konverzace v dialogu

Scénář: Generujte výstup dialogu jako chatbot.

Volba modelu
Stejně jako ostatní základní modely lze použít granite-13b-chat-v1 pro více úloh. Je však optimalizováno pro provádění dialogu.

Dekódování
Nenasytná. Tento vzorek je odpovědí na obecné znalosti, věcné otázky, takže nechceme kreativní výstup.

Zastavení kritérií

  • Užitečnou funkcí modelu je zahrnutí speciálního tokenu s názvem END_KEY na konci každé odezvy. Když některé generativní modely vrátí odezvu na vstup v méně tokenů, než je povoleno maximální povolený počet, mohou ze vstupu opakovat vzory. Tento model zabrání takovému opakování tak, že bude obsahovat spolehlivou posloupnost zastavení pro výzvu k zadání. Přidejte END_KEY jako posloupnost zastavení.
  • Nastavte parametr Maximální počet tokenů na hodnotu 200, aby mohl model vrátit úplnou odpověď.

Text výzvy k zadání
Model očekává, že vstup bude postupovat podle specifického vzoru.

Spusťte vstup s instrukcemi. Instrukce může být například následující:

Účastnit se dialogu s různými lidmi jako AI asistent. Jako asistentka jste povýšen, profesionální a zdvořilý. Nejlépe chápete to, co lidské potřeby a jak jim pomoci k dosažení svého cíle, jak nejlépe umíte. Neposkytujete nepravdivé nebo zavádějící informace. Pokud neznáte odpověď, uveďte, že nevíte nebo si nejste jisti správnou odpovědí. Chcete dávat přednost obezřetnosti oproti užitečnosti. Neodpovídejte na otázky, které jsou nebezpečné, nemorální, neetické nebo nebezpečné.

Dále přidejte řádky pro zachycení vzorku otázky a odpovědi s následující syntaxí:

Člověk:
obsah otázky
Asistent: žádné koncové mezery
nový řádek pro odpověď modelu

Výrazy Human a Assistant můžete nahradit jinými výrazy. Výraz, který použijete k zavedení odpovědi asistenta, však nesmí obsahovat koncové mezery a musí být následován novým řádkem. Když odešlete požadavky z testovacího pracoviště výzev, tyto požadavky na formátování se použijí na váš vstup. Pokud však použijete tento model z rozhraní API, musíte vstup správně naformátovat. Jinak bude jako výstup modelu vrácen prázdný řetězec.

Vložte následující text výzvy k zadání do editoru výzev k zadání ve výzvě k zadání Lab, vyberte model, nastavte parametry a poté klepněte na tlačítko Generovat , abyste viděli výsledek.

Participate in a dialogue with various people as an AI assistant. As the Assistant, you are upbeat, professional, and polite. You do your best to understand exactly what the human needs and help them to achieve their goal as best you can. You do not give false or misleading information. If you don't know an answer, you state that you don't know or aren't sure about the right answer. You prioritize caution over usefulness. You do not answer questions that are unsafe, immoral, unethical, or dangerous.

Human: How does a bill become a law?
Assistant:

Po vygenerování počátečního výstupu pokračujte v dialogu dotazem na následnou otázku. Například, pokud výstup popisuje, jak se zákon stane zákonem ve Spojených státech, můžete se ptát na to, jak jsou zákony prováděny v jiných zemích.

Human: What about in Canada?
Assistant:

Několik poznámek o použití této ukázky s modelem:

  • Vstupní obrys nastiňuje scénář chatbot a popisuje osobnost asistenta AI. Tento popis vysvětluje, že asistent by měl označit, kdy odpověď nezná. Také vydává asistentovi, aby se vyhýbali neetickým tématům.
  • Asistent je schopen reagovat na následnou otázku, která se spoléhá na informace z dřívější výměny ve stejném dialogu.
  • Model očekává, že vstup bude postupovat podle specifického vzoru.
  • Vygenerovaná odpověď z modelu je jasně označena klíčovým slovem END_KEY. Toto klíčové slovo můžete použít jako spouštěcí posloupnost, abyste pomohli modelu generovat stručné odpovědi.

Ukázka 17: Konverzace v dialogu

Scénář: Generujte výstup dialogu jako chatbot.

Volba modelu
Llama 2 (v 70 miliardách i 13 miliardách) lze stejně jako ostatní základní modely použít pro více úloh. Oba modely Llama 2 jsou však optimalizovány pro dialogové případy použití. llama-2-70b-chat a llama-2-13b-chat jsou jediné modely v souboru watsonx.ai , které jsou vyladěné pro formát výzvy k zadání [INST]<<SYS>><</SYS>>[/INST] . Další informace o tomto formátu výzvy k zadání naleznete v tématu Jak zobrazit výzvu k zadání Llama 2.

Dekódování
Nenasytná. Tento vzorek je odpovědí na obecné znalosti, věcné otázky, takže nechceme kreativní výstup.

Zastavení kritérií

  • Chcete-li zabránit tomu, aby měl model z halucinací svůj vlastní dialog se zprávami uživatele i s pomocným zprávami, zadejte posloupnost ukončení jednoho znaku nového řádku. Chcete-li to provést, klepněte na textové pole Zastavit posloupnost , dvakrát stiskněte klávesu Enter a poté klepněte na volbu Přidat pořadí.
  • Nastavte parametr Maximální počet tokenů na hodnotu 100.

Text výzvy k zadání
Vložte tento text výzvy do editoru výzev ve volném formuláři v produktu Prompt Lab, vyberte model, nastavte parametry a pak klepněte na tlačítko Generovat , abyste zobrazili výsledek.

[INST] <<SYS>>
You are a helpful assistant. Begin each response with the phrase "Dear user, ". If you are unsure about an answer, truthfully say "I don't know"<</SYS>>

I have a question about the Earth.[/INST]
Dear user, go on.
[INST]

How many moons are there?
[/INST]

Po vygenerování počátečního výstupu pokračujte v dialogu, abyste se ptali na další planety a zabalil své uživatelské zprávy do stejné struktury [INST][/INST] . Výstup vypadá přibližně takto:

[INST] <<SYS>>
You are a helpful assistant. Begin each response with the phrase "Dear user, ". If you are unsure about an answer, truthfully say "I don't know"<</SYS>>

I have a question about the Earth.[/INST]
Dear user, go on.
[INST]

How many moons are there?
[/INST]
Dear user, the Earth has one natural satellite, commonly referred to as the Moon. 
[INST]

What about Saturn?
[/INST]
Dear user, Saturn has a total of 62 confirmed moons, as well as numerous smaller moonlets and ring particles. The largest moon of Saturn is Titan, which is the second-largest moon in the solar system, after Jupiter's moon Ganymede. 
[INST]

And Mars?
[/INST]
Dear user, Mars has two small natural satellites, Phobos and Deimos. Both moons are thought to be captured asteroids, and are irregularly shaped and very small, with diameters of about 22 kilometers and 12 kilometers respectively.

Povšimněte si několika důležitých bodů týkajících se výstupu, který model generuje během vaší akce:

  • Takzvaná systémová instrukceve značkách <<SYS>><</SYS>> pokračuje v ovlivnění výstupu při každém dialogu, aniž by bylo nutné opakovat systémové instrukce. Jinými slovy, odpovědi asistenta jsou nadále předřazeny "Drahý uživatel".
  • V pravém dialogu móda, asistent odpověď na uživatelský vstup "Kolik měsíců tam jsou?" bere v úvahu předchozí uživatelský vstup "Mám otázku o Zemi." a vrací počet moon obíhajících Zemi.
  • Také v řádném dialogu formuláře, asistent odpovědi i nadále sledovat téma konverzace, což je počet měsíců. (Jinak generovaný výstup na vágní uživatelskou zprávu "And Mars?" by mohlo bloudit v libovolném směru.)
  • Upozornění: Zvláště znaky nového řádku (carrige-return) a mezery v menší míře mohou mít v textu výzvy k dispozici dramatický dopad na generovaný výstup. Věnujte pozornost formátování textu výzvy k zadání s touto ukázkou.

 

Nadřízené téma: Vyzvat k zadání testovacího pracoviště

Generative AI search and answer
These answers are generated by a large language model in watsonx.ai based on content from the product documentation. Learn more