Přečtěte si o výzvě k zadání základního modelu

Základní modely jsou velmi velké modely AI. Mají miliardy parametrů a jsou vyškoleni na terabajtech dat. Základní modely mohou provádět řadu úloh, včetně generování textu, kódu nebo obrazu, klasifikace, konverzace a dalších. Velké jazykové modely jsou podmnožinou základních modelů používaných pro úlohy související s textem a kódem. V produktu IBM watsonx.aije k dispozici kolekce implementovaných velkých jazykových modelů, které můžete použít, a také nástroje pro experimentování s výzvami k zadání.

Další informace o produktu Prompt Lab

Podívejte se na video o výzvě k základový model

Chcete-li zobrazit náhled kroků v tomto výukovém programu, podívejte se na toto video. V uživatelském rozhraní zobrazeném ve videu mohou být malé rozdíly. Video je určeno jako společník písemného výukového programu.

Toto video poskytuje vizuální metodu, jak se seznámit s koncepty a úlohami v této dokumentaci.

Vyzkoušejte výukový program pro zobrazení výzvy k základnímu modelu

V tomto výukovém programu dokončíte tyto úlohy:

• Úloha 1: Otevření projektu
• Úloha 2: Použít testovací pracoviště výzev ve volném režimu
• Úloha 3: Použít testovací pracoviště výzev ve strukturovaném režimu
• Úloha 4: Použít ukázkové výzvy k zadání
• Úloha 5: Vyberte základní model
• Úloha 6: Úprava parametrů modelu
• Úloha 7: Uložení práce

• Tipy pro dokončení tohoto výukového programu

  Použití obrazového videa v obraze

  Tip: Spusťte video a při procházení výukovým programem se video přesune do režimu obrazu v obraze. Zavřete video obsah pro nejlepší zážitek s obrazem v obraze. Můžete použít režim obrazu v obraze, takže můžete sledovat video po dokončení úloh v tomto výukovém programu. Klepněte na časová razítka pro každou úlohu, kterou chcete sledovat.

  Následující animovaný obrázek ukazuje, jak používat obrazový obraz v obraze a obsah:

  

  Získejte pomoc v komunitě

  Potřebujete-li pomoc s tímto výukovým programem, můžete položit otázku nebo najít odpověď v diskusním fóru watsonx.ai Community.

  Nastavení oken prohlížeče

  Chcete-li získat optimální zkušenost s dokončením tohoto výukového programu, otevřete Cloud Pak for Data v jednom okně prohlížeče a ponechte tuto stránku výukového programu otevřenou v jiném okně prohlížeče, abyste snadno přepínali mezi oběma aplikacemi. Zvažte uspořádání dvou oken prohlížeče vedle sebe, abyste usnadnili sledování.

  

  Tip: Pokud při provádění tohoto výukového programu v uživatelském rozhraní narazíte na asistovanou prohlídku, klepněte na Možná později.

  
  Zpět na začátek
  

• Úloha 1: Otevření projektu
  
  

  K uložení aktiv produktu Prompt Lab potřebujete projekt.

  Zhlédněte video, abyste viděli, jak vytvořit projekt sandboxu a přidružit službu. Poté postupujte podle kroků a ověřte, zda máte existující projekt, nebo vytvořte projekt sandboxu.

  • Zhlédněte video, abyste viděli, jak vytvořit projekt sandboxu a přidružit službu.

    Toto video poskytuje vizuální metodu, jak se seznámit s koncepty a úlohami v této dokumentaci.

  1. Na domovské obrazovce watsonx přejděte do sekce Projekty . Pokud vidíte nějaké projekty v seznamu, přeskočte na Úloha 2. Pokud nevidíte žádné projekty, pak postupujte takto, abyste vytvořili projekt.

  2. Klepněte na volbu Vytvořit projekt sandboxu. Po vytvoření projektu se projekt sandboxu zobrazí v sekci Projekty .

  Další informace nebo sledování videa naleznete v tématu Vytvoření projektu.

  Zkontrolujte svůj pokrok

  Následující obrázek zobrazuje domovskou obrazovku se sandboxem uvedeným v sekci Projekty. Nyní jste připraveni otevřít Výzvu k zadání testovacího pracoviště.
  
  

  

  
  Zpět na začátek
  

• Úloha 2: Použít laboratoř výzev ve volném režimu
  
  

  Chcete-li zobrazit náhled této úlohy, podívejte se na video začínající na 00:03.

  Můžete zadat text výzvy k zadání ve volném formátu, v editoru prostého textu a poté klepnutím na volbu Generovat odeslat výzvu k zadání do modelu. Chcete-li použít prostředí Prompt Lab v režimu Freeform, postupujte takto:

  1. Na domovské obrazovce klepněte na dlaždici Experiment s modely základů a sestavte výzvy k zadání .

  2. Označte každé zaškrtávací políčko, chcete-li přijmout potvrzení, a pak klepněte na volbu Přeskočit prohlídku.

  3. Klepnutím na kartu Volná forma zobrazíte výzvu k zadání základního modelu v režimu Volná forma .

  4. Klepněte na volbu Přepnout režim.

  5. Zkopírujte a vložte následující text do textového pole a poté klepnutím na volbu Generovat zobrazte výstup pro Název třídy: Problém.

  
  Classify this customer message into one of two classes: question, problem.
  Class name: Question
  Description: The customer is asking a technical question or a how-to question about our products or services.
  Class name: Problem
  Description: The customer is describing a problem they are having. They might say they are trying something, but it's not working. They might say they are getting an error or unexpected results.
  Message: I'm having trouble registering for a new account.
  Class name:
  
  

  
  

  Zkontrolujte svůj pokrok

  Následující obrázky zobrazují generovaný výstup pro výzvu v režimu Freeform. Nyní jste připraveni vyzvat základní model ve strukturovaném režimu.
  
  

  

  
  Zpět na začátek
  

• Úloha 3: Použít testovací pracoviště výzev ve strukturovaném režimu
  
  

  Chcete-li zobrazit náhled této úlohy, podívejte se na video začínající na 00:19.

  Výzvu můžete zadat ve strukturovaném formátu. Strukturovaný formát je užitečný pro náznak s několika málo výstřely, když má náznak více příkladů. Chcete-li použít testovací pracoviště výzev ve strukturovaném režimu, postupujte takto:

  1. Klepněte na kartu Strukturované .

  2. Klepněte na volbu Přepnout režim.

  3. V poli Instrukce zkopírujte a vložte následující text: Given a message submitted to a customer-support chatbot for a cloud software company, classify the customer's message as either a question or a problem description so the chat can be routed to the correct support team.

  4. V poli Nastavení zkopírujte a vložte do každého sloupce následující text:

     Hodnoty pro pole Nastavení

     Vstup	Výstup
     Když se pokusím přihlásit, dostanu chybu.	Problém
     Kde najdu plánované ceny?	Otázka
     Jaký je rozdíl mezi zkušební verzí a výplatou?	Otázka
     Registrační stránka havarovala, a teď si nemůžu vytvořit nový účet.	Problém
     Jaké regiony jsou podporovány?	Otázka
     Nemohu si vzpomenout na své heslo.	Problém

     
     

  5. Do pole Zkusit zkopírujte a vložte následující text: I'm having trouble registering for a new account.

  6. Klepněte na tlačítko Generovat , abyste viděli výstup Problém.

  Zkontrolujte svůj pokrok

  Následující obrázky zobrazují generovaný výstup pro výzvu k zadání ve strukturovaném režimu. Nyní jste připraveni vyzkoušet ukázkové výzvy k zadání.
  
  

  

  
  Zpět na začátek
  

• Úloha 4: Použít ukázkové výzvy k zadání
  
  

  Chcete-li zobrazit náhled této úlohy, podívejte se na video začínající na 00:33. Pokud si nejste jisti, jak začít, ukázkové výzvy mohou začít. Chcete-li použít ukázkové výzvy k zadání, postupujte takto:

  1. Otevřete ikonu Ukázkové výzvy a zobrazte seznam.
  2. Procházejte seznam a klepněte na vzorovou výzvu Generování marketingových e-mailů .
  3. Zobrazit vybraný model. Když načtete ukázkovou výzvu, je pro vás vybrán příslušný model.
  4. Otevřete panel Parametry modelu . Příslušné parametry kritérií pro dekódování a zastavení jsou nastaveny také automaticky.
  5. Klepnutím na volbu Generovat odešlete vzorovou výzvu k zadání do modelu a prohlédněte si vzorový e-mailový výstup.

  Zkontrolujte svůj pokrok

  Následující obrázek ukazuje generovaný výstup z ukázkové výzvy. Nyní jste připraveni upravit ukázkový výstup výzvy k zadání výběrem jiného modelu a parametrů.
  
  

  

  
  Zpět na začátek
  

• Úkol 5: Výběr základního modelu
  
  

  Chcete-li zobrazit náhled této úlohy, podívejte se na video začínající na 01:04. Stejnou výzvu můžete odeslat do jiného modelu. Chcete-li zvolit jiný základní model, postupujte takto:

  1. Klepněte na volbu Model > Zobrazit všechny základní modely.
  2. Klepněte na model, abyste se dozvěděli více o modelu a viděli podrobnosti, jako např. architekturu modelu, data předběžného trénování, informace o vyladění a výkon v porovnání s benchmarky.
  3. Klepnutím na tlačítko Zpět se vrátíte na seznam modelů.
  4. Vyberte základní model flan-t5-xxl-11b nebo mt0-xxl-13b a klepněte na volbu Vybrat model.
  5. Podržte ukazatel myši nad sloupcem výstupu modelu a klepnutím na ikonu X odstraňte předchozí výstup.
  6. Klepněte na stejnou ukázkovou výzvu Generování marketingových e-mailůze seznamu.
  7. Klepnutím na tlačítko Generovat vygenerujte výstup pomocí nového modelu.

  Zkontrolujte svůj pokrok

  Následující obrázek zobrazuje generovaný výstup pomocí jiného modelu. Nyní jste připraveni upravit parametry modelu.
  
  

  

  
  Zpět na začátek
  

• Úloha 6: Úprava parametrů modelu
  
  

  Chcete-li zobrazit náhled této úlohy, podívejte se na video začínající na 01:28.

  Můžete experimentovat se změnou parametrů dekódování nebo zastavení kritérií. Chcete-li upravit parametry modelu, postupujte takto.

  Poznámka: Parametry modelu se liší v závislosti na aktuálně vybraném modelu.

  Následující tabulka definuje parametry modelu, které jsou k dispozici pro základní model flan-t5-xxl-11b .

  Parametry modelu

  Parametry modelu	Význam
  Dekódování	Chcete-li vždy vybrat slova s nejvyšší pravděpodobností, nastavte dekódování na hodnotu Nenasytný . Chcete-li upravit variabilitu výběru slov, nastavte dekódování na hodnotu Vzorkování .
  Teplota	Ovládejte kreativitu generovaného textu. Vyšší hodnoty povedou k více náhodně generovaným výstupům.
  Top P (odběr vzorků jader)	Nastavte na hodnotu < 1.0 , chcete-li použít pouze nejmenší sadu nejpravděpodobnějších tokenů s pravděpodobností, které mají hodnotu top_p nebo vyšší.
  Horní K	Nastavte počet tokenů slovníku nejvyšší pravděpodobnosti, které se mají uchovat pro horní filtrování. Nižší hodnoty snižují pravděpodobnost, že model přejde mimo téma.
  Náhodné osivo	Řídí náhodné vzorkování generovaných tokenů, když je vzorkování povoleno. Nastavení náhodného zobrazení na stejné číslo pro každou generaci zajišťuje experimentální opakovatelnost.
  Trest opakování	Nastavte trest za opakování, abyste vykompenzovali tendenci modelu opakovat náznakový text doslovně nebo se zaseknout ve smyčce. 1.00 označuje žádný trest.
  Zastavit posloupnosti	Nastavte posloupnosti zastavení na jeden nebo více řetězců, aby se zastavilo generování textu, pokud nebo když jsou vytvořeny jako součást výstupu.
  Minimální počet tokenů	Definujte minimální počet tokenů, které se mají generovat. Posloupnosti zastavení zjištěné před minimálním počtem generovaných tokenů jsou ignorovány.
  Maximální počet tokenů	Definujte maximální počet tokenů, které se mají generovat.

  
  

  1. Změňte parametr Horní K na 10 , aby byl méně pravděpodobný, že model půjde mimo téma.
  2. Klepnutím na tlačítko X odstraníte předchozí výstup modelu.
  3. Klepněte na stejnou ukázku výzvy ze seznamu.
  4. Klepnutím na tlačítko Generovat vygenerujte výstup pomocí nových parametrů modelu.
  5. Klepněte na ikonu Historie relace po odeslání více výzev k zobrazení historie relace.
  6. Chcete-li pracovat s předchozí výzvou, specifikací modelu a nastavením parametrů, klepněte na libovolnou položku a poté klepněte na volbu Obnovit.
  7. Upravte výzvu, změňte model nebo upravte parametry dekódování a zastavení kritérií.
  8. Klepnutím na tlačítko Generovat vygenerujte výstup pomocí aktualizovaných informací.

  Zkontrolujte svůj pokrok

  Následující obrázek zobrazuje generovaný výstup s použitím různých parametrů modelu. Nyní jste připraveni uložit svou práci.
  
  

  

  
  Zpět na začátek
  

• Úkol 7: Ušetřete svou práci
  
  

  Chcete-li zobrazit náhled této úlohy, podívejte se na video začínající na 02:15.

  Svou práci můžete uložit ve třech formátech:

  Typy aktiv

  Typ aktiva	Popis
  Šablona výzvy k zadání	Uložit pouze aktuální výzvu bez její historie.
  Relace výzvy k zadání	Uložit historii a data z aktuální relace.
  Zápisník	Uložit aktuální výzvu jako zápisník.

  
  

  Chcete-li uložit svou práci, postupujte takto:

  1. Klepněte na volbu Uložit práci > Uložit jako.
  2. Vyberte volbu Šablona výzvy k zadání.
  3. Jako název zadejte Sample prompts.
  4. Vyberte volbu Zobrazit v projektu po uložení .
  5. Klepněte na tlačítko Uložit.
  6. Na kartě Aktiva projektu klepněte na aktivum Ukázkové výzvy , abyste tuto výzvu načetli do testovacího pracoviště výzvy k zadání a vrátili se do práce.
  7. Klepnutím na volbu Uložené výzvy zobrazte uloženou výzvu k zadání z projektu sandboxu.

  Zkontrolujte svůj pokrok

  Následující obrázek ukazuje kartu Aktiva projektu s aktivem výzvy k zadání:
  
  

  

  Následující obrázek zobrazuje uloženou výzvu v okně Vyzvat k zadání:

  

  
  Zpět na začátek
  

Další kroky

Nyní jste připraveni:

• Použijte volbu Vyzvat laboratoř k zadání základních modelů a uložte svou práci do projektu.
• Vyzkoušejte Výzva k zadání základního modelu s výukovým programem pro vzor generování s rozšířením pro načítání

Další prostředky

• Uložení vaší práce

• Python knihovna

• Zabezpečení a soukromí pro základní modely

• Prohlédněte si další videa.

• Vyhledejte ukázkové datové sady, projekty, modely, výzvy a zápisníky v ukázkách, abyste získali praktické zkušenosti:

  Zápisníky , které můžete přidat do svého projektu, abyste mohli začít analyzovat data a sestavovat modely.

  Projekty , které můžete importovat obsahující zápisníky, datové sady, výzvy k zadání a další aktiva.

  Datové sady , které můžete přidat do svého projektu za účelem upřesnění, analýzy a sestavení modelů.

  výzvy , které můžete použít v rámci testovacího pracoviště výzev k zadání základního modelu.

  Modely nadace , které můžete použít v laboratoři výzev k zadání.

Nadřízené téma: Výukové programy rychlého spuštění