Przeczytaj o pytaniu o model podstawowy

Modele podstawowe są bardzo dużymi modelami sztucznej inteligencji. Mają miliardy parametrów i są trenowane na terabajtach danych. Modele podstawowe mogą wykonywać różne zadania, w tym generowanie tekstu, kodu lub obrazu, klasyfikowanie, konwersację i wiele innych. Duże modele językowe są podzbiorem podstawowych modeli używanych do wykonywania zadań związanych z tekstem i kodem. W pliku IBM watsonx.aiznajduje się kolekcja wdrożonych modeli dużych języków, których można używać, a także narzędzia do eksperymentowania z pytaniami.

Dowiedz się więcej o narzędziu Prompt Lab

Obejrzyj film wideo o pytaniu o model podstawowy

Obejrzyj ten film wideo, aby wyświetlić podgląd kroków tego kursu. W interfejsie użytkownika wyświetlanym na filmie wideo mogą występować niewielkie różnice. Film wideo ma być towarzyszem napisanego kursu.

Ten film wideo zawiera wizualną metodę zapoznawania się z pojęciami i zadaniami opisanymi w tej dokumentacji.

Wypróbuj kurs, aby zapytać o model podstawowy

W tym kursie zostaną wykonane następujące czynności:

• Czynność 1: Otwieranie projektu
• Czynność 2: Użycie laboratorium podpowiedzi w trybie swobodnym
• Czynność 3: Używanie laboratorium podpowiedzi w trybie strukturalnym
• Czynność 4: Korzystanie z przykładowych pytań
• Czynność 5: Wybór modelu fundamentalnego
• Czynność 6: Dopasowywanie parametrów modelu
• Czynność 7: Zapisywanie pracy

• Wskazówki dotyczące wykonywania tego kursu

  Użyj obrazu wideo

  Wskazówka: Rozpocznij film wideo, a następnie podczas przewijania kursu film wideo przechodzi do trybu obrazowania. Zamknij spis treści wideo, aby uzyskać najlepsze doświadczenia z obrazem. Istnieje możliwość użycia trybu obrazowania w obrazie, dzięki czemu można śledzić film wideo podczas wykonywania zadań w tym kursie. Kliknij znaczniki czasu dla każdego zadania, które ma być wykonywane.

  Poniższy animowany obraz przedstawia sposób korzystania z funkcji obrazków wideo i spisu treści:

  

  Uzyskaj pomoc w społeczności

  Aby uzyskać pomoc dotyczącą tego kursu, można zadać pytanie lub znaleźć odpowiedź na forum dyskusyjnym społecznościwatsonx.ai.

  Konfigurowanie okien przeglądarki

  Aby uzyskać optymalne dopasowanie do tego kursu, otwórz stronę Cloud Pak for Data w jednym oknie przeglądarki i pozostaw ten kurs otwarty w innym oknie przeglądarki, aby łatwo przełączać się między dwiema aplikacjami. Rozważ rozmieszczenie dwóch okien przeglądarki obok siebie, aby ułatwić sobie śledzenie.

  

  Wskazówka: Jeśli podczas wykonywania tego kursu w interfejsie użytkownika pojawi się prezentacja z przewodnikiem, kliknij opcję Być może później.

  
  Początek strony
  

• Czynność 1: otwieranie projektu
  
  

  Potrzebny jest projekt do przechowywania zasobów laboratorium zapytań.

  Obejrzyj film wideo, aby zobaczyć, jak utworzyć projekt środowiska testowego i powiązać usługę. Następnie wykonaj poniższe kroki, aby sprawdzić, czy istnieje projekt lub utworzyć projekt środowiska testowego.

  • Obejrzyj film wideo, aby zobaczyć, jak utworzyć projekt środowiska testowego i powiązać usługę

    Ten film wideo zawiera wizualną metodę zapoznawania się z pojęciami i zadaniami opisanymi w tej dokumentacji.

  1. Na ekranie głównym watsonx przewiń ekran do sekcji Projects . Jeśli wyświetlane są jakiekolwiek projekty, przejdź do Zadania 2. Jeśli nie są wyświetlane żadne projekty, należy wykonać poniższe kroki, aby utworzyć projekt.

  2. Kliknij opcję Utwórz projekt środowiska testowego. Po utworzeniu projektu w sekcji Projekty zostanie wyświetlony projekt środowiska testowego.

  Aby uzyskać więcej informacji lub obejrzeć film wideo, należy zapoznać się z sekcją Tworzenie projektu.

  Sprawdź postęp

  Na poniższym obrazku przedstawiono ekran główny ze środowiskiem testowym wymienionym w sekcji Projekty. Teraz można otworzyć laboratorium podpowiedzi.
  
  

  

  
  Początek strony
  

• Czynność 2: korzystanie z laboratorium podpowiedzi w trybie swobodnym
  
  

  Aby wyświetlić podgląd tego zadania, należy obejrzeć film wideo o godzinie 00:03.

  Tekst pytania można wpisać w dowolnym edytorze zwykłego tekstu, a następnie kliknąć przycisk Generuj , aby wysłać pytanie do modelu. Wykonaj następujące kroki, aby użyć laboratorium podpowiedzi w trybie swobodnym:

  1. Na ekranie głównym kliknij kafel Eksperyment z modelami bazowymi i budowaniem pytań .

  2. Zaznacz każde pole wyboru, aby zaakceptować potwierdzenia, a następnie kliknij opcję Pomiń prezentację.

  3. Kliknij kartę Freeform , aby wyświetlić zapytanie o model podstawowy w trybie Freeform .

  4. Kliknij opcję Tryb przełącznika.

  5. Skopiuj i wklej następujący tekst w polu tekstowym, a następnie kliknij przycisk Generuj , aby wyświetlić dane wyjściowe dla pola Nazwa klasy: Problem.

  
  Classify this customer message into one of two classes: question, problem.
  Class name: Question
  Description: The customer is asking a technical question or a how-to question about our products or services.
  Class name: Problem
  Description: The customer is describing a problem they are having. They might say they are trying something, but it's not working. They might say they are getting an error or unexpected results.
  Message: I'm having trouble registering for a new account.
  Class name:
  
  

  
  

  Sprawdź postęp

  Na poniższych obrazkach przedstawiono wygenerowane dane wyjściowe dla pytania w trybie swobodnym. Teraz można przystąpić do pytania o model podstawowy w trybie strukturalnym.
  
  

  

  
  Początek strony
  

• Czynność 3: korzystanie z laboratorium podpowiedzi w trybie strukturalnym
  
  

  Aby wyświetlić podgląd tego zadania, należy obejrzeć film wideo o godzinie 00:19.

  Podpowiedź można wpisać w formacie ustrukturyzowanym. Ustrukturyzowany format jest pomocny w przypadku wyświetlania kilku pytań, gdy pytanie zawiera wiele przykładów. Aby użyć narzędzia Prompt Lab w trybie strukturalnym, wykonaj następujące kroki:

  1. Kliknij kartę Zstrukturyzowane .

  2. Kliknij opcję Tryb przełącznika.

  3. W polu Instrukcja skopiuj i wklej następujący tekst: Given a message submitted to a customer-support chatbot for a cloud software company, classify the customer's message as either a question or a problem description so the chat can be routed to the correct support team.

  4. W polu Konfiguracja skopiuj i wklej następujący tekst w każdej kolumnie:

     Wartości w polu Konfiguracja

     Dane wejściowe	Dane wyjściowe
     Gdy próbuję się zalogować, pojawia się błąd.	Problem
     Gdzie mogę znaleźć ceny planu?	Pytanie
     Jaka jest różnica między procesem a wypłatą?	Pytanie
     Strona rejestracji uległa awarii, a teraz nie mogę utworzyć nowego konta.	Problem
     Jakie regiony są wspierane?	Pytanie
     Nie pamiętam hasła.	Problem

     
     

  5. W polu Wypróbuj skopiuj i wklej następujący tekst: I'm having trouble registering for a new account.

  6. Kliknij przycisk Generuj , aby wyświetlić dane wyjściowe Problem.

  Sprawdź postęp

  Na poniższych obrazkach przedstawiono wygenerowane dane wyjściowe dla podpowiedzi w trybie strukturalnym. Teraz można wypróbować przykładowe pytania.
  
  

  

  
  Początek strony
  

• Czynność 4: korzystanie z przykładowych pytań
  
  

  Aby wyświetlić podgląd tego zadania, należy obejrzeć film wideo o godzinie 00:33. Jeśli nie masz pewności, jak rozpocząć, przykładowe pytania mogą rozpocząć pracę. Aby użyć przykładowych monitów, wykonaj następujące kroki:

  1. Otwórz ikonę Przykładowe pytania , aby wyświetlić listę.
  2. Przewiń listę i kliknij przykładowe pytanie Generowanie marketingowej wiadomości e-mail .
  3. Wyświetl wybrany model. Podczas ładowania przykładowego pytania wybierany jest odpowiedni model.
  4. Otwórz panel Parametry modelu . Odpowiednie parametry kryteriów dekodowania i zatrzymywania są również ustawiane automatycznie.
  5. Kliknij przycisk Generuj , aby wprowadzić przykładowe pytanie do modelu i wyświetlić przykładowe dane wyjściowe wiadomości e-mail.

  Sprawdź postęp

  Na poniższym obrazku przedstawiono dane wyjściowe wygenerowane w przykładowym monicie. Teraz można dostosować przykładowy wynik zapytania, wybierając inny model i parametry.
  
  

  

  
  Początek strony
  

• Czynność 5: wybór modelu fundamentalnego
  
  

  Aby wyświetlić podgląd tej czynności, należy obejrzeć film wideo o godzinie 01:04. Tę samą zachętę można wysłać do innego modelu. Aby wybrać inny model podstawowy, wykonaj następujące kroki:

  1. Kliknij opcję Model > Wyświetl wszystkie modele podstawowe.
  2. Kliknij model, aby uzyskać więcej informacji o modelu i zobaczyć szczegóły, takie jak architektura modelu, dane przed treningiem, informacje dotyczące dostrajania i wydajność względem testów porównawczych.
  3. Kliknij przycisk Wstecz , aby powrócić do listy modeli.
  4. Wybierz model podstawowy flan-t5-xxl-11b lub mt0-xxl-13b i kliknij opcję Wybierz model.
  5. Umieść wskaźnik myszy nad kolumną wyjściową modelu i kliknij ikonę X , aby usunąć poprzedni wynik.
  6. Kliknij na liście to samo przykładowe pytanie, Generowanie marketingowej wiadomości e-mail.
  7. Kliknij przycisk Generuj , aby wygenerować wyniki przy użyciu nowego modelu.

  Sprawdź postęp

  Na poniższym obrazku przedstawiono wygenerowane wyniki przy użyciu innego modelu. Teraz można dostosować parametry modelu.
  
  

  

  
  Początek strony
  

• Czynność 6: korygowanie parametrów modelu
  
  

  Aby wyświetlić podgląd tej czynności, należy obejrzeć film wideo rozpoczynający się od strony 01:28.

  Można eksperymentować ze zmianą parametrów kryteriów dekodowania lub zatrzymania. Wykonaj poniższe kroki, aby dopasować parametry modelu.

  Uwaga: Parametry modelu różnią się w zależności od aktualnie wybranego modelu.

  Poniższa tabela definiuje parametry modelu dostępne dla modelu flan-t5-xxl-11b .

  Parametry modelu

  Parametry modelu	Znaczenie
  Dekodowanie	Aby zawsze wybierać słowa z najwyższym prawdopodobieństwem, należy ustawić dekodowanie na zachłanne . Ustaw dekodowanie na Próbkowanie , aby dostosować zmienność wyboru słów.
  Temperatura	Kontrola kreatywności generowanego tekstu. Wyższe wartości prowadzą do generowanych losowo wyników.
  Top P (próbkowanie jądra)	Ustaw wartość < 1.0 , aby użyć tylko najmniejszego zestawu najbardziej prawdopodobnych leksemów z prawdopodobieństwem, które sumują się do wartości top_p lub wyższej.
  Górne K	Ustaw liczbę tokenów słownika najwyższego prawdopodobieństwa, które mają być przechowywane na potrzeby filtrowania z najwyższym prawdopodobieństwem. Niższe wartości zmniejszają prawdopodobieństwo, że model zostanie wyłączony z tematu.
  Wartość początkowa	Steruj losowym próbkowaniem wygenerowanych tokenów, gdy włączone jest próbkowanie. Ustawienie losowej wartości patrz na tę samą liczbę dla każdej generacji zapewnia powtarzalność eksperymentalną.
  Kara za powtórzenie	Ustaw karę za powtórzenie, aby przeciwdziałać tendencji modelu do powtarzania tekstu pytania dosłownie lub utknąć w pętli. 1.00 oznacza brak kary.
  Sekwencje zatrzymania	Ustaw sekwencje zatrzymania na jeden lub więcej łańcuchów, aby spowodować zatrzymanie generowania tekstu, jeśli lub kiedy są one generowane jako część danych wyjściowych.
  Minimalna liczba tokenów	Zdefiniuj minimalną liczbę tokenów do wygenerowania. Sekwencje zatrzymania napotkane przed minimalną liczbą generowanych tokenów są ignorowane.
  Maksymalna liczba tokenów	Zdefiniuj maksymalną liczbę tokenów do wygenerowania.

  
  

  1. Zmień wartość parametru Top K na 10 , aby było mniej prawdopodobne, że model zostanie wyłączony.
  2. Kliknij przycisk X , aby usunąć poprzedni wynik modelu.
  3. Kliknij tę samą przykładową zachętę z listy.
  4. Kliknij przycisk Generuj , aby wygenerować wyniki przy użyciu nowych parametrów modelu.
  5. Kliknij ikonę Historia sesji po wysłaniu wielu pytań, aby wyświetlić historię sesji.
  6. Kliknij dowolny wpis, aby pracować z poprzednim pytaniem, specyfikacją modelu i ustawieniami parametrów, a następnie kliknij opcję Odtwórz.
  7. Edytuj pytanie, zmień model lub dopasuj parametry kryteriów dekodowania i zatrzymania.
  8. Kliknij przycisk Generuj , aby wygenerować dane wyjściowe przy użyciu zaktualizowanych informacji.

  Sprawdź postęp

  Na poniższym obrazku przedstawiono wygenerowane wyniki przy użyciu różnych parametrów modelu. Teraz można zapisać pracę.
  
  

  

  
  Początek strony
  

• Czynność 7: zapisywanie pracy
  
  

  Aby wyświetlić podgląd tego zadania, obejrzyj film wideo rozpoczynający się od strony 02:15.

  Pracę można zapisać w trzech formatach:

  Typy zasobów

  Typ zasobu	Opis
  Szablon pytania	Zapisz tylko bieżący monit, bez jego historii.
  Sesja podpowiedzi	Zapisz historię i dane z bieżącej sesji.
  Notatnik	Zapisz bieżący monit jako notatnik.

  
  

  Aby zapisać pracę, wykonaj następujące kroki:

  1. Kliknij opcję Zapisz pracę > Zapisz jako.
  2. Wybierz opcję Szablon pytania.
  3. Jako nazwę wpisz Sample prompts.
  4. Wybierz opcję Wyświetl w projekcie po zapisaniu .
  5. Kliknij przycisk Zapisz.
  6. Na karcie Zasoby projektu kliknij zasób Przykładowe pytania , aby załadować to pytanie w laboratorium podpowiedzi i wrócić do pracy.
  7. Kliknij opcję Zapisane pytania , aby wyświetlić zapisane pytanie z projektu środowiska testowego.

  Sprawdź postęp

  Na poniższym obrazku przedstawiono kartę Zasoby projektu z zasobem aplikacyjnym pytania:
  
  

  

  Na poniższym obrazku przedstawiono zapisane pytanie w laboratorium podpowiedzi:

  

  
  Początek strony
  

Następne kroki

Teraz można wykonać następujące czynności:

• Użyj narzędzia Prompt Lab (Podpowiedź), aby wyświetlić podstawowe modele i zapisać pracę w projekcie.
• Zapoznaj się z kursem Prompt a foundation model with the retrieval-augmented generation pattern tutorial (Pytaj o podstawowy model z rozszerzonym wzorcem pobierania).

Zasoby dodatkowe

• Zapisywanie pracy

• BibliotekaPython

• Bezpieczeństwo i prywatność modeli podstawowych

• Wyświetl więcej filmów wideo.

• Znajdź przykładowe zestawy danych, projekty, modele, pytania i notatniki w przykładach, aby uzyskać praktyczne doświadczenie:

  Notebooki , które można dodać do projektu, aby rozpocząć analizę danych i budowanie modeli.

  Projekty , które można zaimportować zawierające notatniki, zestawy danych, pytania i inne zasoby.

  Zestawy danych , które można dodać do projektu w celu uszczegółowienia, analizowania i budowania modeli.

  Pytania , których można użyć w laboratorium pytań w celu wyświetlenia pytania o model podstawowy.

  Modele Foundation , których można używać w laboratorium podpowiedzi.

Temat nadrzędny: Kursy szybkiego startu