0 / 0
Torna alla versione inglese della documentazione

Messa a punto dei modelli di fondazione

Ultimo aggiornamento: 04 mar 2025
Messa a punto dei modelli di fondazione

Personalizza i modelli di fondazione per ottenere risultati migliori per le attività che soddisfano le esigenze specifiche della tua attività.

I modelli di base sono modelli di intelligenza artificiale preaddestrati su terabyte di dati provenienti da Internet e altre risorse pubbliche. Non hanno rivali nella loro capacità di prevedere la parola migliore successiva e generare il linguaggio. Mentre la generazione di linguaggi può essere utile per il brainstorming e per stimolare la creatività, i modelli di base devono essere guidati per svolgere compiti concreti. La messa a punto dei modelli e altre tecniche, come la generazione potenziata dal recupero, consentono di utilizzare i modelli di base in modo significativo per la propria attività.

Con l' Tuning Studio, è possibile mettere a punto un modello di base più piccolo per migliorarne le prestazioni in attività di elaborazione del linguaggio naturale come la classificazione, la sintesi e la generazione. La messa a punto può aiutare un modello base più piccolo a raggiungere risultati paragonabili a quelli dei modelli più grandi della stessa famiglia. Mettendo a punto e utilizzando il modello più piccolo, è possibile ridurre i costi di inferenza a lungo termine.

Proprio come la progettazione rapida, la messa a punto di un modello di fondazione aiuta a influenzare il contenuto e il formato dell'output del modello di fondazione. Sapere cosa aspettarsi da un modello di base è essenziale se si vuole superare la fase di deduzione di un modello di base in un flusso di lavoro aziendale.

Il diagramma seguente illustra come la messa a punto di un modello di fondazione può aiutare a guidare il modello per generare un output utile. Fornisci dati etichettati che possono includere informazioni proprietarie sconosciute al modello di base e che illustrano il formato e il tipo di output che desideri che il modello restituisca. I vostri esempi forniscono al modello di base uno schema da seguire e applicare ai risultati futuri.

Come un modello elaborato si relaziona con un modello di base

Invece di generalizzare in attività tradizionali come la traduzione di testi e la generazione di testi o risposte, dopo aver messo a punto un modello di base, l'output è più adatto alle tue esigenze.

  • Il testo o le risposte generate possono seguire uno stile specifico
  • Il modello ottimizzato può riassumere o estrarre informazioni nel modo desiderato
  • Con suggerimenti molto più piccoli, il modello sintonizzato può classificare il testo in modo efficace

Per saperne di più su quando è opportuno mettere a punto un modello, vedere Quando mettere a punto un modello di fondazione.

Metodi di lavoro

Watsonx.ai offre vari modi per personalizzare i modelli di fondazioni, tra cui:

  • Tuning Studio : Uno strumento di interfaccia grafica utente per la messa a punto di un modello di fondazione
  • Modellazione con codice : metodi programmatici per la modellazione di un modello di fondazione

Flusso di lavoro

Qualunque sia il metodo scelto, il flusso di lavoro per la messa a punto di un modello di fondazione rimane lo stesso. La messa a punto di un modello di fondazione comporta i seguenti compiti:

  1. L'ingegnere suggerisce che funzionano bene con il modello che si desidera utilizzare.

    La messa a punto non significa che si possa evitare del tutto la progettazione. La sperimentazione è necessaria per trovare il modello di fondazione giusto per il tuo caso d'uso. Sperimenta finché non capisci quali formati di prompt mostrano il maggior potenziale per ottenere buoni risultati dal modello. È possibile utilizzare il sito Prompt Lab per inviare richieste di test. Per assistenza, vedere Prompt Lab.

    Trova il modello di fondazione più grande che si adatti meglio al compito.

  2. Creare dati di addestramento da utilizzare per la messa a punto del modello.

  3. Creare un esperimento di messa a punto per mettere a punto il modello.

  4. Valutare il modello messo a punto.

    Se necessario, modificare i dati di addestramento o i parametri dell'esperimento ed eseguire altri esperimenti fino a quando non si è soddisfatti dei risultati.

  5. Distribuire il modello messo a punto.

  6. Invia richieste di inferenza al modello sintonizzato.

Costi di messa a punto del modello di fondazione

Il costo dell'ottimizzazione di un modello di base è misurato in unità di capacità oraria, che misura il consumo di risorse di calcolo dell'esperimento di ottimizzazione. Per ulteriori informazioni, vedere Misurazione delle ore di capacità dell'unità.

Il costo di deduzione di un modello sintonizzato è misurato in unità di risorse. La tariffa dipende dalla classe di fatturazione del modello. Un modello di fondazione ottimizzato ha la stessa classe di fatturazione del modello di fondazione che ottimizza. Per ulteriori informazioni, vedere Misurazione dell'unità di risorsa.

Ulteriori informazioni

Introduzione

Argomento principale: Sviluppo di soluzioni di IA generativa