Framework

Un framework contiene una serie di librerie, strumenti e algoritmi riutilizzabili per lo sviluppo di modelli di machine learning che è possibile creare per requisiti specifici dell'applicazione. I framework descrivono il framework di machine learning o di deep learning utilizzato per creare il modello. È possibile utilizzare framework popolari come Tensorflow, che supporta algoritmi di deep learning e machine learning tradizionali, con watsonx.ai Runtime per uno sviluppo più efficiente.

Tipo di modello

Il tipo di modello indica il framework di machine learning o di deep learning e la versione del framework utilizzata per creare il modello di machine learning. I modelli di apprendimento automatico o di apprendimento approfondito che vengono creati utilizzando lo stesso framework potrebbero non essere compatibili tra le versioni. Ad esempio, se hai creato il modello con il tipo di modello pytorch-onnx_1.10 , devi creare il tuo modello utilizzando la pytorch versione 1.10 e salvare il modello in formato ONNX.

Specifica software

Le specifiche del software definiscono il linguaggio di programmazione e la versione che si utilizza per costruire un modello o una funzione. È possibile utilizzare le specifiche software per configurare il software utilizzato per eseguire i propri modelli e funzioni. È inoltre possibile definire la versione del software da utilizzare e includere le proprie estensioni. Ad esempio, è possibile utilizzare file conda .yml o librerie personalizzate.

Piattaforma

La piattaforma descrive la piattaforma hardware su cui è possibile distribuire il modello di machine learning con una specifica software supportata. A seconda del framework con cui è stato costruito il modello, è possibile utilizzare watsonx.ai Runtime per distribuire il modello su piattaforme Zs390x), Power (PPC) o x86.

Ciclo di vita delle specifiche software e dei framework supportati

I framework, le specifiche software e i tipi di modello supportati quando si installa o si esegue l'aggiornamento all'ultima versione di watsonx passano attraverso le fasi di obsolescenza, costrizione e interruzione nelle release future di watsonx, descritte di seguito:

1. Supportato: l'ambiente di runtime corrispondente alla specifica del software è supportato quando si installa o si esegue l'aggiornamento alla versione più recente di Cloud Pak for Data.

   Ad esempio, la specifica software 'runtime-24.1-py3.11 è supportata nella versione 5.0 di Cloud Pak for Data. In questo caso, se si installa o si aggiorna una nuova istanza del servizio watsonx.ai Runtime, è possibile creare o distribuire modelli di apprendimento automatico che utilizzano 'runtime-24.1-py3.11.

   Per ulteriori informazioni, vedi Supported deployment frameworks and software specifications.

2. Obsoleto: l'ambiente di runtime corrispondente alla specifica software è supportato quando si installa o si esegue l'aggiornamento alla versione più recente di watsonx.ai, ma verrà rimosso in una release successiva.

   Per esempio, il foundation model 'mixtral-8x7b-instruct-v01-q è salvato in watsonx.ai In questo caso, se si installa una nuova istanza del servizio watsonx.ai Runtime, è possibile creare o distribuire modelli di apprendimento automatico che utilizzano 'mixtral-8x7b-instruct-v01-q. Tuttavia, il supporto per mixtral-8x7b-instruct-v01-q verrà interrotto in una release futura.

3. Non più utilizzato: l'ambiente di runtime corrispondente alla specifica software non è supportato quando si installa o si aggiorna all'ultima versione di watsonx.ai.

   Ad esempio, il supporto per granite-13b-chat-v1 è interrotto in watsonx.ai. In questo caso, se si installa o si esegue l'aggiornamento a una nuova istanza del servizio watsonx.ai Runtime, non è possibile creare o distribuire modelli di apprendimento automatico che utilizzano le specifiche software basate su Python 3.9.

Gestione di framework obsoleti e specifiche software

Aggiornare le specifiche software e i framework nei modelli quando diventano obsoleti. A volte, è possibile aggiornare senza soluzione di continuità gli asset. In altri casi, devi riaddestrare o ridistribuire i tuoi asset.

Per ulteriori informazioni, vedi Gestione di framework o specifiche software obsoleti.

Argomento principale: Distribuzione di asset con watsonx.ai Runtime