Panoramica di IBM watsonx as a Service

Strumenti per preparare i dati e lavorare con i modelli

Gli strumenti watsonx.ai si trovano in aree di lavoro collaborative denominate progetti.

Puoi utilizzare gli strumenti watsonx.ai per preparare i dati e lavorare con i modelli nei modi seguenti:

• Preparazione dati: perfezionare e visualizzare i file di dati o le tabelle di dati in origini dati remote o generare dati tabulari sintetici.
• Crea modelli di machine learning: genera automaticamente i candidati del modello, crea i flussi di addestramento del modello di machine learning o scrivi il codice di addestramento del modello in Python o R.
• Utilizza modelli di base: esperimento con prompt AI generativi, ottimizza i modelli di base per il tuo caso d'uso o scrivi il codice della soluzione AI generativa in Python.
• Automatizzare i cicli di vita dei modelli: creare flussi ripetibili e pianificati che automatizzano le pipeline di notebook, Data Refinerye machine learning.

Per un elenco di strumenti, i loro livelli di automazione e se è possibile utilizzarli per preparare i dati o utilizzare i modelli, consultare Analisi dei dati e utilizzo dei modelli. Per gli strumenti AI generativi, consultare Sviluppo di soluzioni AI generative.

Modelli di base distribuiti

IBM watsonx.ai ha una gamma di modelli di linguaggio di grandi dimensioni distribuiti per l'intelligenza artificiale generativa. I modelli di base distribuiti includono i modelli open source di Hugging Face e i modelli di base IBM . È possibile selezionare il modello di base appropriato per il proprio caso di utilizzo di deduzione. È possibile personalizzare il comportamento del modello di base ottimizzando un modello di base.

Per un elenco di modelli di base supportati distribuiti in watsonx.ai, vedi Modelli di base supportati.

Risorse di utilizzo per calcolo e inferenza

A seconda dei tuoi piani di servizio, potresti avere una quantità impostata di risorse di utilizzo al mese o potresti essere addebitato per le risorse che utilizzi.

Quando esegui gli strumenti con watsonx.ai, utilizzi i seguenti tipi di risorse:

Calcola utilizzo

Quando esegui lavori, notebook, esperimenti che preparano o ottimizzano modelli o distribuzioni, l'utilizzo delle risorse di calcolo viene calcolato in base al tasso per l'ambiente di runtime e la sua durata attiva. Le risorse di calcolo includono l'hardware e il software appropriati specifici per il carico di lavoro. L'utilizzo del calcolo viene misurato in ore unità di capacità. Consultare Scelta delle risorse di elaborazione per l'esecuzione degli strumenti nei progetti.

Utilizzo di riferimento

Quando si esegue l'inferenza rispetto a modelli di base, l'utilizzo dell'inferenza viene calcolato come la somma dei token nel testo di input e output del prompt moltiplicato per la frequenza per il modello di base. I token sono unità di base di testo. L'inferenza viene misurata in unità di risorse. Vedi Resource unit metering.

Strumenti per la gestione dei modelli

È possibile utilizzare gli strumenti watsonx.governance per gestire modelli nei modi seguenti:

• Monitoraggio e valutazione dei modelli: è possibile monitorare l'output del modello e spiegare le previsioni del modello. I tuoi strumenti di monitoraggio e valutazione del modello watsonx.governance si trovano in progetti e spazi di distribuzione.

• Tracciare e documentare i casi di utilizzo AI: è possibile visualizzare lo stato del ciclo di vita del modello, i dettagli generali del modello e della distribuzione, le metriche e le informazioni di formazione e le metriche di distribuzione. I tuoi strumenti di traccia del modello watsonx.governance nei casi di utilizzo AI.

• Gestire l'attività di governance dalla console di governance Facoltativamente integrare con watsonx Console di governance da IBM OpenPages. Sincronizza i dati delle schede informative con la console di governance ed estendi le funzionalità di governance con flussi di lavoro e altri strumenti di conformità.

Risorse di utilizzo per le valutazioni del modello e le spiegazioni

Quando si eseguono le valutazioni e spiegazioni del modello con watsonx.governance, si utilizzano le risorse. A seconda dei tuoi piani di servizio, potresti avere una quantità impostata di risorse di utilizzo al mese o potresti essere addebitato per le risorse che utilizzi. L'utilizzo delle risorse viene calcolato in base al numero di valutazioni e spiegazioni del modello. Le valutazioni e le spiegazioni vengono misurate in unità di risorse.

Connettività

È possibile creare connessioni alle origini dati remote e importare dati connessi. È possibile configurare le connessioni con credenziali personali o condivise. Per un elenco dei connettori supportati, consultare Connettori.

Puoi condividere le connessioni con altri utenti nella piattaforma nel Platform assets catalog.

Amministrazione

Le seguenti funzioni di amministrazione forniscono sicurezza e flessibilità:

Software e hardware

Watsonx è completamente gestito da IBM su IBM Cloud. Gli aggiornamenti software sono automatici. La scalabilità delle risorse di utilizzo e dell'archiviazione è automatica.

Sicurezza, conformità e isolamento

La sicurezza dei dati, la sicurezza della rete, la conformità degli standard di sicurezza e l'isolamento di watsonx sono gestiti da IBM Cloud. I dati sono crittografati a riposo e in movimento. È possibile impostare ulteriori opzioni di sicurezza e crittografia.

Il tuo lavoro su watsonx, inclusi i dati e i modelli che crei, è privato del tuo account. I tuoi dati e modelli non saranno mai accessibili o utilizzati da IBM o da altre persone o organizzazioni.

Ulteriori informazioni sulla sicurezza e le opzioni:

• Sicurezza e privacy dei modelli di base
• Sicurezza dei dati
• Sicurezza di watsonx

Provisioning dei servizi

Watsonx.ai sulla piattaforma watsonx include i servizi Watson Studio, Watson Machine Learninge IBM Cloud Object Storage . Watsonx.governance sulla piattaforma watsonx include il servizio watsonx.governance .

Puoi aggiungere servizi, come i servizi dell'origine dati, dal catalogo dei servizi watsonx . Vedi Creazione e gestione dei servizi IBM Cloud.

Gestione degli utenti

Puoi aggiungere utenti e gruppi di utenti e gestire i loro ruoli e autorizzazioni dell'account con IBM Cloud Identity and Access Management. I ruoli vengono assegnati all'interno di ogni spazio di collaborazione nella piattaforma. Vedi Gestione di utenti e accesso.

Archiviazione

Viene eseguito automaticamente il provisioning di un'istanza del servizio IBM Cloud Object Storage per fornirti l'archiviazione per gli asset che crei o aggiungi agli spazi di lavoro. Le informazioni memorizzate in IBM Cloud Object Storage sono crittografate e resilienti. Ogni spazio di lavoro ha il proprio bucket dedicato. Consultare Memoria oggetti per le aree di lavoro.

Spazi di lavoro

Watsonx è organizzato come una serie di spazi di lavoro collaborativi in cui puoi lavorare con il tuo team o la tua organizzazione. Ogni workspace dispone di una serie di membri con ruoli che forniscono le autorizzazioni per eseguire azioni.

La maggior parte degli utenti lavora con gli asset, che sono elementi creati o aggiunti agli spazi di lavoro dagli utenti. Gli asset possono rappresentare dati, modelli o altri tipi di codice o informazioni. Gli asset di dati contengono metadati che rappresentano i dati. Gli asset creati negli strumenti, ad esempio i modelli, eseguono il codice per gestire i dati. È inoltre possibile creare asset che contengono informazioni su altri asset, come i casi di utilizzo del modello che contengono metadati, cronologia e report sui modelli. Vedere Proprietà e tipi di asset.

È possibile lavorare in questi tipi di spazi di lavoro in watsonx:

• Progetti
• Spazi di distribuzione
• Connessioni piattaforma
• Casi d'uso dell'AI

È possibile cercare gli asset in tutti gli spazi di lavoro a cui si appartiene.

Hub di risorse

Watsonx include una raccolta integrata di esempi che fornisce modelli di base distribuiti, asset di dati, prompt, notebook e progetti di esempio. I notebook di esempio forniscono esempi di data science e codice di machine learning. I progetti di esempio contengono serie di dati, modelli, altri asset e istruzioni dettagliate su come risolvere un particolare problema di business.

La seguente immagine mostra l'aspetto dell'hub di risorse.

Guarda questo video per vedere un tour dell'hub di risorse.