Panoramica di IBM watsonx as a Service

Strumenti per preparare i dati e lavorare con i modelli

Gli strumenti watsonx.ai si trovano in aree di lavoro collaborative denominate progetti.

Puoi utilizzare gli strumenti watsonx.ai per preparare i dati e lavorare con i modelli nei modi seguenti:

• Preparazione dati: perfezionare e visualizzare i file di dati o le tabelle di dati in origini dati remote o generare dati tabulari sintetici.

• Crea modelli di machine learning: genera automaticamente i candidati del modello, crea i flussi di addestramento del modello di machine learning o scrivi il codice di addestramento del modello in Python o R.

• Utilizza modelli di base: esperimento con prompt AI generativi, ottimizza i modelli di base per il tuo caso d'uso o scrivi il codice della soluzione AI generativa in Python.

• Automatizzare i cicli di vita dei modelli: creare flussi ripetibili e pianificati che automatizzano le pipeline di notebook, Data Refinerye machine learning.

Per un elenco di strumenti, i loro livelli di automazione e la possibilità di utilizzarli per preparare i dati o lavorare con i modelli, vedere Soluzioni per la scienza dei dati. Per gli strumenti AI generativi, consultare Sviluppo di soluzioni AI generative.

Modelli di base distribuiti

IBM watsonx.ai ha una gamma di modelli di linguaggio di grandi dimensioni distribuiti per l'intelligenza artificiale generativa. I modelli di fondazione distribuiti includono modelli open source e modelli di fondazione IBM. È anche possibile distribuire i propri modelli di fondazione personalizzati. È possibile personalizzare il comportamento del modello di fondazione mettendo a punto un modello di fondazione.

Per un elenco di modelli di base supportati distribuiti in watsonx.ai, vedi Modelli di base supportati.

Risorse d'uso

A seconda dei tuoi piani di servizio, potresti avere una quantità impostata di risorse di utilizzo al mese o potresti essere addebitato per le risorse che utilizzi.

Quando si eseguono strumenti o modelli host su watsonx.ai, si consumano i seguenti tipi di risorse:

• Utilizzo del calcolo: Quando si eseguono lavori, notebook, esperimenti che addestrano o mettono a punto i modelli o distribuzioni, l'utilizzo delle risorse di calcolo viene calcolato in base alla tariffa dell'ambiente di runtime e alla sua durata attiva. Le risorse di calcolo includono l'hardware e il software appropriati specifici per il carico di lavoro. L'utilizzo del calcolo viene misurato in ore unità di capacità.

• Utilizzo dell'inferenza: Quando si esegue l'inferenza con i modelli di base, l'utilizzo dell'inferenza viene calcolato come la somma dei token nel testo di input e di output del prompt moltiplicata per il tasso del modello di base. I token sono unità di base di testo. L'inferenza viene misurata in unità di risorse. S

• Hosting del modello: Quando si distribuisce un modello di fondazione personalizzato o un modello di fondazione distribuito su richiesta, viene addebitata una tariffa oraria. Le tariffe di fatturazione dipendono dalla configurazione hardware del modello e si applicano per l'hosting e l'inferenza del modello. L'addebito inizia quando il modello viene distribuito con successo e continua finché il modello non viene cancellato.

• Estrazione del testo: Quando si utilizza l'estrazione del testo per convertire i file di documenti in un formato JSON compatibile con il modello di AI, il costo viene addebitato per pagina.

Per saperne di più su utilizzo e fatturazione:

• Dettagli di fatturazione per gli strumenti di watsonx.ai Studio
• Dettagli di fatturazione per le risorse di IA generativa
• Dettagli di fatturazione per le attività di apprendimento automatico

Strumenti per governare l'IA

È possibile utilizzare gli strumenti di watsonx.governance per governare l'IA nei seguenti modi:

• Monitoraggio e valutazione delle risorse AI: È possibile monitorare i risultati dei modelli di apprendimento automatico e spiegare le previsioni dei modelli. È possibile valutare e confrontare i suggerimenti dell'IA generativa. I tuoi strumenti di monitoraggio e valutazione del modello watsonx.governance si trovano in progetti e spazi di distribuzione.

• Tracciare e documentare i casi di utilizzo AI: è possibile visualizzare lo stato del ciclo di vita del modello, i dettagli generali del modello e della distribuzione, le metriche e le informazioni di formazione e le metriche di distribuzione. I tuoi strumenti di traccia del modello watsonx.governance nei casi di utilizzo AI.

• Gestire le attività di governance dalla console di governance: Integrazione opzionale con la console di governance watsonx da IBM OpenPages. Sincronizza i dati delle schede informative con la console di governance ed estendi le funzionalità di governance con flussi di lavoro e altri strumenti di conformità.

Per un elenco degli strumenti di governance, vedere Governare le risorse con watsonx.governance.

Risorse d'uso

Quando si eseguono le valutazioni e spiegazioni del modello con watsonx.governance, si utilizzano le risorse. A seconda dei tuoi piani di servizio, potresti avere una quantità impostata di risorse di utilizzo al mese o potresti essere addebitato per le risorse che utilizzi. L'utilizzo delle risorse viene calcolato in base al numero di valutazioni e spiegazioni del modello. Le valutazioni e le spiegazioni vengono misurate in unità di risorse.

Vedere IBM watsonx.governance opzioni di piano.

Connettività

È possibile creare connessioni alle origini dati remote e importare dati connessi. È possibile configurare le connessioni con credenziali personali o condivise. Per un elenco dei connettori supportati, consultare Connettori.

Puoi condividere le connessioni con altri utenti nella piattaforma nel Platform assets catalog.

Amministrazione

Le seguenti funzioni di amministrazione forniscono sicurezza e flessibilità:

• Software e hardware: Watsonx è completamente gestito da IBM su IBM Cloud. Gli aggiornamenti software sono automatici. La scalabilità delle risorse di utilizzo e dell'archiviazione è automatica.

• Sicurezza, conformità e isolamento: La sicurezza dei dati, la sicurezza della rete, la conformità agli standard di sicurezza e l'isolamento di watsonx sono gestiti da IBM Cloud. I dati sono crittografati a riposo e in movimento. È possibile impostare ulteriori opzioni di sicurezza e crittografia.

  Il tuo lavoro su watsonx, inclusi i dati e i modelli che crei, è privato del tuo account. I tuoi dati e modelli non saranno mai accessibili o utilizzati da IBM o da altre persone o organizzazioni.

  Ulteriori informazioni sulla sicurezza e le opzioni:

  • Sicurezza e privacy dei modelli di base
  • Sicurezza dei dati
  • Sicurezza di watsonx

• Fornitura dei servizi: Watsonx.ai sulla piattaforma watsonx comprende i servizi watsonx.ai Studio, watsonx.ai Runtime e IBM Cloud Object Storage. Watsonx.governance sulla piattaforma watsonx include il servizio watsonx.governance.

  Puoi aggiungere servizi, come i servizi dell'origine dati, dal catalogo dei servizi watsonx . Vedi Creazione e gestione dei servizi IBM Cloud.

• Gestione degli utenti: Si aggiungono utenti e gruppi di utenti e si gestiscono i ruoli e le autorizzazioni dei loro account con IBM Cloud Identity and Access Management. I ruoli vengono assegnati all'interno di ogni spazio di collaborazione nella piattaforma. Vedere Gestione degli utenti e degli accessi.

Archiviazione

Un'istanza del servizio IBM Cloud Object Storage viene fornita automaticamente per fornire l'archiviazione delle risorse create o aggiunte agli spazi di lavoro. Le informazioni archiviate in IBM Cloud Object Storage sono crittografate e resilienti. Ogni spazio di lavoro ha il proprio bucket dedicato. Consultare Memoria oggetti per le aree di lavoro.

Spazi di lavoro

Watsonx è organizzato come una serie di spazi di lavoro collaborativi in cui puoi lavorare con il tuo team o la tua organizzazione. Ogni workspace dispone di una serie di membri con ruoli che forniscono le autorizzazioni per eseguire azioni.

La maggior parte degli utenti lavora con gli asset, che sono elementi creati o aggiunti agli spazi di lavoro dagli utenti. Gli asset possono rappresentare dati, modelli o altri tipi di codice o informazioni. Gli asset di dati contengono metadati che rappresentano i dati. Gli asset creati negli strumenti, ad esempio i modelli, eseguono il codice per gestire i dati. È inoltre possibile creare asset che contengono informazioni su altri asset, come i casi di utilizzo del modello che contengono metadati, cronologia e report sui modelli. Vedere Proprietà e tipi di asset.

È possibile lavorare in questi tipi di spazi di lavoro in watsonx:

• Progetti
• Spazi di distribuzione
• Connessioni piattaforma
• Inventari

È possibile cercare gli asset in tutti gli spazi di lavoro a cui si appartiene.

Hub di risorse

Watsonx include una raccolta integrata di esempi che fornisce modelli di base distribuiti, asset di dati, prompt, notebook e progetti di esempio. I notebook di esempio forniscono esempi di data science e codice di machine learning. I progetti di esempio contengono serie di dati, modelli, altri asset e istruzioni dettagliate su come risolvere un particolare problema di business.

La seguente immagine mostra l'aspetto dell'hub di risorse.

Guarda questo video per vedere un tour dell'hub di risorse.