IBM watsonx as a Service è un ambiente sicuro e collaborativo in cui puoi accedere ai dati attendibili della tua azienda, automatizzare i processi AI e fornire l'AI nelle tue applicazioni. Il componente IBM watsonx.ai fornisce uno studio di strumenti integrati per la costruzione di soluzioni di IA generativa alimentate da modelli di base e per la costruzione di modelli di apprendimento automatico. Il componente IBM watsonx.governance fornisce il monitoraggio end-to-end per il machine learning e i modelli AI generativi per accelerare i flussi di lavoro AI responsabili, trasparenti e spiegabili.
Gli ingegneri AI, i data scientist e i responsabili della conformità e dei rischi AI possono raggiungere i seguenti obiettivi con watsonx.ai e watsonx.governance: :
Costruire modelli di apprendimento automatico: Costruire modelli utilizzando framework open source e strumenti di data science basati su codice, automatizzati o visivi.
Sviluppare con modelli di base: Generare prompt per generare, classificare, riassumere o estrarre contenuti dal testo in ingresso. Scegliere tra i modelli IBM o i modelli open source di Hugging Face. Ottimizza i modelli di base per personalizzare l'output del prompt.
Gestire il ciclo di vita dell'IA: Gestire e automatizzare l'intero ciclo di vita dei modelli di intelligenza artificiale con tutti gli strumenti e i runtime integrati per addestrare, convalidare e distribuire i modelli di intelligenza artificiale.
Governare l'IA: tracciare la storia dettagliata dei modelli di IA e valutare i risultati dei modelli per garantire la conformità.
I data engineer possono raccogliere, memorizzare, eseguire query e analizzare i dati aziendali in un'architettura lakehouse con IBM watsonx.data. Vedere la documentazione diIBM watsonx.data.
Il seguente grafico mostra le funzioni dei componenti watsonx.ai e watsonx.governance oltre alla funzionalità principale comune che fornisce un'esperienza utente integrata. L'esperienza watsonx.data è separata e non viene visualizzata nel grafico.
Watsonx.ai
Watsonx.ai include strumenti per gestire dati e modelli, modelli di base distribuiti per l'intelligenza artificiale generativa e risorse hardware e software per l'elaborazione e l'inferenza.
Guarda questo breve video che introduce watsonx.ai.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Strumenti per preparare i dati e lavorare con i modelli
Gli strumenti watsonx.ai si trovano in aree di lavoro collaborative denominate progetti.
Puoi utilizzare gli strumenti watsonx.ai per preparare i dati e lavorare con i modelli nei modi seguenti:
Preparazione dati: perfezionare e visualizzare i file di dati o le tabelle di dati in origini dati remote o generare dati tabulari sintetici.
Crea modelli di machine learning: genera automaticamente i candidati del modello, crea i flussi di addestramento del modello di machine learning o scrivi il codice di addestramento del modello in Python o R.
Utilizza modelli di base: esperimento con prompt AI generativi, ottimizza i modelli di base per il tuo caso d'uso o scrivi il codice della soluzione AI generativa in Python.
Automatizzare i cicli di vita dei modelli: creare flussi ripetibili e pianificati che automatizzano le pipeline di notebook, Data Refinerye machine learning.
Per un elenco di strumenti, i loro livelli di automazione e se è possibile utilizzarli per preparare i dati o utilizzare i modelli, consultare Analisi dei dati e utilizzo dei modelli. Per gli strumenti AI generativi, consultare Sviluppo di soluzioni AI generative.
Modelli di base distribuiti
IBM watsonx.ai ha una gamma di modelli di linguaggio di grandi dimensioni distribuiti per l'intelligenza artificiale generativa. I modelli di fondazione distribuiti includono modelli open source e modelli di fondazione IBM. È anche possibile distribuire i propri modelli di fondazione personalizzati. È possibile personalizzare il comportamento foundation model mettendo a punto un foundation model.
Per un elenco di modelli di base supportati distribuiti in watsonx.ai, vedi Modelli di base supportati.
Risorse d'uso
A seconda dei tuoi piani di servizio, potresti avere una quantità impostata di risorse di utilizzo al mese o potresti essere addebitato per le risorse che utilizzi.
Quando si eseguono strumenti o modelli host su watsonx.ai, si consumano i seguenti tipi di risorse:
Utilizzo del calcolo: Quando si eseguono lavori, notebook, esperimenti che addestrano o mettono a punto i modelli o distribuzioni, l'utilizzo delle risorse di calcolo viene calcolato in base alla tariffa dell'ambiente di runtime e alla sua durata attiva. Le risorse di calcolo includono l'hardware e il software appropriati specifici per il carico di lavoro. L'utilizzo del calcolo viene misurato in ore unità di capacità. Vedere Scelta delle risorse di calcolo per l'esecuzione degli strumenti nei progetti.
Utilizzo dell'inferenza: Quando si esegue l'inferenza contro i modelli di base, l'utilizzo dell'inferenza viene calcolato come la somma dei token nel testo di input e di output del prompt moltiplicata per il tasso del foundation model. I token sono unità di base di testo. L'inferenza viene misurata in unità di risorse. Vedere Misurazione delle unità di risorse.
Hosting del modello: Quando si distribuisce un foundation model personalizzato, viene addebitata una tariffa oraria. Le tariffe di fatturazione dipendono dalla configurazione hardware del modello e si applicano per l'hosting e l'inferenza del modello. L'addebito inizia quando il modello viene distribuito con successo e continua finché il modello non viene cancellato. Vedere le tariffe di fatturazione oraria per i modelli di fondazione personalizzati.
Estrazione del testo: Quando si utilizza l'estrazione del testo per convertire i file di documenti in un formato JSON compatibile con il modello di AI, il costo viene addebitato per pagina. Vedere Tariffe di fatturazione per l'estrazione del testo dei documenti.
Watsonx.governance
Watsonx.governance include strumenti per governare i modelli e le risorse di utilizzo per valutare e spiegare i modelli.
Le funzionalità di governance dell'intelligenza artificiale variano a seconda dell'ambiente di distribuzione:
- Watsonx.governance SU IBM Cloud fornisce la maggior parte delle funzionalità di governance dell'IA. Puoi integrare il IBM OpenPages servizio per abilitare la console di governance. Tutte le soluzioni sono disponibili (è richiesta la licenza).
- Watsonx.governance SU Amazon Web Services ( AWS ) fornisce alla console di governance la soluzione Model Risk Governance.
Guarda questo breve video che introduce watsonx.governance.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Strumenti per la gestione dei modelli
È possibile utilizzare gli strumenti watsonx.governance per gestire modelli nei modi seguenti:
Monitoraggio e valutazione dei modelli: è possibile monitorare l'output del modello e spiegare le previsioni del modello. I tuoi strumenti di monitoraggio e valutazione del modello watsonx.governance si trovano in progetti e spazi di distribuzione.
Tracciare e documentare i casi di utilizzo AI: è possibile visualizzare lo stato del ciclo di vita del modello, i dettagli generali del modello e della distribuzione, le metriche e le informazioni di formazione e le metriche di distribuzione. I tuoi strumenti di traccia del modello watsonx.governance nei casi di utilizzo AI.
Gestire l'attività di governance dalla console di governance Facoltativamente integrare con watsonx Console di governance da IBM OpenPages. Sincronizza i dati delle schede informative con la console di governance ed estendi le funzionalità di governance con flussi di lavoro e altri strumenti di conformità.
Risorse d'uso
Quando si eseguono le valutazioni e spiegazioni del modello con watsonx.governance, si utilizzano le risorse. A seconda dei tuoi piani di servizio, potresti avere una quantità impostata di risorse di utilizzo al mese o potresti essere addebitato per le risorse che utilizzi. L'utilizzo delle risorse viene calcolato in base al numero di valutazioni e spiegazioni del modello. Le valutazioni e le spiegazioni vengono misurate in unità di risorse.
Funzionalità core comune
Watsonx include le seguenti funzionalità di base di IBM Cloud Pak for Data come base sicura e scalabile per la collaborazione efficiente della vostra organizzazione:
- Connettività
- Amministrazione
- Archiviazione
- Spazi di lavoro
- Hub di risorse
Connettività
È possibile creare connessioni alle origini dati remote e importare dati connessi. È possibile configurare le connessioni con credenziali personali o condivise. Per un elenco dei connettori supportati, consultare Connettori.
Puoi condividere le connessioni con altri utenti nella piattaforma nel Platform assets catalog.
Amministrazione
Le seguenti funzioni di amministrazione forniscono sicurezza e flessibilità:
Software e hardware: Watsonx è completamente gestito da IBM su IBM Cloud. Gli aggiornamenti software sono automatici. La scalabilità delle risorse di utilizzo e dell'archiviazione è automatica.
Sicurezza, conformità e isolamento: La sicurezza dei dati, la sicurezza della rete, la conformità agli standard di sicurezza e l'isolamento di watsonx sono gestiti da IBM Cloud. I dati sono crittografati a riposo e in movimento. È possibile impostare ulteriori opzioni di sicurezza e crittografia.
Il tuo lavoro su watsonx, inclusi i dati e i modelli che crei, è privato del tuo account. I tuoi dati e modelli non saranno mai accessibili o utilizzati da IBM o da altre persone o organizzazioni.
Ulteriori informazioni sulla sicurezza e le opzioni:
Fornitura dei servizi: Watsonx.ai sulla piattaforma watsonx comprende i servizi watsonx.ai Studio, watsonx.ai Runtime e IBM Cloud Object Storage. Watsonx.governance sulla piattaforma watsonx include il servizio watsonx.governance.
Puoi aggiungere servizi, come i servizi dell'origine dati, dal catalogo dei servizi watsonx . Vedi Creazione e gestione dei servizi IBM Cloud.
Gestione degli utenti: Si aggiungono utenti e gruppi di utenti e si gestiscono i ruoli e le autorizzazioni dei loro account con IBM Cloud Identity and Access Management. I ruoli vengono assegnati all'interno di ogni spazio di collaborazione nella piattaforma. Vedere Gestione degli utenti e degli accessi.
Archiviazione
Un'istanza del servizio IBM Cloud Object Storage viene fornita automaticamente per fornire l'archiviazione delle risorse create o aggiunte agli spazi di lavoro. Le informazioni archiviate in IBM Cloud Object Storage sono crittografate e resilienti. Ogni spazio di lavoro ha il proprio bucket dedicato. Consultare Memoria oggetti per le aree di lavoro.
Spazi di lavoro
Watsonx è organizzato come una serie di spazi di lavoro collaborativi in cui puoi lavorare con il tuo team o la tua organizzazione. Ogni workspace dispone di una serie di membri con ruoli che forniscono le autorizzazioni per eseguire azioni.
La maggior parte degli utenti lavora con gli asset, che sono elementi creati o aggiunti agli spazi di lavoro dagli utenti. Gli asset possono rappresentare dati, modelli o altri tipi di codice o informazioni. Gli asset di dati contengono metadati che rappresentano i dati. Gli asset creati negli strumenti, ad esempio i modelli, eseguono il codice per gestire i dati. È inoltre possibile creare asset che contengono informazioni su altri asset, come i casi di utilizzo del modello che contengono metadati, cronologia e report sui modelli. Vedere Proprietà e tipi di asset.
È possibile lavorare in questi tipi di spazi di lavoro in watsonx:
- Progetti
- Spazi di distribuzione
- Connessioni piattaforma
- Casi d'uso dell'AI
È possibile cercare gli asset in tutti gli spazi di lavoro a cui si appartiene.
Progetti
I progetti sono il luogo in cui i team di data science e di builder del modello lavorano con i dati per creare asset, come, ad esempio, prompt salvati, notebook, modelli o pipeline. Il primo progetto, noto come progetto sandbox, viene creato automaticamente quando ti registri a watsonx.ai. Consultare Il progetto sandbox.
La seguente immagine mostra l'aspetto della pagina Panoramica di un progetto.
Spazi di distribuzione
Gli spazi di distribuzione sono il luogo in cui il tuo team ModelOps distribuisce i modelli e altri asset distribuibili alla produzione e quindi verifica e gestisce le distribuzioni in produzione. Dopo aver creato modelli e asset distribuibili nei progetti, li si promuove agli spazi di distribuzione. Vedere Spazi di distribuzione.
La seguente immagine mostra come potrebbe essere la pagina Panoramica di uno spazio di distribuzione.
Connessioni piattaforma
Le connessioni della piattaforma sono una vista di Platform assets catalog che elenca gli asset di connessione. È possibile accedere alle connessioni della piattaforma in qualsiasi progetto o spazio di distribuzione.
La seguente immagine mostra l'aspetto della pagina Connessioni delle connessioni della piattaforma.
Casi d'uso dell'AI
I casi di utilizzo AI sono una vista del Platform assets catalog che elenca i casi di utilizzo del modello. I casi di utilizzo tengono traccia dei dettagli per gli asset AI nei factsheet.
La seguente immagine mostra come potrebbe essere la pagina Casi di utilizzo AI .
Hub di risorse
Watsonx include una raccolta integrata di esempi che fornisce modelli di base distribuiti, asset di dati, prompt, notebook e progetti di esempio. I notebook di esempio forniscono esempi di data science e codice di machine learning. I progetti di esempio contengono serie di dati, modelli, altri asset e istruzioni dettagliate su come risolvere un particolare problema di business.
La seguente immagine mostra l'aspetto dell'hub di risorse.
Guarda questo video per vedere un tour dell'hub di risorse.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.