Panoramica dell'esperienza watsonx
L'esperienza watsonx è un ambiente sicuro e collaborativo in cui è possibile accedere ai dati affidabili dell'organizzazione, automatizzare i processi di IA e inserire l'IA nelle applicazioni. I servizi di IBM watsonx.ai forniscono uno studio di strumenti integrati per la creazione di soluzioni di IA generativa e di apprendimento automatico. Il servizio IBM watsonx.governance fornisce un monitoraggio end-to-end delle soluzioni di IA per accelerare flussi di lavoro di IA responsabili, trasparenti e spiegabili.
Gli ingegneri AI, i data scientist e i responsabili della conformità e dei rischi AI possono raggiungere i seguenti obiettivi con watsonx.ai e watsonx.governance: :
- Costruire soluzioni di intelligenza artificiale generativa
- Costruire soluzioni che includano prompt, agenti, modelli di generazione aumentata di recupero (RAG) e altre funzionalità dei modelli di fondazione. Scegliete tra i modelli di IBM, i modelli di terze parti, i modelli open source o importate modelli di fondazione personalizzati. Ottimizza i modelli di base per personalizzare l'output del prompt.
- Costruire soluzioni di apprendimento automatico
- Costruire modelli con framework open source e strumenti di data science basati su codice, automatizzati o visivi. Gestite e automatizzate il ciclo di vita del modello con strumenti e runtime integrati per addestrare, convalidare e distribuire modelli di apprendimento automatico.
- Governare l'intelligenza artificiale
- Tracciare la storia dettagliata dei modelli di intelligenza artificiale, valutare i rischi e i risultati dei modelli per garantire la conformità.
Architettura della piattaforma
L'esperienza watsonx fa parte della piattaforma IBM watsonx. La piattaforma IBM watsonx offre molteplici esperienze integrate che condividono servizi e spazi di lavoro. Le esperienze a cui è possibile accedere dipendono dai servizi watsonx forniti nell'account del cloud provider. Un'esperienza fornisce un accesso mirato agli strumenti per compiti specifici. La piattaforma IBM watsonx è disponibile su IBM Cloud e AWS. Tuttavia, non tutte le esperienze sono attualmente disponibili su AWS.
La piattaforma IBM watsonx comprende queste esperienze integrate:
- watsonx che contiene i servizi watsonx.ai Studio, watsonx.ai Runtime e watsonx.governance per la creazione e la gestione di soluzioni di intelligenza artificiale.
- Data Fabric, che contiene il servizio watsonx.data intelligence per la preparazione e la condivisione di prodotti di dati affidabili e di alta qualità.
- watsonx.data Premium, che contiene i servizi watsonx.data, watsonx.ai Studio, watsonx.ai Runtime e watsonx.data intelligence per la trasformazione dei dati non strutturati per l'IA.
I progetti sono condivisi tra le esperienze, in modo che gli utenti con compiti diversi possano lavorare insieme. È possibile passare da un'esperienza all'altra per lavorare con strumenti diversi. Gli utenti che collaborano allo stesso progetto possono lavorare in esperienze diverse. Ad esempio, supponiamo che un ingegnere dei dati e un ingegnere dell'intelligenza artificiale collaborino allo stesso progetto. L'ingegnere dei dati, che lavora nell'esperienza di Data Fabric, prepara un asset di dati. L'ingegnere AI, che lavora nell'esperienza di watsonx, utilizza l'asset di dati per addestrare un modello. Vedere Passaggio da un'esperienza all'altra.
La seguente illustrazione mostra l'architettura delle esperienze integrate sulla piattaforma IBM Cloud, i servizi e le capacità di ciascuna esperienza e le funzionalità condivise. L'architettura è simile a quella della piattaforma AWS, ad eccezione del fatto che watsonx.data Premium non è disponibile.
L'esperienza Cloud Pak for Data as a Service contiene molti degli stessi servizi delle altre esperienze, ma senza l'IA generativa o le capacità di elaborazione dei dati non strutturati. I progetti non sono condivisi, ma è possibile passare un progetto da Cloud Pak for Data as a Service all'esperienza watsonx.
Watsonx.ai
Watsonx.ai comprende API e strumenti per la creazione di soluzioni di IA, modelli di base per l'IA generativa e risorse hardware e software per il calcolo e l'inferenza.
Guardate questo breve video che introduce watsonx.ai su IBM Cloud.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Come preparare i dati e costruire soluzioni di IA
Per la maggior parte dei compiti, è possibile scegliere tra la scrittura di codice e l'utilizzo degli strumenti dell'interfaccia utente. Gli strumenti watsonx.ai si trovano in aree di lavoro collaborative denominate progetti.
È possibile preparare i dati e costruire soluzioni di intelligenza artificiale nei seguenti modi:
- Prepara i dati per l'AI
- Raffinate e visualizzate i vostri file di dati o le tabelle di dati in fonti di dati remote con Data Refinery.
- Generare dati sintetici strutturati per l'addestramento di modelli di apprendimento automatico con Synthetic Data Generator.
- Generate dati sintetici non strutturati per mettere a punto i modelli di base o testare soluzioni di intelligenza artificiale con l'API di generazione di dati sintetici.
- Vettorializzate i dati non strutturati per individuare i modelli RAG con gli indici vettoriali.
- Vedere Preparazione dei dati.
- Costruire soluzioni di intelligenza artificiale generativa
- Scrivere codice per soluzioni di IA generativa con gli SDK Python, le API REST o Node.js.
- Sperimentate i suggerimenti dell'IA generativa nel sito Prompt Lab.
- Automatizzare i modelli RAG con AutoAI.
- Ottimizzate i modelli di fondazione per il vostro caso d'uso con Tuning Studio.
- Costruire agenti di intelligenza artificiale con Agent Lab.
- Vedere Sviluppo di soluzioni di IA generativa.
- Crea modelli di machine learning
- Generare automaticamente candidati modelli predittivi con AutoAI.
- Creare flussi di formazione di modelli di apprendimento automatico con SPSS Modeler.
- Scrivere taccuini Jupyter per addestrare modelli in Python o R.
- Risolvere problemi di ottimizzazione con Decision Optimization.
- Automatizzate il ciclo di vita dell'apprendimento automatico con le pipeline di orchestrazione.
- Vedere le soluzioni per la scienza dei dati.
Modelli di base distribuiti
IBM watsonx.ai ha una gamma di modelli di linguaggio di grandi dimensioni distribuiti per l'intelligenza artificiale generativa. I modelli di fondazione distribuiti includono modelli open source e modelli di fondazione IBM. È anche possibile distribuire i propri modelli di fondazione personalizzati o distribuire un modello on-demand. È possibile personalizzare il comportamento del modello di fondazione mettendo a punto un modello di fondazione.
Per un elenco di modelli di base supportati distribuiti in watsonx.ai, vedi Modelli di base supportati.
Risorse d'uso
A seconda dei tuoi piani di servizio, potresti avere una quantità impostata di risorse di utilizzo al mese o potresti essere addebitato per le risorse che utilizzi.
Quando si eseguono strumenti o modelli host su watsonx.ai, si consumano i seguenti tipi di risorse:
- Calcola utilizzo
- Quando si eseguono lavori, notebook, esperimenti per l'addestramento o la messa a punto di modelli o distribuzioni, l'utilizzo delle risorse di calcolo viene calcolato in base alla frequenza dell'ambiente di esecuzione e alla sua durata attiva. Le risorse di calcolo includono l'hardware e il software appropriati specifici per il carico di lavoro. L'utilizzo del calcolo viene misurato in ore unità di capacità.
- Uso dell'inferenza
- Quando si esegue l'inferenza con i modelli di base, l'utilizzo dell'inferenza viene calcolato come la somma dei token nel testo di input e di output del prompt moltiplicata per il tasso del modello di base. I token sono unità di base di testo. L'inferenza viene misurata in unità di risorse.
- Modello di hosting
- Quando si distribuisce un modello di fondazione personalizzato o un modello di fondazione deploy-on-demand, viene addebitata una tariffa oraria. Le tariffe di fatturazione dipendono dalla configurazione hardware del modello e si applicano per l'hosting e l'inferenza del modello. L'addebito inizia quando il modello viene distribuito con successo e continua finché il modello non viene cancellato.
- text extraction
- Quando si utilizza l'estrazione del testo per convertire i file di documenti in un formato di file JSON compatibile con il modello AI, il costo viene addebitato per pagina.
Per saperne di più su utilizzo e fatturazione:
Watsonx.governance
Watsonx.governance include strumenti per governare i modelli e le risorse di utilizzo per valutare e spiegare i modelli.
Le funzionalità di governance dell'intelligenza artificiale variano a seconda dell'ambiente di distribuzione:
- Watsonx.governance SU IBM Cloud fornisce la maggior parte delle funzionalità di governance dell'IA. Puoi integrare il IBM OpenPages servizio per abilitare la console di governance. Tutte le soluzioni sono disponibili (è richiesta la licenza).
- Watsonx.governance SU Amazon Web Services ( AWS ) fornisce alla console di governance la soluzione Model Risk Governance.
Guarda questo breve video che introduce watsonx.governance.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Modi di governare l'IA
È possibile utilizzare le API e gli strumenti di watsonx.governance per governare l'IA nei seguenti modi:
- Monitorare e valutare le risorse di IA
- Monitorare l'output del modello di apprendimento automatico e spiegare le previsioni del modello.
- Valutare e confrontare i suggerimenti dell'IA generativa.
- Gli strumenti di monitoraggio e valutazione del modello watsonx.governance sono nei progetti e negli spazi di implementazione.
- Vedere Valutazione delle risorse di IA.
- Tracciare e documentare i casi d'uso dell'intelligenza artificiale
- Visualizzazione dello stato del ciclo di vita del modello, dei dettagli generali del modello e dell'implementazione, delle informazioni e delle metriche di formazione e delle metriche di implementazione con i casi d'uso dell'intelligenza artificiale.
- Vedere Gestione degli asset nei casi d'uso dell'IA.
- Gestire l'attività di governance
- Sincronizzare i dati delle schede informative con la console di governance.
- Estendete le funzionalità di governance con i flussi di lavoro e altri strumenti di conformità con la console di governance.
- È necessario integrarsi con la console di governance watsonx da IBM OpenPages.
- Vedere Gestione del rischio e della conformità con Governance console.
Risorse d'uso
Quando si eseguono le valutazioni e spiegazioni del modello con watsonx.governance, si utilizzano le risorse. A seconda dei tuoi piani di servizio, potresti avere una quantità impostata di risorse di utilizzo al mese o potresti essere addebitato per le risorse che utilizzi. L'utilizzo delle risorse viene calcolato in base al numero di valutazioni e spiegazioni del modello. Le valutazioni e le spiegazioni vengono misurate in unità di risorse.
Funzionalità condivisa
Watsonx comprende le seguenti funzionalità condivise tra servizi ed esperienze per una collaborazione sicura e scalabile:
- Connettività
- Amministrazione
- Archiviazione
- Spazi di lavoro
- Hub di risorse
Connettività
È possibile creare connessioni alle origini dati remote e importare dati connessi. È possibile configurare le connessioni con credenziali personali o condivise. Per un elenco dei connettori supportati, consultare Connettori.
Puoi condividere le connessioni con altri utenti nella piattaforma nel Platform assets catalog.
Amministrazione
Le seguenti funzioni di amministrazione forniscono sicurezza e flessibilità:
- Software e hardware
Watsonx è completamente gestito dal vostro provider cloud. Gli aggiornamenti software sono automatici. La scalabilità delle risorse di utilizzo e dell'archiviazione è automatica.
- Sicurezza, conformità e isolamento
La sicurezza dei dati, la sicurezza della rete, la conformità agli standard di sicurezza e l'isolamento di watsonx sono gestiti dal vostro provider cloud. I dati sono crittografati a riposo e in movimento. È possibile impostare ulteriori opzioni di sicurezza e crittografia.
Il tuo lavoro su watsonx, inclusi i dati e i modelli che crei, è privato del tuo account. I tuoi dati e modelli non saranno mai accessibili o utilizzati da IBM o da altre persone o organizzazioni.
Ulteriori informazioni sulla sicurezza e le opzioni:
- Gestione degli utenti
Con IBM Cloud Identity and Access Management si aggiungono utenti e gruppi di utenti e si gestiscono i ruoli e i permessi degli account IBM Cloud. I ruoli vengono assegnati all'interno di ogni spazio di collaborazione nella piattaforma. Vedere Gestione degli utenti e degli accessi.
Per gli utenti su AWS, è possibile gestire gli account utente tramite la IBM SaaS Console. Per ulteriori informazioni, vedere Gestione dell'accesso alla console.
Stoccaggio su IBM Cloud
Quando ci si iscrive a un'esperienza watsonx, viene automaticamente fornita un'istanza del servizio IBM Cloud Object Storage per l'archiviazione delle risorse create o aggiunte agli spazi di lavoro. L'istanza del servizio IBM Cloud Object Storage è condivisa tra le varie esperienze. Le informazioni memorizzate in IBM Cloud Object Storage sono crittografate e resilienti. Ogni spazio di lavoro ha il proprio bucket dedicato. Consultare Memoria oggetti per le aree di lavoro.
Stoccaggio su AWS
Quando si utilizza watsonx su AWS, i dati vengono memorizzati nella memoria di Amazon S3. È necessario delegare l'accesso per stabilire la fiducia tra l'account AWS e l'account IBM AWS per poter accedere all'archivio S3. Per ulteriori informazioni, vedere Delegare l'accesso stabilendo la fiducia tra l'account AWS e l'account IBM AWS.
Spazi di lavoro
L'esperienza di watsonx è organizzata come un insieme di spazi di lavoro collaborativi dove è possibile lavorare con il proprio team o la propria organizzazione. Ogni workspace dispone di una serie di membri con ruoli che forniscono le autorizzazioni per eseguire azioni.
La maggior parte degli utenti lavora con gli asset, che sono elementi creati o aggiunti agli spazi di lavoro dagli utenti. Gli asset possono rappresentare dati, modelli o altri tipi di codice o informazioni. Gli asset di dati contengono metadati che rappresentano i dati. Gli asset creati negli strumenti, ad esempio i modelli, eseguono il codice per gestire i dati. È inoltre possibile creare asset che contengono informazioni su altri asset, come i casi di utilizzo del modello che contengono metadati, cronologia e report sui modelli. Vedere Proprietà e tipi di asset.
È possibile lavorare in questi tipi di spazi di lavoro nell'esperienza di watsonx :
- Progetti
- Spazi di distribuzione
- Connessioni piattaforma
- Inventari
È possibile cercare gli asset in tutti gli spazi di lavoro a cui si appartiene.
Progetti
I progetti sono il luogo in cui i team di data science e di builder del modello lavorano con i dati per creare asset, come, ad esempio, prompt salvati, notebook, modelli o pipeline. Il primo progetto, noto come progetto sandbox, viene creato automaticamente quando ti registri a watsonx.ai. Consultare Il progetto sandbox.
I vostri progetti sono condivisi in tutte le esperienze integrate. Tuttavia, è possibile visualizzare ed eseguire solo gli asset validi nell'esperienza corrente. Ad esempio, nell'esperienza di watsonx, non è possibile arricchire i metadati di un asset di dati.
La seguente immagine mostra l'aspetto della pagina Panoramica di un progetto.
Spazi di distribuzione
Gli spazi di distribuzione sono il luogo in cui il tuo team ModelOps distribuisce i modelli e altri asset distribuibili alla produzione e quindi verifica e gestisce le distribuzioni in produzione. Dopo aver creato modelli e asset distribuibili nei progetti, li si promuove agli spazi di distribuzione. Vedere Spazi di distribuzione.
La seguente immagine mostra come potrebbe essere la pagina Panoramica di uno spazio di distribuzione.
Connessioni piattaforma
Le connessioni della piattaforma sono una vista di Platform assets catalog che elenca gli asset di connessione. È possibile accedere alle connessioni della piattaforma in qualsiasi progetto o spazio di distribuzione. Il sito Platform assets catalog è condiviso attraverso esperienze integrate.
La seguente immagine mostra l'aspetto della pagina Connessioni delle connessioni della piattaforma.
Inventari
Gli inventari memorizzano i casi d'uso dell'IA. I casi di utilizzo tengono traccia dei dettagli per gli asset AI nei factsheet. Puoi anche visualizzare tutti i casi d'uso dell'IA in tutti gli inventari.
La seguente immagine mostra come potrebbe essere la pagina Casi di utilizzo AI .
Hub di risorse
Watsonx include una raccolta integrata di esempi che fornisce modelli di base distribuiti, asset di dati, prompt, notebook e progetti di esempio. I notebook di esempio forniscono esempi di data science e codice di machine learning. I progetti di esempio contengono serie di dati, modelli, altri asset e istruzioni dettagliate su come risolvere un particolare problema di business.
La seguente immagine mostra l'aspetto dell'hub di risorse.
Guarda questo video per vedere un tour dell'hub di risorse.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.