Übersicht über IBM watsonx as a Service
IBM watsonx as a Service ist eine sichere und interaktive Umgebung, in der Sie auf vertrauenswürdige Daten Ihres Unternehmens zugreifen, KI-Prozesse automatisieren und KI in Ihren Anwendungen bereitstellen können. Die Komponente IBM watsonx.ai bietet ein Studio mit integrierten Tools für die Arbeit mit generativen KI-Funktionen, die auf Basismodellen basieren, und für die Erstellung von Modellen für maschinelles Lernen. Die Komponente IBM watsonx.governance stellt eine End-to-End-Überwachung für Modelle für maschinelles Lernen und generative KI-Modelle zur Beschleunigung verantwortungsvoller, transparenter und erklärbarer KI-Workflows bereit.
Mit watsonx.ai und watsonx.governance: können KI-Entwickler, Data-Scientists sowie Beauftragte für KI-Risiken und Compliance die folgenden Ziele erreichen:
Modelle für maschinelles Lernen erstellen Modelle mithilfe von Open-Source-Frameworks und codebasierten, automatisierten oder visuellen Data-Science-Tools erstellen.
Entwicklung mit Basismodellen Generieren Sie Eingabeaufforderungen zum Erstellen, Klassifizieren, Zusammenfassen oder Extrahieren von Inhalten aus Ihrem Eingabetext. Wählen Sie aus IBM Modellen oder Open-Source-Modellen von Hugging Face. Optimieren Sie Basismodelle, um Ihre Eingabeaufforderungsausgabe anzupassen.
Management des KI-Lebenszyklus Verwalten und automatisieren Sie den gesamten KI-Modelllebenszyklus mit allen integrierten Tools und Laufzeiten, um KI-Modelle zu trainieren, zu validieren und bereitzustellen.
KI regulieren Verfolgen Sie den detaillierten Verlauf von KI-Modellen und bewerten Sie die Modellausgabe, um die Compliance sicherzustellen.
Datenentwickler können Unternehmensdaten in einer Lakehouse-Architektur mit IBM watsonx.dataerfassen, speichern, abfragen und analysieren. Weitere Informationen finden Sie in der Dokumentation zuIBM watsonx.data.
Die folgende Abbildung zeigt die Funktionalität der Komponenten watsonx.ai und watsonx.governance zusätzlich zur allgemeinen Kernfunktionalität, die eine integrierte Funktionalität für den Benutzer bietet. Die Erfahrung mit watsonx.data ist separat und in der Grafik nicht dargestellt.
Watsonx.ai
Watsonx.ai enthält Tools für das Arbeiten mit Daten und Modellen, bereitgestellte Basismodelle für generative KI sowie die Hardware-und Softwareressourcen für Datenverarbeitung und Inferenzen.
Dieses kurze Video enthält eine Einführung in watsonx.ai.
Tools zum Vorbereiten von Daten und Arbeiten mit Modellen
Ihre watsonx.ai -Tools befinden sich in Arbeitsbereichen mit Onlinezusammenarbeit, die als Projekte bezeichnet werden.
Sie können die watsonx.ai -Tools wie folgt verwenden, um Daten vorzubereiten und mit Modellen zu arbeiten:
- Daten vorbereiten: Verfeinern und visualisieren Sie Ihre Datendateien oder Datentabellen in fernen Datenquellen oder generieren Sie synthetische Tabellendaten.
- Modelle für maschinelles Lernen erstellen: Automatisch Modellkandidaten generieren, Trainingsabläufe für das Modell für maschinelles Lernen erstellen oder Modelltrainingscode in Python oder R schreiben.
- Mit Basismodellen arbeiten: Experimentieren Sie mit generativen KI-Eingabeaufforderungen, optimieren Sie Basismodelle für Ihren Anwendungsfall oder schreiben Sie generativen KI-Lösungscode in Python.
- Modelllebenszyklen automatisieren: Erstellen Sie wiederholt anwendbare und geplante Abläufe, die Notebook, Data Refineryund Pipelines für maschinelles Lernen automatisieren.
Eine Liste der Tools, ihrer Automatisierungsstufen und ob Sie sie zum Vorbereiten von Daten oder Arbeiten mit Modellen verwenden können, finden Sie unter Daten analysieren und mit Modellen arbeiten. Informationen zu generativen KI-Tools finden Sie unter Generative AI-Lösungen entwickeln.
Bereitgestellte Basismodelle
IBM watsonx.ai verfügt über eine Reihe von implementierten großen Sprachmodellen für generative KI. Die bereitgestellten Basismodelle umfassen Open-Source-Modelle von Hugging Face und IBM -Basismodellen. Sie können das entsprechende Basismodell für Ihren Inferenzanwendungsfall auswählen. Sie können das Verhalten des Basismodells anpassen, indem Sie ein Basismodell optimieren.
Eine Liste der unterstützten Basismodelle, die in watsonx.aibereitgestellt werden, finden Sie unter Unterstützte Basismodelle.
Nutzungsressourcen für Datenverarbeitung und Inferenz
Abhängig von Ihren Serviceplänen verfügen Sie möglicherweise über eine festgelegte Menge an Nutzungsressourcen pro Monat oder Ihnen werden die Ressourcen in Rechnung gestellt, die Sie verbrauchen.
Wenn Sie Tools mit watsonx.aiausführen, verbrauchen Sie die folgenden Ressourcentypen:
- Rechenressourcennutzung
- Wenn Sie Jobs, Notebooks, Experimente zum Trainieren oder Optimieren von Modellen oder Bereitstellungen ausführen, wird die Nutzung Ihrer Rechenressourcen basierend auf der Rate für die Laufzeitumgebung und ihrer aktiven Dauer berechnet. Rechenressourcen umfassen die entsprechende Hardware und Software, die für die Workload spezifisch sind. Die Berechnungsnutzung wird in Kapazitätseinheitenstunden gemessen. Siehe Datenverarbeitungsressourcen für die Ausführung von Tools in Projekten auswählen.
- Inferenzverwendung
- Wenn Sie Inferenzen für Basismodelle ausführen, wird die Inferenznutzung als Summe der Token im Ein-und Ausgabetext der Eingabeaufforderung multipliziert mit der Rate für das Basismodell berechnet. Token sind grundlegende Texteinheiten. Die Inferenz wird in Ressourceneinheiten gemessen. Siehe Ressourceneinheitenmessung.
Watsonx.governance
Watsonx.governance enthält Tools für die Regulierung von Modellen und die Nutzungsressourcen für die Bewertung und Erläuterung von Modellen.
Die AI Governance-Funktionen unterscheiden sich je nach Bereitstellungsumgebung:
- Watsonx.governance An IBM Cloud bietet die meisten KI-Governance-Funktionen. Sie können die IBM OpenPages Dienst, um die Governance-Konsole zu aktivieren. Alle Lösungen sind verfügbar (Lizenzierung erforderlich).
- Watsonx.governance An Amazon Web Services ( AWS ) stellt der Governance-Konsole die Model Risk Governance-Lösung bereit.
Sehen Sie sich dieses kurze Video an, in dem watsonx.governancevorgestellt wird.
Tools für Governance-Modelle
Sie können watsonx.governance -Tools verwenden, um Modelle wie folgt zu regulieren:
Modelle überwachen und auswerten: Sie können Modellausgaben überwachen und Modellvorhersagen erklären. Ihre Überwachungs-und Auswertungstools für das Modell watsonx.governance befinden sich in Projekten und Bereitstellungsbereichen.
Verfolgung und Dokumentation von KI-Anwendungsfällen : Sie können den Lebenszyklusstatus des Modells, allgemeine Modell-und Bereitstellungsdetails, Trainingsinformationen und Metriken sowie Bereitstellungsmetriken anzeigen. Ihre watsonx.governance -Modellüberwachungstools in KI-Anwendungsfällen
Verwalten von Governance-Aktivitäten über die Governance-Konsole Optionale Integration mit dem watsonx Governance-Konsole von IBM OpenPages. Synchronisieren Sie Daten aus Factsheets mit der Governance-Konsole und erweitern Sie die Governance-Funktionen mit Workflows und anderen Compliance-Tools.
Nutzungsressourcen für Modellevaluierungen und Erläuterungen
Wenn Sie Modellevaluierungen und Erläuterungen mit watsonx.governanceausführen, verbrauchen Sie Ressourcen. Abhängig von Ihren Serviceplänen verfügen Sie möglicherweise über eine festgelegte Menge an Nutzungsressourcen pro Monat oder Ihnen werden die Ressourcen in Rechnung gestellt, die Sie verbrauchen. Die Ressourcennutzung wird basierend auf der Anzahl der Modellauswertungen und Erläuterungen berechnet. Auswertungen und Erklärungen werden in Ressourceneinheiten gemessen.
Allgemeine Kernfunktionalität
Watsonx umfasst die folgende Kernfunktionalität von IBM Cloud Pak for Data als sichere und skalierbare Grundlage für eine effiziente Zusammenarbeit in Ihrem Unternehmen:
- Konnektivität
- Verwaltung
- Speicher
- Arbeitsbereiche
- Ressourcenhub
Konnektivität
Sie können Verbindungen zu fernen Datenquellen erstellen und verbundene Daten importieren. Sie können Verbindungen mit persönlichen oder gemeinsam genutzten Berechtigungsnachweisen konfigurieren. Eine Liste der unterstützten Connectors finden Sie unter Connectors.
Sie können Verbindungen mit anderen auf der gesamten Plattform im Platform assets cataloggemeinsam nutzen.
Verwaltung
Die folgenden Verwaltungsfunktionen bieten Sicherheit und Flexibilität:
- Software und Hardware
Watsonx wird vollständig von IBM in IBM Cloudverwaltet. Softwareaktualisierungen werden automatisch durchgeführt. Die Skalierung von Nutzungsressourcen und Speicher erfolgt automatisch.
- Sicherheit, Compliance und Isolation
Datensicherheit, Netzsicherheit, Einhaltung von Sicherheitsstandards und Isolation von watsonx werden von IBM Cloudverwaltet. Die Daten werden im Ruhezustand und während der Übertragung verschlüsselt. Sie können zusätzliche Sicherheits- und Verschlüsselungsoptionen einrichten.
Ihre Arbeit an watsonx, einschließlich Ihrer Daten und der von Ihnen erstellten Modelle, ist für Ihr Konto privat. Auf Ihre Daten und Modelle kann IBM oder eine andere Person oder Organisation nie zugreifen oder sie verwenden.
Erfahren Sie mehr über Sicherheit und Ihre Optionen:
- Bereitstellung von Services
Watsonx.ai auf der Plattform watsonx umfasst die Services Watson Studio, Watson Machine Learningund IBM Cloud Object Storage . Watsonx.governance auf der Plattform watsonx umfasst den Service watsonx.governance .
Sie können Services, z. B. Datenquellenservices, aus dem Servicekatalog watsonx hinzufügen. Siehe IBM Cloud-Services erstellen und verwalten.
- Benutzermanagement
Sie fügen Benutzer und Benutzergruppen hinzu und verwalten die zugehörigen Kontorollen und -berechtigungen mit IBM Cloud Identity and Access Management. Sie weisen Rollen in jedem Arbeitsbereich mit Onlinezusammenarbeit plattformübergreifend zu. Siehe Benutzer und Zugriff verwalten.
Speicher
Eine IBM Cloud Object Storage -Serviceinstanz wird automatisch für Sie bereitgestellt, um Speicher für die Assets bereitzustellen, die Sie erstellen oder zu Arbeitsbereichen hinzufügen. Informationen, die in IBM Cloud Object Storage gespeichert sind, sind verschlüsselt und ausfallsicher. Jeder Arbeitsbereich hat ein eigenes dediziertes Bucket. Siehe Objektspeicher für Arbeitsbereiche.
Arbeitsbereiche
Watsonx ist als Gruppe von Arbeitsbereichen mit Onlinezusammenarbeit organisiert, in denen Sie mit Ihrem Team oder Ihrer Organisation arbeiten können. Jeder Arbeitsbereich hat eine Gruppe von Mitgliedern mit Rollen, die Berechtigungen zum Ausführen von Aktionen bereitstellen.
Die meisten Benutzer arbeiten mit Assets, bei denen es sich um Elemente handelt, die von Benutzern erstellt oder zu Arbeitsbereichen hinzugefügt werden. Assets können Daten, Modelle oder andere Typen von Code oder Informationen darstellen. Datenassets enthalten Metadaten, die Daten darstellen. Assets, die Sie in Tools wie Modellen erstellen, führen Code aus, um mit Daten zu arbeiten. Sie können auch Assets erstellen, die Informationen zu anderen Assets enthalten, z. B. Modellanwendungsfälle, die Metadaten, Protokolle und Berichte zu Modellen enthalten. Siehe Assettypen und Eigenschaften.
Sie können in den folgenden Typen von Arbeitsbereichen in watsonxarbeiten:
- Projekte
- Einsatzbereiche
- Plattformverbindungen
- KI-Anwendungsfälle
Sie können in allen Arbeitsbereichen, zu denen Sie gehören, nach Assets suchen.
Projekte
In Projekten arbeiten Ihre Data-Science-und Model Builder-Teams mit Daten, um Assets zu erstellen, z. B. gespeicherte Eingabeaufforderungen, Notebooks, Modelle oder Pipelines. Ihr erstes Projekt, das als Sandboxprojekt bezeichnet wird, wird automatisch erstellt, wenn Sie sich für watsonx.airegistrieren. Siehe Ihr Sandbox-Projekt.
Die folgende Abbildung zeigt, wie die Seite Übersicht eines Projekts aussehen könnte.
Einsatzbereiche
Bereitstellungsbereiche sind Bereiche, in denen Ihr ModelOps -Team Modelle und andere bereitstellbare Assets in der Produktion bereitstellt und dann Bereitstellungen in der Produktion testet und verwaltet. Nachdem Sie Modelle und implementierbare Assets in Projekten erstellt haben, stufen Sie sie in Bereitstellungsbereiche hoch. Weitere Informationen finden Sie unter Bereitstellungsbereiche.
Die folgende Abbildung zeigt, wie die Seite Übersicht eines Bereitstellungsbereichs aussehen könnte.
Plattformverbindungen
"Plattformverbindungen" ist eine Ansicht des Platform assets catalog , in dem Verbindungsassets aufgelistet werden. Sie können in jedem Projekt oder Bereitstellungsbereich auf Plattformverbindungen zugreifen.
Die folgende Abbildung zeigt, wie die Seite Verbindungen der Plattformverbindungen aussehen könnte.
KI-Anwendungsfälle
KI-Anwendungsfälle sind eine Ansicht des Platform assets catalog , in dem Modellanwendungsfälle aufgelistet werden. Anwendungsfälle verfolgen die Details für KI-Assets in Factsheets.
Die folgende Abbildung zeigt, wie die Seite AI-Anwendungsfälle aussehen könnte.
Ressourcenhub
Watsonx enthält eine integrierte Sammlung von Beispielen, die bereitgestellte Basismodelle, Datenassets, Eingabeaufforderungen, Notebooks und Beispielprojekte bereitstellt. Beispielnotebooks enthalten Beispiele mit Code für Data-Science und maschinelles Lernen. Beispielprojekte enthalten Datensätze, Modelle, andere Assets und detaillierte Anweisungen zur Lösung eines bestimmten Geschäftsproblems.
Die folgende Abbildung zeigt, wie der Ressourcenhub aussieht.
Sehen Sie sich dieses Video an, um eine Tour durch den Ressourcenhub zu sehen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.