IBM watsonx as a Service ist eine sichere und interaktive Umgebung, in der Sie auf vertrauenswürdige Daten Ihres Unternehmens zugreifen, KI-Prozesse automatisieren und KI in Ihren Anwendungen bereitstellen können. Die IBM watsonx.ai Komponente bietet ein Studio mit integrierten Tools für die Erstellung von generativen KI-Lösungen, die auf Basis von Basismodellen und für die Erstellung von Machine-Learning-Modellen betrieben werden. Die Komponente IBM watsonx.governance stellt eine End-to-End-Überwachung für Modelle für maschinelles Lernen und generative KI-Modelle zur Beschleunigung verantwortungsvoller, transparenter und erklärbarer KI-Workflows bereit.
Mit watsonx.ai und watsonx.governance: können KI-Entwickler, Data-Scientists sowie Beauftragte für KI-Risiken und Compliance die folgenden Ziele erreichen:
Erstellen Sie Modelle für maschinelles Lernen: Erstellen Sie Modelle mithilfe von Open-Source-Frameworks und codebasierten, automatisierten oder visuellen Data-Science-Tools.
Entwickeln Sie mit Basismodellen: Generieren Sie Aufforderungen zum Erstellen, Klassifizieren, Zusammenfassen oder Extrahieren von Inhalten aus Ihrem Eingabetext. Wählen Sie aus IBM Modellen oder Open-Source-Modellen von Hugging Face. Optimieren Sie Basismodelle, um Ihre Eingabeaufforderungsausgabe anzupassen.
Verwalten Sie den KI-Lebenszyklus: Verwalten und automatisieren Sie den gesamten Lebenszyklus von KI-Modellen mit allen integrierten Tools und Laufzeiten zum Trainieren, Validieren und Bereitstellen von KI-Modellen.
Verwaltung von KI: Verfolgen Sie den detaillierten Verlauf von KI-Modellen und bewerten Sie die Modellausgabe, um die Einhaltung von Vorschriften zu gewährleisten.
Datenentwickler können Unternehmensdaten in einer Lakehouse-Architektur mit IBM watsonx.dataerfassen, speichern, abfragen und analysieren. Siehe IBM watsonx.data.
Die folgende Abbildung zeigt die Funktionalität der Komponenten watsonx.ai und watsonx.governance zusätzlich zur allgemeinen Kernfunktionalität, die eine integrierte Funktionalität für den Benutzer bietet. Die Erfahrung mit watsonx.data ist separat und in der Grafik nicht dargestellt.
Watsonx.ai
Watsonx.ai enthält Tools für das Arbeiten mit Daten und Modellen, bereitgestellte Basismodelle für generative KI sowie die Hardware-und Softwareressourcen für Datenverarbeitung und Inferenzen.
Dieses kurze Video enthält eine Einführung in watsonx.ai.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Tools zum Vorbereiten von Daten und Arbeiten mit Modellen
Ihre watsonx.ai -Tools befinden sich in Arbeitsbereichen mit Onlinezusammenarbeit, die als Projekte bezeichnet werden.
Sie können die watsonx.ai -Tools wie folgt verwenden, um Daten vorzubereiten und mit Modellen zu arbeiten:
Daten vorbereiten: Verfeinern und visualisieren Sie Ihre Datendateien oder Datentabellen in fernen Datenquellen oder generieren Sie synthetische Tabellendaten.
Modelle für maschinelles Lernen erstellen: Automatisch Modellkandidaten generieren, Trainingsabläufe für das Modell für maschinelles Lernen erstellen oder Modelltrainingscode in Python oder R schreiben.
Mit Basismodellen arbeiten: Experimentieren Sie mit generativen KI-Eingabeaufforderungen, optimieren Sie Basismodelle für Ihren Anwendungsfall oder schreiben Sie generativen KI-Lösungscode in Python.
Modelllebenszyklen automatisieren: Erstellen Sie wiederholt anwendbare und geplante Abläufe, die Notebook, Data Refineryund Pipelines für maschinelles Lernen automatisieren.
Eine Liste der Tools, ihrer Automatisierungsstufen und ob Sie sie zum Vorbereiten von Daten oder Arbeiten mit Modellen verwenden können, finden Sie unter Daten analysieren und mit Modellen arbeiten. Informationen zu generativen KI-Tools finden Sie unter Generative AI-Lösungen entwickeln.
Bereitgestellte Basismodelle
IBM watsonx.ai verfügt über eine Reihe von implementierten großen Sprachmodellen für generative KI. Zu den eingesetzten Basismodellen gehören Open-Source-Modelle und IBM-Basismodelle. Sie können auch Ihre eigenen benutzerdefinierten Basismodelle einsetzen. Sie können das Verhalten des foundation model anpassen, indem Sie ein foundation model abstimmen.
Eine Liste der unterstützten Basismodelle, die in watsonx.aibereitgestellt werden, finden Sie unter Unterstützte Basismodelle.
Ressourcen für die Nutzung
Abhängig von Ihren Serviceplänen verfügen Sie möglicherweise über eine festgelegte Menge an Nutzungsressourcen pro Monat oder Ihnen werden die Ressourcen in Rechnung gestellt, die Sie verbrauchen.
Wenn Sie Werkzeuge oder Hostmodelle auf watsonx.ai ausführen, verbrauchen Sie die folgenden Arten von Ressourcen:
Computernutzung: Wenn Sie Aufträge, Notebooks, Experimente zum Trainieren oder Abstimmen von Modellen oder Bereitstellungen ausführen, wird die Nutzung der Rechenressourcen auf der Grundlage der Rate für die Laufzeitumgebung und der aktiven Dauer berechnet. Rechenressourcen umfassen die entsprechende Hardware und Software, die für die Workload spezifisch sind. Die Berechnungsnutzung wird in Kapazitätseinheitenstunden gemessen. Siehe Auswahl von Rechenressourcen für die Ausführung von Tools in Projekten.
Inferenznutzung: Wenn Sie das Inferencing gegen ein Basismodell laufen lassen, wird Ihr Inferencing-Verbrauch als die Summe der Token im Eingabe- und Ausgabetext der Eingabeaufforderung multipliziert mit der Rate für das foundation model berechnet. Token sind grundlegende Texteinheiten. Die Inferenz wird in Ressourceneinheiten gemessen. Siehe Zählung der Ressourceneinheiten.
Modell-Hosting: Wenn Sie ein benutzerdefiniertes foundation model bereitstellen, wird Ihnen ein Stundensatz berechnet. Die Gebührensätze richten sich nach der Hardwarekonfiguration des Modells und gelten für das Hosting und die Inferenz des Modells. Die Gebühren beginnen, wenn das Modell erfolgreich eingesetzt wird, und laufen weiter, bis das Modell gelöscht wird. Siehe Stundensätze für individuelle Stiftungsmodelle.
Textextraktion: Wenn Sie die Textextraktion verwenden, um Dokumentdateien in ein AI-Modell-freundliches JSON-Dateiformat zu konvertieren, werden Sie pro Seite berechnet. Siehe Gebührensätze für die Extraktion von Dokumententext.
Watsonx.governance
Watsonx.governance enthält Tools für die Regulierung von Modellen und die Nutzungsressourcen für die Bewertung und Erläuterung von Modellen.
Die AI Governance-Funktionen unterscheiden sich je nach Bereitstellungsumgebung:
- Watsonx.governance An IBM Cloud bietet die meisten KI-Governance-Funktionen. Sie können die IBM OpenPages Dienst, um die Governance-Konsole zu aktivieren. Alle Lösungen sind verfügbar (Lizenzierung erforderlich).
- Watsonx.governance An Amazon Web Services ( AWS ) stellt der Governance-Konsole die Model Risk Governance-Lösung bereit.
Sehen Sie sich dieses kurze Video an, in dem watsonx.governancevorgestellt wird.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Tools für Governance-Modelle
Sie können watsonx.governance -Tools verwenden, um Modelle wie folgt zu regulieren:
Modelle überwachen und auswerten: Sie können Modellausgaben überwachen und Modellvorhersagen erklären. Ihre Überwachungs-und Auswertungstools für das Modell watsonx.governance befinden sich in Projekten und Bereitstellungsbereichen.
Verfolgung und Dokumentation von KI-Anwendungsfällen : Sie können den Lebenszyklusstatus des Modells, allgemeine Modell-und Bereitstellungsdetails, Trainingsinformationen und Metriken sowie Bereitstellungsmetriken anzeigen. Ihre watsonx.governance -Modellüberwachungstools in KI-Anwendungsfällen
Verwalten von Governance-Aktivitäten über die Governance-Konsole Optionale Integration mit dem watsonx Governance-Konsole von IBM OpenPages. Synchronisieren Sie Daten aus Factsheets mit der Governance-Konsole und erweitern Sie die Governance-Funktionen mit Workflows und anderen Compliance-Tools.
Ressourcen für die Nutzung
Wenn Sie Modellevaluierungen und Erläuterungen mit watsonx.governanceausführen, verbrauchen Sie Ressourcen. Abhängig von Ihren Serviceplänen verfügen Sie möglicherweise über eine festgelegte Menge an Nutzungsressourcen pro Monat oder Ihnen werden die Ressourcen in Rechnung gestellt, die Sie verbrauchen. Die Ressourcennutzung wird basierend auf der Anzahl der Modellauswertungen und Erläuterungen berechnet. Auswertungen und Erklärungen werden in Ressourceneinheiten gemessen.
Allgemeine Kernfunktionalität
Watsonx umfasst die folgenden Kernfunktionen von IBM Cloud Pak for Data als sichere und skalierbare Grundlage für eine effiziente Zusammenarbeit in Ihrem Unternehmen:
- Konnektivität
- Verwaltung
- Speicher
- Arbeitsbereiche
- Ressourcenhub
Konnektivität
Sie können Verbindungen zu fernen Datenquellen erstellen und verbundene Daten importieren. Sie können Verbindungen mit persönlichen oder gemeinsam genutzten Berechtigungsnachweisen konfigurieren. Eine Liste der unterstützten Connectors finden Sie unter Connectors.
Sie können Verbindungen mit anderen auf der gesamten Plattform im Platform assets cataloggemeinsam nutzen.
Verwaltung
Die folgenden Verwaltungsfunktionen bieten Sicherheit und Flexibilität:
Software und Hardware: Watsonx wird vollständig von IBM in der IBM Cloud verwaltet. Softwareaktualisierungen werden automatisch durchgeführt. Die Skalierung von Nutzungsressourcen und Speicher erfolgt automatisch.
Sicherheit, Compliance und Isolierung: Die Datensicherheit, Netzwerksicherheit, Einhaltung von Sicherheitsstandards und Isolierung von watsonx werden von IBM Cloud verwaltet. Die Daten werden im Ruhezustand und während der Übertragung verschlüsselt. Sie können zusätzliche Sicherheits- und Verschlüsselungsoptionen einrichten.
Ihre Arbeit an watsonx, einschließlich Ihrer Daten und der von Ihnen erstellten Modelle, ist für Ihr Konto privat. Auf Ihre Daten und Modelle kann IBM oder eine andere Person oder Organisation nie zugreifen oder sie verwenden.
Erfahren Sie mehr über Sicherheit und Ihre Optionen:
Bereitstellung von Diensten: Watsonx.ai auf der watsonx umfasst die Services watsonx.ai Studio, watsonx.ai Runtime und IBM Cloud Object Storage. Watsonx.governance auf der watsonx umfasst den Dienst watsonx.governance.
Sie können Services, z. B. Datenquellenservices, aus dem Servicekatalog watsonx hinzufügen. Siehe IBM Cloud-Services erstellen und verwalten.
Benutzerverwaltung: Sie fügen Benutzer und Benutzergruppen hinzu und verwalten ihre Kontorollen und Berechtigungen mit IBM Cloud Identity and Access Management. Sie weisen Rollen in jedem Arbeitsbereich mit Onlinezusammenarbeit plattformübergreifend zu. Siehe Benutzer und Zugriff verwalten.
Speicher
Eine IBM Cloud Object Storage Service-Instanz wird automatisch für Sie bereitgestellt, um Speicher für die Assets zu bieten, die Sie erstellen oder zu Arbeitsbereichen hinzufügen. Informationen, die in IBM Cloud Object Storage gespeichert werden, sind verschlüsselt und widerstandsfähig. Jeder Arbeitsbereich hat ein eigenes dediziertes Bucket. Siehe Objektspeicher für Arbeitsbereiche.
Arbeitsbereiche
Watsonx ist als Gruppe von Arbeitsbereichen mit Onlinezusammenarbeit organisiert, in denen Sie mit Ihrem Team oder Ihrer Organisation arbeiten können. Jeder Arbeitsbereich hat eine Gruppe von Mitgliedern mit Rollen, die Berechtigungen zum Ausführen von Aktionen bereitstellen.
Die meisten Benutzer arbeiten mit Assets, bei denen es sich um Elemente handelt, die von Benutzern erstellt oder zu Arbeitsbereichen hinzugefügt werden. Assets können Daten, Modelle oder andere Typen von Code oder Informationen darstellen. Datenassets enthalten Metadaten, die Daten darstellen. Assets, die Sie in Tools wie Modellen erstellen, führen Code aus, um mit Daten zu arbeiten. Sie können auch Assets erstellen, die Informationen zu anderen Assets enthalten, z. B. Modellanwendungsfälle, die Metadaten, Protokolle und Berichte zu Modellen enthalten. Siehe Assettypen und Eigenschaften.
Sie können in den folgenden Typen von Arbeitsbereichen in watsonxarbeiten:
- Projekte
- Einsatzbereiche
- Plattformverbindungen
- KI-Anwendungsfälle
Sie können in allen Arbeitsbereichen, zu denen Sie gehören, nach Assets suchen.
Projekte
In Projekten arbeiten Ihre Data-Science-und Model Builder-Teams mit Daten, um Assets zu erstellen, z. B. gespeicherte Eingabeaufforderungen, Notebooks, Modelle oder Pipelines. Ihr erstes Projekt, das als Sandboxprojekt bezeichnet wird, wird automatisch erstellt, wenn Sie sich für watsonx.airegistrieren. Siehe Ihr Sandbox-Projekt.
Die folgende Abbildung zeigt, wie die Seite Übersicht eines Projekts aussehen könnte.
Einsatzbereiche
Bereitstellungsbereiche sind Bereiche, in denen Ihr ModelOps -Team Modelle und andere bereitstellbare Assets in der Produktion bereitstellt und dann Bereitstellungen in der Produktion testet und verwaltet. Nachdem Sie Modelle und implementierbare Assets in Projekten erstellt haben, stufen Sie sie in Bereitstellungsbereiche hoch. Weitere Informationen finden Sie unter Bereitstellungsbereiche.
Die folgende Abbildung zeigt, wie die Seite Übersicht eines Bereitstellungsbereichs aussehen könnte.
Plattformverbindungen
"Plattformverbindungen" ist eine Ansicht des Platform assets catalog , in dem Verbindungsassets aufgelistet werden. Sie können in jedem Projekt oder Bereitstellungsbereich auf Plattformverbindungen zugreifen.
Die folgende Abbildung zeigt, wie die Seite Verbindungen der Plattformverbindungen aussehen könnte.
KI-Anwendungsfälle
KI-Anwendungsfälle sind eine Ansicht des Platform assets catalog , in dem Modellanwendungsfälle aufgelistet werden. Anwendungsfälle verfolgen die Details für KI-Assets in Factsheets.
Die folgende Abbildung zeigt, wie die Seite AI-Anwendungsfälle aussehen könnte.
Ressourcenhub
Watsonx enthält eine integrierte Sammlung von Beispielen, die bereitgestellte Basismodelle, Datenassets, Eingabeaufforderungen, Notebooks und Beispielprojekte bereitstellt. Beispielnotebooks enthalten Beispiele mit Code für Data-Science und maschinelles Lernen. Beispielprojekte enthalten Datensätze, Modelle, andere Assets und detaillierte Anweisungen zur Lösung eines bestimmten Geschäftsproblems.
Die folgende Abbildung zeigt, wie der Ressourcenhub aussieht.
Sehen Sie sich dieses Video an, um eine Tour durch den Ressourcenhub zu sehen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.