0 / 0
Zurück zur englischen Version der Dokumentation
Übersicht über IBM watsonx as a Service

Übersicht über IBM watsonx as a Service

IBM watsonx as a Service ist eine sichere und interaktive Umgebung, in der Sie auf vertrauenswürdige Daten Ihres Unternehmens zugreifen, KI-Prozesse automatisieren und KI in Ihren Anwendungen bereitstellen können. Die Komponente IBM watsonx.ai bietet ein Studio mit integrierten Tools für die Arbeit mit generativen KI-Funktionen, die auf Basismodellen basieren, und für die Erstellung von Modellen für maschinelles Lernen. Die Komponente IBM watsonx.governance stellt eine End-to-End-Überwachung für Modelle für maschinelles Lernen und generative KI-Modelle zur Beschleunigung verantwortungsvoller, transparenter und erklärbarer KI-Workflows bereit.

Mit watsonx.ai und watsonx.governance: können KI-Entwickler, Data-Scientists sowie Beauftragte für KI-Risiken und Compliance die folgenden Ziele erreichen:

  • Modelle für maschinelles Lernen erstellen
    Modelle mithilfe von Open-Source-Frameworks und codebasierten, automatisierten oder visuellen Data-Science-Tools erstellen.

  • Mit Basismodellen entwickeln
    Generieren Sie Eingabeaufforderungen zum Generieren, Klassifizieren, Zusammenfassen oder Extrahieren von Inhalten aus Ihrem Eingabetext. Wählen Sie aus IBM Modellen oder Open-Source-Modellen von Hugging Face. Optimieren Sie Basismodelle, um Ihre Eingabeaufforderungsausgabe anzupassen.

  • Management des KI-Lebenszyklus
    Verwalten und automatisieren Sie den gesamten KI-Modelllebenszyklus mit allen integrierten Tools und Laufzeiten, um KI-Modelle zu trainieren, zu validieren und bereitzustellen.

  • KI regulieren
    Verfolgen Sie den detaillierten Verlauf von KI-Modellen und bewerten Sie die Modellausgabe, um die Compliance sicherzustellen.

Datenentwickler können Unternehmensdaten in einer Lakehouse-Architektur mit IBM watsonx.dataerfassen, speichern, abfragen und analysieren. Weitere Informationen finden Sie in der Dokumentation zuIBM watsonx.data.

Die folgende Abbildung zeigt die Funktionalität der Komponenten watsonx.ai und watsonx.governance zusätzlich zur allgemeinen Kernfunktionalität, die eine integrierte Funktionalität für den Benutzer bietet. Die Erfahrung mit watsonx.data ist separat und in der Grafik nicht dargestellt.

Im umgebenden Text beschrieben

Watsonx.ai

Watsonx.ai enthält Tools für das Arbeiten mit Daten und Modellen, bereitgestellte Basismodelle für generative KI sowie die Hardware-und Softwareressourcen für Datenverarbeitung und Inferenzen.

Dieses kurze Video enthält eine Einführung in watsonx.ai.

Tools zum Vorbereiten von Daten und Arbeiten mit Modellen

Ihre watsonx.ai -Tools befinden sich in Arbeitsbereichen mit Onlinezusammenarbeit, die als Projekte bezeichnet werden.

Sie können die watsonx.ai -Tools wie folgt verwenden, um Daten vorzubereiten und mit Modellen zu arbeiten:

  • Daten vorbereiten: Verfeinern und visualisieren Sie Ihre Datendateien oder Datentabellen in fernen Datenquellen oder generieren Sie synthetische Tabellendaten.
  • Modelle für maschinelles Lernen erstellen: Automatisch Modellkandidaten generieren, Trainingsabläufe für das Modell für maschinelles Lernen erstellen oder Modelltrainingscode in Python oder R schreiben.
  • Mit Basismodellen arbeiten: Experimentieren Sie mit generativen KI-Eingabeaufforderungen, optimieren Sie Basismodelle für Ihren Anwendungsfall oder schreiben Sie generativen KI-Lösungscode in Python.
  • Modelllebenszyklen automatisieren: Erstellen Sie wiederholt anwendbare und geplante Abläufe, die Notebook, Data Refineryund Pipelines für maschinelles Lernen automatisieren.

Eine Liste der Tools, ihrer Automatisierungsstufen und ob Sie sie zum Vorbereiten von Daten oder Arbeiten mit Modellen verwenden können, finden Sie unter Daten analysieren und mit Modellen arbeiten. Informationen zu generativen KI-Tools finden Sie unter Generative AI-Lösungen entwickeln.

Bereitgestellte Basismodelle

IBM watsonx.ai verfügt über eine Reihe von implementierten großen Sprachmodellen für generative KI. Die bereitgestellten Basismodelle umfassen Open-Source-Modelle von Hugging Face und IBM -Basismodellen. Sie können das entsprechende Basismodell für Ihren Inferenzanwendungsfall auswählen. Sie können das Verhalten des Basismodells anpassen, indem Sie ein Basismodell optimieren.

Eine Liste der unterstützten Basismodelle, die in watsonx.aibereitgestellt werden, finden Sie unter Unterstützte Basismodelle.

Nutzungsressourcen für Datenverarbeitung und Inferenz

Abhängig von Ihren Serviceplänen verfügen Sie möglicherweise über eine festgelegte Menge an Nutzungsressourcen pro Monat oder Ihnen werden die Ressourcen in Rechnung gestellt, die Sie verbrauchen.

Wenn Sie Tools mit watsonx.aiausführen, verbrauchen Sie die folgenden Ressourcentypen:

Rechenressourcennutzung
Wenn Sie Jobs, Notebooks, Experimente zum Trainieren oder Optimieren von Modellen oder Bereitstellungen ausführen, wird die Nutzung Ihrer Rechenressourcen basierend auf der Rate für die Laufzeitumgebung und ihrer aktiven Dauer berechnet. Rechenressourcen umfassen die entsprechende Hardware und Software, die für die Workload spezifisch sind. Die Berechnungsnutzung wird in Kapazitätseinheitenstunden gemessen. Siehe Datenverarbeitungsressourcen für die Ausführung von Tools in Projekten auswählen.
Inferenzverwendung
Wenn Sie Inferenzen für Basismodelle ausführen, wird die Inferenznutzung als Summe der Token im Ein-und Ausgabetext der Eingabeaufforderung multipliziert mit der Rate für das Basismodell berechnet. Token sind grundlegende Texteinheiten. Die Inferenz wird in Ressourceneinheiten gemessen. Siehe Ressourceneinheitenmessung.

Watsonx.governance

Watsonx.governance enthält Tools für die Regulierung von Modellen und die Nutzungsressourcen für die Bewertung und Erläuterung von Modellen.

Sehen Sie sich dieses kurze Video an, in dem watsonx.governancevorgestellt wird.

Tools für Governance-Modelle

Sie können watsonx.governance -Tools verwenden, um Modelle wie folgt zu regulieren:

  • Modelle überwachen und auswerten: Sie können Modellausgaben überwachen und Modellvorhersagen erklären. Ihre Überwachungs-und Auswertungstools für das Modell watsonx.governance befinden sich in Projekten und Bereitstellungsbereichen.

  • Verfolgung und Dokumentation von KI-Anwendungsfällen : Sie können den Lebenszyklusstatus des Modells, allgemeine Modell-und Bereitstellungsdetails, Trainingsinformationen und Metriken sowie Bereitstellungsmetriken anzeigen. Ihre watsonx.governance -Modellüberwachungstools in KI-Anwendungsfällen

Nutzungsressourcen für Modellevaluierungen und Erläuterungen

Wenn Sie Modellevaluierungen und Erläuterungen mit watsonx.governanceausführen, verbrauchen Sie Ressourcen. Abhängig von Ihren Serviceplänen verfügen Sie möglicherweise über eine festgelegte Menge an Nutzungsressourcen pro Monat oder Ihnen werden die Ressourcen in Rechnung gestellt, die Sie verbrauchen. Die Ressourcennutzung wird basierend auf der Anzahl der Modellauswertungen und Erläuterungen berechnet. Auswertungen und Erklärungen werden in Ressourceneinheiten gemessen.

Allgemeine Kernfunktionalität

Watsonx umfasst die folgende Kernfunktionalität von IBM Cloud Pak for Data als sichere und skalierbare Grundlage für eine effiziente Zusammenarbeit in Ihrem Unternehmen:

  • Konnektivität
  • Verwaltung
  • Speicher
  • Arbeitsbereiche
  • Ressourcenhub

Konnektivität

Sie können Verbindungen zu fernen Datenquellen erstellen und verbundene Daten importieren. Sie können Verbindungen mit persönlichen oder gemeinsam genutzten Berechtigungsnachweisen konfigurieren. Eine Liste der unterstützten Connectors finden Sie unter Connectors.

Sie können Verbindungen mit anderen auf der gesamten Plattform im Platform assets cataloggemeinsam nutzen.

Verwaltung

Die folgenden Verwaltungsfunktionen bieten Sicherheit und Flexibilität:

Software und Hardware

Watsonx wird vollständig von IBM in IBM Cloudverwaltet. Softwareaktualisierungen werden automatisch durchgeführt. Die Skalierung von Nutzungsressourcen und Speicher erfolgt automatisch.

Sicherheit, Compliance und Isolation

Datensicherheit, Netzsicherheit, Einhaltung von Sicherheitsstandards und Isolation von watsonx werden von IBM Cloudverwaltet. Die Daten werden im Ruhezustand und während der Übertragung verschlüsselt. Sie können zusätzliche Sicherheits- und Verschlüsselungsoptionen einrichten.

Ihre Arbeit an watsonx, einschließlich Ihrer Daten und der von Ihnen erstellten Modelle, ist für Ihr Konto privat. Auf Ihre Daten und Modelle kann IBM oder eine andere Person oder Organisation nie zugreifen oder sie verwenden.

Erfahren Sie mehr über Sicherheit und Ihre Optionen:

Bereitstellung von Services

Watsonx.ai auf der Plattform watsonx umfasst die Services Watson Studio, Watson Machine Learningund IBM Cloud Object Storage . Watsonx.governance auf der Plattform watsonx umfasst den Service watsonx.governance .

Sie können Services, z. B. Datenquellenservices, aus dem Servicekatalog watsonx hinzufügen. Siehe IBM Cloud-Services erstellen und verwalten.

Benutzermanagement

Sie fügen Benutzer und Benutzergruppen hinzu und verwalten die zugehörigen Kontorollen und -berechtigungen mit IBM Cloud Identity and Access Management. Sie weisen Rollen in jedem Arbeitsbereich mit Onlinezusammenarbeit plattformübergreifend zu. Siehe Benutzer und Zugriff verwalten.

Speicher

Eine IBM Cloud Object Storage -Serviceinstanz wird automatisch für Sie bereitgestellt, um Speicher für die Assets bereitzustellen, die Sie erstellen oder zu Arbeitsbereichen hinzufügen. Informationen, die in IBM Cloud Object Storage gespeichert sind, sind verschlüsselt und ausfallsicher. Jeder Arbeitsbereich hat ein eigenes dediziertes Bucket. Siehe Objektspeicher für Arbeitsbereiche.

Arbeitsbereiche

Watsonx ist als Gruppe von Arbeitsbereichen mit Onlinezusammenarbeit organisiert, in denen Sie mit Ihrem Team oder Ihrer Organisation arbeiten können. Jeder Arbeitsbereich hat eine Gruppe von Mitgliedern mit Rollen, die Berechtigungen zum Ausführen von Aktionen bereitstellen.

Die meisten Benutzer arbeiten mit Assets, bei denen es sich um Elemente handelt, die von Benutzern erstellt oder zu Arbeitsbereichen hinzugefügt werden. Assets können Daten, Modelle oder andere Typen von Code oder Informationen darstellen. Datenassets enthalten Metadaten, die Daten darstellen. Assets, die Sie in Tools wie Modellen erstellen, führen Code aus, um mit Daten zu arbeiten. Sie können auch Assets erstellen, die Informationen zu anderen Assets enthalten, z. B. Modellanwendungsfälle, die Metadaten, Protokolle und Berichte zu Modellen enthalten. Siehe Assettypen und Eigenschaften.

Sie können in den folgenden Typen von Arbeitsbereichen in watsonxarbeiten:

  • Projekte
  • Einsatzbereiche
  • Plattformverbindungen
  • KI-Anwendungsfälle

Sie können in allen Arbeitsbereichen, zu denen Sie gehören, nach Assets suchen.

Projekte

In Projekten arbeiten Ihre Data-Science-und Model Builder-Teams mit Daten, um Assets zu erstellen, z. B. gespeicherte Eingabeaufforderungen, Notebooks, Modelle oder Pipelines. Ihr erstes Projekt, das als Sandboxprojekt bezeichnet wird, wird automatisch erstellt, wenn Sie sich für watsonx.airegistrieren. Siehe Ihr Sandbox-Projekt.

Die folgende Abbildung zeigt, wie die Seite Übersicht eines Projekts aussehen könnte.

Übersichtsseite für ein Projekt

Einsatzbereiche

Bereitstellungsbereiche sind Bereiche, in denen Ihr ModelOps -Team Modelle und andere bereitstellbare Assets in der Produktion bereitstellt und dann Bereitstellungen in der Produktion testet und verwaltet. Nachdem Sie Modelle und implementierbare Assets in Projekten erstellt haben, stufen Sie sie in Bereitstellungsbereiche hoch. Weitere Informationen finden Sie unter Bereitstellungsbereiche.

Die folgende Abbildung zeigt, wie die Seite Übersicht eines Bereitstellungsbereichs aussehen könnte.

Übersichtsseite für einen Bereitstellungsbereich

Plattformverbindungen

"Plattformverbindungen" ist eine Ansicht des Platform assets catalog , in dem Verbindungsassets aufgelistet werden. Sie können in jedem Projekt oder Bereitstellungsbereich auf Plattformverbindungen zugreifen.

Die folgende Abbildung zeigt, wie die Seite Verbindungen der Plattformverbindungen aussehen könnte.

Seite 'Verbindungen' für Plattformverbindungen

KI-Anwendungsfälle

KI-Anwendungsfälle sind eine Ansicht des Platform assets catalog , in dem Modellanwendungsfälle aufgelistet werden. Anwendungsfälle verfolgen die Details für KI-Assets in Factsheets.

Die folgende Abbildung zeigt, wie die Seite AI-Anwendungsfälle aussehen könnte.

KI-Anwendungsfälle

Ressourcenhub

Watsonx enthält eine integrierte Sammlung von Beispielen, die bereitgestellte Basismodelle, Datenassets, Eingabeaufforderungen, Notebooks und Beispielprojekte bereitstellt. Beispielnotebooks enthalten Beispiele mit Code für Data-Science und maschinelles Lernen. Beispielprojekte enthalten Datensätze, Modelle, andere Assets und detaillierte Anweisungen zur Lösung eines bestimmten Geschäftsproblems.

Die folgende Abbildung zeigt, wie der Ressourcenhub aussieht.

Seite 'Beispiele'

Sehen Sie sich dieses Video an, um eine Tour durch den Ressourcenhub zu sehen.

Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.

Weitere Informationen

Generative KI-Suche und -Antwort
Diese Antworten werden von einem großen Sprachmodell in watsonx.ai basierend auf dem Inhalt der Produktdokumentation generiert. Weitere Informationen