Überblick über die Erfahrungen auf watsonx
watsonx ist eine sichere und kollaborative Umgebung, in der Sie auf die vertrauenswürdigen Daten Ihres Unternehmens zugreifen, KI-Prozesse automatisieren und KI in Ihren Anwendungen bereitstellen können. Die Dienste von IBM watsonx.ai bieten ein Studio mit integrierten Tools für den Aufbau generativer KI- und maschineller Lernlösungen. Der Service IBM watsonx.governance bietet End-to-End-Monitoring für KI-Lösungen, um verantwortungsvolle, transparente und erklärbare KI-Workflows zu beschleunigen.
Mit watsonx.ai und watsonx.governance: können KI-Entwickler, Data-Scientists sowie Beauftragte für KI-Risiken und Compliance die folgenden Ziele erreichen:
- Aufbau generativer AI-Lösungen
- Erstellen Sie Lösungen, die Eingabeaufforderungen, Agenten, RAG-Muster (retreival-augmented generation) und andere Funktionen von Basismodellen enthalten. Wählen Sie aus IBM Modellen, Modellen von Drittanbietern, Open-Source-Modellen oder importieren Sie benutzerdefinierte Foundation-Modelle. Optimieren Sie Basismodelle, um Ihre Eingabeaufforderungsausgabe anzupassen.
- Erstellung von Lösungen für maschinelles Lernen
- Erstellen Sie Modelle mit Open-Source-Frameworks und codebasierten, automatisierten oder visuellen Data-Science-Tools. Verwalten und automatisieren Sie den Modelllebenszyklus mit integrierten Tools und Laufzeiten zum Trainieren, Validieren und Bereitstellen von Modellen für maschinelles Lernen.
- KI verwalten
- Verfolgen Sie den detaillierten Verlauf von KI-Modellen, bewerten Sie Risiken und werten Sie die Modellleistung aus, um die Einhaltung von Vorschriften zu gewährleisten.
Plattformarchitektur
Das Erlebnis watsonx ist Teil der Plattform IBM watsonx. Die Plattform IBM watsonx bietet mehrere integrierte Erlebnisse, die Dienste und Arbeitsbereiche gemeinsam nutzen. Die Erfahrungen, auf die Sie zugreifen können, hängen davon ab, welche watsonx Dienste in Ihrem IBM Cloud Konto bereitgestellt werden. Ein Erlebnis bietet gezielten Zugang zu den Werkzeugen für bestimmte Aufgaben.
Die Plattform IBM watsonx enthält diese integrierten Erfahrungen:
- watsonx die die Dienste watsonx.ai Studio, watsonx.ai Runtime und watsonx.governance für die Entwicklung und Verwaltung von KI-Lösungen enthält.
- Data Fabric die den Dienst watsonx.data intelligence für die Erstellung und den Austausch hochwertiger, vertrauenswürdiger Datenprodukte enthält.
- watsonx.data Premium, das die Dienste watsonx.data, watsonx.ai Studio, watsonx.ai Runtime und watsonx.data intelligence zur Umwandlung unstrukturierter Daten für KI enthält.
Projekte werden zwischen den Erfahrungen geteilt, so dass Benutzer mit unterschiedlichen Aufgaben zusammenarbeiten können. Sie können zwischen den Erfahrungen wechseln, um mit verschiedenen Werkzeugen zu arbeiten. Benutzer, die an demselben Projekt arbeiten, können mit unterschiedlichen Erfahrungen arbeiten. Nehmen wir zum Beispiel an, ein Dateningenieur und ein KI-Ingenieur arbeiten gemeinsam an einem Projekt. Der Dateningenieur, der in der Data Fabric Erfahrung arbeitet, bereitet einen Datenbestand vor. Der KI-Ingenieur, der unter watsonx arbeitet, nutzt den Datenbestand, um ein Modell zu trainieren. Siehe Wechseln zwischen Erfahrungen.
Die folgende Abbildung zeigt die Architektur der integrierten Erlebnisse auf der Plattform IBM Cloud, die Dienste und Funktionen für jedes Erlebnis sowie die gemeinsamen Funktionen.
Das Erlebnis Cloud Pak for Data as a Service enthält viele der gleichen Dienste wie die anderen Erlebnisse, jedoch ohne generative KI oder Funktionen zur Verarbeitung unstrukturierter Daten. Projekte werden nicht gemeinsam genutzt, aber Sie können ein Projekt von Cloud Pak for Data as a Service zu watsonx wechseln.
Watsonx.ai
Watsonx.ai umfasst APIs und Tools für den Aufbau von KI-Lösungen, implementierte Basismodelle für generative KI sowie Hardware- und Softwareressourcen für Berechnungen und Inferenzen.
Dieses kurze Video enthält eine Einführung in watsonx.ai.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Wege zur Datenaufbereitung und zum Aufbau von KI-Lösungen
Bei den meisten Aufgaben haben Sie die Wahl zwischen dem Schreiben von Code und der Arbeit mit Tools in der Benutzeroberfläche. Ihre watsonx.ai -Tools befinden sich in Arbeitsbereichen mit Onlinezusammenarbeit, die als Projekte bezeichnet werden.
Sie können Daten vorbereiten und KI-Lösungen auf folgende Weise erstellen:
- Daten für KI vorbereiten
- Verfeinern und visualisieren Sie Ihre Datendateien oder Datentabellen in entfernten Datenquellen mit Data Refinery.
- Generieren Sie synthetische strukturierte Daten für das Training von Machine-Learning-Modellen mit Synthetic Data Generator.
- Generieren Sie synthetische, unstrukturierte Daten zur Optimierung von Basismodellen oder zum Testen von KI-Lösungen mit der API zur Generierung synthetischer Daten.
- Vektorisieren Sie Ihre unstrukturierten Daten für RAG-Muster mit Vektorindizes.
- Siehe Daten vorbereiten.
- Aufbau generativer AI-Lösungen
- Schreiben Sie generativen KI-Lösungscode mit Python SDKs, REST APIs oder Node.js.
- Experimentieren Sie mit generativen KI-Eingabeaufforderungen in der Prompt Lab.
- Automatisieren Sie RAG-Muster mit AutoAI.
- Stimmen Sie die Basismodelle mit Tuning Studio auf Ihren Anwendungsfall ab.
- Erstellen Sie KI-Agenten mit Agent Lab.
- Siehe Entwicklung von generativen KI-Lösungen.
- Modelle für maschinelles Lernen erstellen
- Erstellen Sie automatisch Vorhersagemodellkandidaten mit AutoAI.
- Erstellen Sie Trainingsabläufe für Modelle des maschinellen Lernens mit SPSS Modeler.
- Schreiben Sie Jupyter-Notebooks, um Modelle in Python oder R zu trainieren.
- Lösen Sie Optimierungsprobleme mit Decision Optimization.
- Automatisieren Sie den Lebenszyklus des maschinellen Lernens mit Orchestration Pipelines.
- Siehe Data Science-Lösungen.
Bereitgestellte Basismodelle
IBM watsonx.ai verfügt über eine Reihe von implementierten großen Sprachmodellen für generative KI. Zu den eingesetzten Basismodellen gehören Open-Source-Modelle und IBM-Basismodelle. Sie können auch Ihre eigenen benutzerdefinierten Basismodelle einsetzen oder ein On-Demand-Modell bereitstellen. Sie können das Verhalten des Basismodells anpassen, indem Sie ein Basismodell abstimmen.
Eine Liste der unterstützten Basismodelle, die in watsonx.aibereitgestellt werden, finden Sie unter Unterstützte Basismodelle.
Ressourcen für die Nutzung
Abhängig von Ihren Serviceplänen verfügen Sie möglicherweise über eine festgelegte Menge an Nutzungsressourcen pro Monat oder Ihnen werden die Ressourcen in Rechnung gestellt, die Sie verbrauchen.
Wenn Sie Werkzeuge oder Hostmodelle auf watsonx.ai ausführen, verbrauchen Sie die folgenden Arten von Ressourcen:
- Rechenressourcennutzung
- Bei der Ausführung von Aufträgen, Notebooks, Experimenten zum Trainieren oder Abstimmen von Modellen oder Bereitstellungen wird die Nutzung der Rechenressourcen auf der Grundlage der Rate für die Laufzeitumgebung und ihrer aktiven Dauer berechnet. Rechenressourcen umfassen die entsprechende Hardware und Software, die für die Workload spezifisch sind. Die Berechnungsnutzung wird in Kapazitätseinheitenstunden gemessen.
- Verwendung von Inferencing
- Wenn Sie das Inferencing anhand von Basismodellen durchführen, wird die Inferencing-Nutzung als die Summe der Token im Eingabe- und Ausgabetext der Eingabeaufforderung multipliziert mit der Rate für das Basismodell berechnet. Token sind grundlegende Texteinheiten. Die Inferenz wird in Ressourceneinheiten gemessen.
- Modell-Hosting
- Wenn Sie ein benutzerdefiniertes Basismodell oder ein bedarfsgesteuertes Basismodell bereitstellen, wird Ihnen ein Stundensatz berechnet. Die Gebührensätze richten sich nach der Hardwarekonfiguration des Modells und gelten für das Hosting und die Inferenz des Modells. Die Gebühren beginnen, wenn das Modell erfolgreich eingesetzt wird, und laufen weiter, bis das Modell gelöscht wird.
- Textextraktion
- Wenn Sie die Textextraktion nutzen, um Dokumentdateien in ein AI-Modell-freundliches JSON-Dateiformat zu konvertieren, werden Sie pro Seite berechnet.
Erfahren Sie mehr über die Nutzung und Abrechnung:
Watsonx.governance
Watsonx.governance enthält Tools für die Regulierung von Modellen und die Nutzungsressourcen für die Bewertung und Erläuterung von Modellen.
Die AI Governance-Funktionen unterscheiden sich je nach Bereitstellungsumgebung:
- Watsonx.governance An IBM Cloud bietet die meisten KI-Governance-Funktionen. Sie können die IBM OpenPages Dienst, um die Governance-Konsole zu aktivieren. Alle Lösungen sind verfügbar (Lizenzierung erforderlich).
- Watsonx.governance An Amazon Web Services ( AWS ) stellt der Governance-Konsole die Model Risk Governance-Lösung bereit.
Sehen Sie sich dieses kurze Video an, in dem watsonx.governancevorgestellt wird.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Wege zur Steuerung von AI
Sie können die APIs und Tools von watsonx.governance nutzen, um KI auf folgende Weise zu steuern
- Überwachung und Bewertung von AI-Assets
- Überwachen Sie die Ausgabe von Modellen des maschinellen Lernens und erläutern Sie die Modellvorhersagen.
- Bewerten und vergleichen Sie generative KI-Eingabeaufforderungen.
- Ihre watsonx.governance Modellüberwachungs- und Bewertungsinstrumente befinden sich in Projekten und Einsatzbereichen.
- Siehe Bewertung von AI-Assets.
- Verfolgung und Dokumentation von KI-Anwendungsfällen
- Zeigen Sie den Status des Modelllebenszyklus, allgemeine Modell- und Einsatzdetails, Trainingsinformationen und -metriken sowie Einsatzmetriken mit KI-Anwendungsfällen an.
- Siehe Verwaltung von Vermögenswerten in KI-Anwendungsfällen.
- Verwaltung der Governance-Aktivitäten
- Synchronisieren Sie Daten aus Factsheets mit der Governance-Konsole.
- Erweitern Sie die Governance-Funktionen mit Workflows und anderen Compliance-Tools über die Governance-Konsole.
- Sie müssen sich in die watsonx Governance-Konsole von IBM OpenPages integrieren.
- Siehe Verwaltung von Risiken und Einhaltung von Vorschriften mit der Governance-Konsole.
Ressourcen für die Nutzung
Wenn Sie Modellevaluierungen und Erläuterungen mit watsonx.governanceausführen, verbrauchen Sie Ressourcen. Abhängig von Ihren Serviceplänen verfügen Sie möglicherweise über eine festgelegte Menge an Nutzungsressourcen pro Monat oder Ihnen werden die Ressourcen in Rechnung gestellt, die Sie verbrauchen. Die Ressourcennutzung wird basierend auf der Anzahl der Modellauswertungen und Erläuterungen berechnet. Auswertungen und Erklärungen werden in Ressourceneinheiten gemessen.
Gemeinsame Funktionalität
Watsonx umfasst die folgenden Funktionen, die für eine sichere und skalierbare Zusammenarbeit von Diensten und Erfahrungen gemeinsam genutzt werden:
- Konnektivität
- Verwaltung
- Speicher
- Arbeitsbereiche
- Ressourcenhub
Konnektivität
Sie können Verbindungen zu fernen Datenquellen erstellen und verbundene Daten importieren. Sie können Verbindungen mit persönlichen oder gemeinsam genutzten Berechtigungsnachweisen konfigurieren. Eine Liste der unterstützten Connectors finden Sie unter Connectors.
Sie können Verbindungen mit anderen auf der gesamten Plattform im Platform assets cataloggemeinsam nutzen.
Verwaltung
Die folgenden Verwaltungsfunktionen bieten Sicherheit und Flexibilität:
- Software und Hardware
Watsonx wird vollständig von IBM auf IBM Cloud verwaltet. Softwareaktualisierungen werden automatisch durchgeführt. Die Skalierung von Nutzungsressourcen und Speicher erfolgt automatisch.
- Sicherheit, Compliance und Isolation
Die Datensicherheit, die Netzwerksicherheit, die Einhaltung von Sicherheitsstandards und die Isolierung von watsonx werden von IBM Cloud verwaltet. Die Daten werden im Ruhezustand und während der Übertragung verschlüsselt. Sie können zusätzliche Sicherheits- und Verschlüsselungsoptionen einrichten.
Ihre Arbeit an watsonx, einschließlich Ihrer Daten und der von Ihnen erstellten Modelle, ist für Ihr Konto privat. Auf Ihre Daten und Modelle kann IBM oder eine andere Person oder Organisation nie zugreifen oder sie verwenden.
Erfahren Sie mehr über Sicherheit und Ihre Optionen:
- Bereitstellung von Dienstleistungen
Sie können Dienste aus dem Dienstekatalog hinzufügen. Siehe IBM Cloud-Services erstellen und verwalten.
Sie müssen auf einige Dienste in anderen Erfahrungen zugreifen. Wenn Sie zum Beispiel den Dienst watsonx.data intelligence hinzufügen, müssen Sie zu Data Fabric wechseln, um ihn nutzen zu können.
Sie können Datenquellendienste hinzufügen und Verbindungen zu ihnen über die IBM watsonx Erfahrungen erstellen, aber Sie verwalten die Datenquellendienste über die IBM Cloud Konsole.
- Benutzermanagement
Sie fügen Benutzer und Benutzergruppen hinzu und verwalten deren IBM Cloud Kontorollen und Berechtigungen mit IBM Cloud Identity and Access Management. Sie weisen Rollen in jedem Arbeitsbereich mit Onlinezusammenarbeit plattformübergreifend zu. Siehe Benutzer und Zugriff verwalten.
Speicherung auf IBM Cloud
Wenn Sie sich für watsonx anmelden, wird automatisch eine IBM Cloud Object Storage Service-Instanz bereitgestellt, um Speicherplatz für die von Ihnen erstellten oder zu Arbeitsbereichen hinzugefügten Assets bereitzustellen. Die Service-Instanz IBM Cloud Object Storage wird für alle Erfahrungen gemeinsam genutzt. Die auf IBM Cloud Object Storage gespeicherten Informationen sind verschlüsselt und widerstandsfähig. Jeder Arbeitsbereich hat ein eigenes dediziertes Bucket. Siehe Objektspeicher für Arbeitsbereiche.
Arbeitsbereiche
watsonx ist als eine Reihe von kollaborativen Arbeitsbereichen organisiert, in denen Sie mit Ihrem Team oder Ihrer Organisation arbeiten können. Jeder Arbeitsbereich hat eine Gruppe von Mitgliedern mit Rollen, die Berechtigungen zum Ausführen von Aktionen bereitstellen.
Die meisten Benutzer arbeiten mit Assets, bei denen es sich um Elemente handelt, die von Benutzern erstellt oder zu Arbeitsbereichen hinzugefügt werden. Assets können Daten, Modelle oder andere Typen von Code oder Informationen darstellen. Datenassets enthalten Metadaten, die Daten darstellen. Assets, die Sie in Tools wie Modellen erstellen, führen Code aus, um mit Daten zu arbeiten. Sie können auch Assets erstellen, die Informationen zu anderen Assets enthalten, z. B. Modellanwendungsfälle, die Metadaten, Protokolle und Berichte zu Modellen enthalten. Siehe Assettypen und Eigenschaften.
Sie können in diesen Arten von Arbeitsbereichen unter watsonx arbeiten:
- Projekte
- Einsatzbereiche
- Plattformverbindungen
- Bestände
Sie können in allen Arbeitsbereichen, zu denen Sie gehören, nach Assets suchen.
Projekte
In Projekten arbeiten Ihre Data-Science-und Model Builder-Teams mit Daten, um Assets zu erstellen, z. B. gespeicherte Eingabeaufforderungen, Notebooks, Modelle oder Pipelines. Ihr erstes Projekt, das als Sandboxprojekt bezeichnet wird, wird automatisch erstellt, wenn Sie sich für watsonx.airegistrieren. Siehe Ihr Sandbox-Projekt.
Ihre Projekte werden im Rahmen der integrierten Erfahrungen gemeinsam genutzt. Sie können jedoch nur die Assets anzeigen und ausführen, die für das aktuelle Erlebnis gültig sind. Unter watsonx können Sie zum Beispiel die Metadaten eines Datenbestands nicht anreichern.
Die folgende Abbildung zeigt, wie die Seite Übersicht eines Projekts aussehen könnte.
Einsatzbereiche
Bereitstellungsbereiche sind Bereiche, in denen Ihr ModelOps -Team Modelle und andere bereitstellbare Assets in der Produktion bereitstellt und dann Bereitstellungen in der Produktion testet und verwaltet. Nachdem Sie Modelle und implementierbare Assets in Projekten erstellt haben, stufen Sie sie in Bereitstellungsbereiche hoch. Weitere Informationen finden Sie unter Bereitstellungsbereiche.
Die folgende Abbildung zeigt, wie die Seite Übersicht eines Bereitstellungsbereichs aussehen könnte.
Plattformverbindungen
"Plattformverbindungen" ist eine Ansicht des Platform assets catalog , in dem Verbindungsassets aufgelistet werden. Sie können in jedem Projekt oder Bereitstellungsbereich auf Plattformverbindungen zugreifen. Die Website Platform assets catalog wird über integrierte Erfahrungen geteilt.
Die folgende Abbildung zeigt, wie die Seite Verbindungen der Plattformverbindungen aussehen könnte.
Bestände
Inventare speichern KI-Anwendungsfälle. Anwendungsfälle verfolgen die Details für KI-Assets in Factsheets. Sie können auch alle KI-Anwendungsfälle in allen Beständen anzeigen.
Die folgende Abbildung zeigt, wie die Seite AI-Anwendungsfälle aussehen könnte.
Ressourcenhub
Watsonx enthält eine integrierte Sammlung von Beispielen, die bereitgestellte Basismodelle, Datenassets, Eingabeaufforderungen, Notebooks und Beispielprojekte bereitstellt. Beispielnotebooks enthalten Beispiele mit Code für Data-Science und maschinelles Lernen. Beispielprojekte enthalten Datensätze, Modelle, andere Assets und detaillierte Anweisungen zur Lösung eines bestimmten Geschäftsproblems.
Die folgende Abbildung zeigt, wie der Ressourcenhub aussieht.
Sehen Sie sich dieses Video an, um eine Tour durch den Ressourcenhub zu sehen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.