Mit dem Maskierungsablauf können Datenadministratoren maskierte Kopien von Daten für Data-Scientists, Geschäftsanalysten und Anwendungstester erstellen. Die Daten werden mit Datenschutzregeln geschützt, die automatisch auf alle Daten angewendet werden, die in den Katalog importiert werden.
Der Maskierungsfluss führt auch erweiterte Maskierungsoptionen für Datenschutzregeln ein, wie z. B. erweiterte Formaterhaltung, einseitige Hash-Tokenisierung, die Möglichkeit, Beziehungen zu erhalten und den Nutzen der maskierten Daten zu erhöhen. Datenschutzregeln mit erweiterter Maskierung funktionieren nur in Projekten.
Erforderliche Services
IBM Knowledge Catalog
Data Privacy (Maskierungsablauf)
Datenformat
Relational: Tabellen in relationalen Datenquellen
Data Size
Beliebige Größe
Vor der Erstellung von Maskierungsflüsse muss der Datenadministrator diese vorausgesetzten Tasks durchführen.
Nachdem die vorausgesetzten Tasks abgeschlossen sind, können sowohl Datenadministratoren als auch Datenbenutzer eine der folgenden Tasks ausführen:
Erstellen Sie ein neues Projekt und fügen Sie Datenressourcen hinzu, die in dem Projekt maskiert werden sollen.
Wählen Sie ein vorhandenes Projekt mit Datenressourcen aus.
Klicken Sie nach Abschluss einer der Aufgaben auf Neues Asset > Daten kopieren und maskieren.
Benutzerrollen im Maskierungsablauf
Copy link to section
Als Datenverwalter (oder Datenentwickler) verfügen Sie über eine starke Kenntnis der Datenressourcen und Datenanforderungen der Datenbenutzer. Sie sind für die Vorbereitung von Daten für die Maskierung und Konfiguration des Benutzerzugriffs auf maskierte Daten verantwortlich. Weitere Informationen finden Sie im Abschnitt mit den Tasks, die Datenadministratoren ausführen müssen.
Als Benutzer von Daten, wie z. B. Datenwissenschaftler, Unternehmensanalytiker, Tester und Entwickler, sind Sie darauf angewiesen, dass der Administrator die geschützten Daten pflegt und bereitstellt, die Sie für Ihre Arbeit benötigen. Weitere Informationen finden Sie im Abschnitt zu den Tasks, die Datenbenutzer ausführen können.
Unterstützte Datenquellen
Copy link to section
Der Maskierungsablauf unterstützt die folgenden relationalen und nicht relationalen Datenquellen:
Apache Hive
Db2 LUW
Db2 Warehouse
MySQL
Netezza
Oracle
PostgreSQL
SQL Server
Teradata
Vorausgesetzte Tasks für Data-Admins
Copy link to section
Erforderliche Berechtigungen
Sie müssen ein IBM Cloud -Kontoadministrator sein.
Zum Zeitpunkt der Installation des Maskierungsablaufs ist mindestens ein Administratorkonto in Ihrer Organisation eingerichtet. Dieser Administrator kann anderen Benutzern Administratorzugriff erteilen.
Bereiten Sie die Privatisierung von Daten vor, indem Sie die folgenden Tasks ausführen:
Fügen Sie Datenassets zu Katalogen hinzu, indem Sie Datenassets automatisch mit Metadatenimportieren. Sie erstellen Verbindungen zu Ihren Daten im Metadatenkatalog. Wählen Sie beim Importieren der Datenressourcen den Katalog aus, der im vorherigen Schritt als Importziel erstellt wurde. Siehe Assets aus einem Projekt in einem Katalog publizieren.
Datenschutzregeln einrichten. Datenschutzregeln gelten für alle regulierten Kataloge und werden von Masking Flow umgesetzt, wenn Sie maskierte Kopien von Daten mithilfe von Maskierungsflüssen erstellen. Erweiterte Datenmaskierungsoptionen sind nur für Datenklassen aktiviert.
Standardmäßig werden die Datenschutzregeln für den Asseteigner, den Benutzer, der das Asset zum Katalog hinzugefügt hat, nicht umgesetzt. Dies bedeutet für den Asseteigner, dass Katalogvorsichten nicht für die von ihnen eigenen Datenressourcen geschützt sind.
Wenn Sie ein Asset aus einem Katalog in ein Projekt verschieben, ist das Asset im Projekt eine Kopie der Katalogressource. Die Projektressourcen sind nicht mit den Datenschutzregeln verknüpft.
Wenn die Person, die das Asset bewegt, der Asseteigner ist, wird die Assetvorschau für alle Benutzer im Projekt entlarvt.
Wenn die Person, die das Asset bewegt, nicht der Asseteigner ist, wird die Assetvorschau für alle Benutzer im Projekt maskiert.
Da Datenschutzregeln für Asseteigner nicht durchgesetzt werden, wird die in eine Zieldatenbank geladene Datenkopie nicht maskiert, wenn Asseteigner einen Maskierungsfluss durchführen. Daten werden nur maskiert, wenn Datenbenutzer den Maskierungsfluss ausführen.
Best Practice zur Vermeidung unbeabsichtigter Datenlecks
Berücksichtigen Sie die folgenden bewährten Verfahren, um Datenlecks zu vermeiden:
Das Projekt, das vom Administrator zum Importieren von Metadaten in den Katalog verwendet wird, darf nicht für Maskierungsflüsse verwendet werden. Wenn Sie dasselbe Projekt für Metadatenimporte und Maskierungsflüsse verwenden möchten, müssen Sie sicherstellen, dass alle Benutzer im Projekt über Berechtigungen zum Anzeigen von unmaskierten Daten verfügen.
Datenadministratoren sollten Daten aus Katalogen nicht in Projekte zum Erstellen von Maskierungsflüssen versetzen. Datenadministratoren sollten Datenbenutzer als Viewer zum Katalog hinzufügen, und dann sollten nur die Datennutzer Daten aus dem Katalog in das Projekt versetzen. Sie können optional weitere Benutzer zum Projekt hinzufügen.
Fehler aufgrund abnormaler Speicherbedingungen vermeiden
Copy link to section
Während eines Maskierungsflussjobs versucht Spark möglicherweise, alle Daten einer Datenquelle in den Speicher zu einzulesen. Fehler können auftreten, wenn nicht genügend Speicher zur Unterstützung des Jobs vorhanden ist. Es passen maximal ca. 12 GB an Daten in den größten bereitgestellten Spark-Verarbeitungsknoten.
Gehen Sie für Maskierungsdatenflussjobs mit hoher Speicherbelegung wie folgt vor, um Fehler aufgrund abnormaler Speicherbedingungen zu vermeiden:
Begrenzen Sie die Anzahl der Executor und die Größe der Executor für den Job.
Legen Sie die Spalten in der Quellentabelle fest, um die Daten zu partitionieren.
Wenn das Maskieren von Datenflussjobs das Verschieben großer Datenmengen umfasst, müssen Sie sicherstellen, dass Sie die Spalten auswählen, nach denen Daten während des Maskierungsdatenflussjobs partitioniert werden können.
Ausgabe abgeschnitten, um Einschränkungen für die Spaltenlänge zu berücksichtigen
Copy link to section
Die Spaltenlänge ist die maximale Länge, die für eine Spalte in einer Datenbank für die Zeichenfolgedaten definiert ist.
Zuvor hat die generierte Maskierungsausgabe die Spaltenlänge nicht berücksichtigt und der Job für den Maskierungsfluss schlägt fehl, wenn einer der Ausgabewerte die Spaltenlänge überschreitet.
Jetzt wird die generierte Ausgabe abgeschnitten, um sicherzustellen, dass sie die Spaltenlängenbeschränkungen nicht überschreitet.
Vorausgesetzte Tasks für Datenbenutzer
Copy link to section
Datenbenutzer müssen bereits Mitglied der Plattform sein oder über die Berechtigungsstufe für die Rolle "Data Scientist" verfügen.
Erforderliche Berechtigungen
Sie benötigen eine IBM Cloud Konto und haben Anspruch auf IBM Knowledge Catalog Lite-Plan.
Optionale Berechtigungen
Datenadministratoren können Ihnen den Editor-oder Viewer-Zugriff auf Kataloge erteilen.
Datenadministratoren oder andere Datennutzer können Ihnen auch Zugriff auf einzelne Projekte geben, die sie erstellen.
Bereiten Sie maskierte Datenkopien vor, indem Sie die folgenden Tasks ausführen:
Use this interactive map to learn about the relationships between your tasks, the tools you need, the services that provide the tools, and where you use the tools.
Select any task, tool, service, or workspace
You'll learn what you need, how to get it, and where to use it.
Some tools perform the same tasks but have different features and levels of automation.
Jupyter notebook editor
Prepare data
Visualize data
Build models
Deploy assets
Create a notebook in which you run Python, R, or Scala code to prepare, visualize, and analyze data, or build a model.
AutoAI
Build models
Automatically analyze your tabular data and generate candidate model pipelines customized for your predictive modeling problem.
SPSS Modeler
Prepare data
Visualize data
Build models
Create a visual flow that uses modeling algorithms to prepare data and build and train a model, using a guided approach to machine learning that doesn’t require coding.
Decision Optimization
Build models
Visualize data
Deploy assets
Create and manage scenarios to find the best solution to your optimization problem by comparing different combinations of your model, data, and solutions.
Data Refinery
Prepare data
Visualize data
Create a flow of ordered operations to cleanse and shape data. Visualize data to identify problems and discover insights.
Orchestration Pipelines
Prepare data
Build models
Deploy assets
Automate the model lifecycle, including preparing data, training models, and creating deployments.
RStudio
Prepare data
Build models
Deploy assets
Work with R notebooks and scripts in an integrated development environment.
Federated learning
Build models
Create a federated learning experiment to train a common model on a set of remote data sources. Share training results without sharing data.
Deployments
Deploy assets
Monitor models
Deploy and run your data science and AI solutions in a test or production environment.
Catalogs
Catalog data
Governance
Find and share your data and other assets.
Metadata import
Prepare data
Catalog data
Governance
Import asset metadata from a connection into a project or a catalog.
Metadata enrichment
Prepare data
Catalog data
Governance
Enrich imported asset metadata with business context, data profiling, and quality assessment.
Data quality rules
Prepare data
Governance
Measure and monitor the quality of your data.
Masking flow
Prepare data
Create and run masking flows to prepare copies of data assets that are masked by advanced data protection rules.
Governance
Governance
Create your business vocabulary to enrich assets and rules to protect data.
Data lineage
Governance
Track data movement and usage for transparency and determining data accuracy.
AI factsheet
Governance
Monitor models
Track AI models from request to production.
DataStage flow
Prepare data
Create a flow with a set of connectors and stages to transform and integrate data. Provide enriched and tailored information for your enterprise.
Data virtualization
Prepare data
Create a virtual table to segment or combine data from one or more tables.
OpenScale
Monitor models
Measure outcomes from your AI models and help ensure the fairness, explainability, and compliance of all your models.
Data replication
Prepare data
Replicate data to target systems with low latency, transactional integrity and optimized data capture.
Master data
Prepare data
Consolidate data from the disparate sources that fuel your business and establish a single, trusted, 360-degree view of your customers.
Services you can use
Services add features and tools to the platform.
watsonx.ai Studio
Develop powerful AI solutions with an integrated collaborative studio and industry-standard APIs and SDKs. Formerly known as Watson Studio.
watsonx.ai Runtime
Quickly build, run and manage generative AI and machine learning applications with built-in performance and scalability. Formerly known as Watson Machine Learning.
IBM Knowledge Catalog
Discover, profile, catalog, and share trusted data in your organization.
DataStage
Create ETL and data pipeline services for real-time, micro-batch, and batch data orchestration.
Data Virtualization
View, access, manipulate, and analyze your data without moving it.
Watson OpenScale
Monitor your AI models for bias, fairness, and trust with added transparency on how your AI models make decisions.
Data Replication
Provide efficient change data capture and near real-time data delivery with transactional integrity.
Match360 with Watson
Improve trust in AI pipelines by identifying duplicate records and providing reliable data about your customers, suppliers, or partners.
Manta Data Lineage
Increase data pipeline transparency so you can determine data accuracy throughout your models and systems.
Where you'll work
Collaborative workspaces contain tools for specific tasks.
Project
Where you work with data.
> Projects > View all projects
Catalog
Where you find and share assets.
> Catalogs > View all catalogs
Space
Where you deploy and run assets that are ready for testing or production.
> Deployments
Categories
Where you manage governance artifacts.
> Governance > Categories
Data virtualization
Where you virtualize data.
> Data > Data virtualization
Master data
Where you consolidate data into a 360 degree view.