Mascheramento dei dati con flusso di mascheramento
Ultimo aggiornamento: 05 dic 2024
Mascheramento dei dati con flusso di mascheramento
Il flusso di mascheramento consente agli amministratori di dati di produrre copie mascherate di dati per data scientist, analisti di business e tester di applicazioni. I dati sono protetti con regole di protezione dati che si applicano automaticamente a tutti i dati importati nel catalogo.
Il flusso di mascheramento introduce anche opzioni di mascheramento avanzate per le regole di protezione dei dati, come la conservazione avanzata del formato, la tokenizzazione hash unidirezionale, la capacità di mantenere le relazioni e di aumentare l'utilità dei dati mascherati. Le regole di protezione dei dati con mascheramento avanzato funzionano solo nei progetti.
Servizi richiesti
IBM Knowledge Catalog
Data Privacy (flusso di maschere)
Formato dati
Relazionale: tabelle in origini dati relazionali
Dimensione dati
Qualsiasi dimensione
Prima di creare i flussi di mascheramento, l'amministratore dei dati deve completare queste attività prerequisite.
Una volta completate le attività prerequisite, sia gli amministratori di dati che gli utenti di dati possono eseguire una delle seguenti attività:
Creare un nuovo progetto e aggiungere asset di dati da mascherare nel progetto.
Scegliere un progetto esistente con asset di dati.
Dopo aver completato una delle attività, fare clic su Nuova risorsa > Copia e maschera i dati.
Ruoli utente nel flusso di mascheramento
Copy link to section
In qualità di amministratore dei dati (o ingegnere dei dati), si ha una forte conoscenza degli asset di dati e dei requisiti dei dati degli utenti dei dati. L'utente è responsabile della preparazione dei dati per mascherare e configurare l'accesso utente ai dati mascherati. Consultare attività che gli amministratori di dati devono completare.
Come utente di dati, come data scientist, analisti di business, tester e sviluppatori, ti affidi all'amministratore dei dati per curare e fornire dati protetti di cui hai bisogno per svolgere il tuo lavoro. Consultare le attività che gli utenti di dati possono eseguire.
Origini dati supportate
Copy link to section
Il flusso di mascheramento supporta le seguenti origini dati relazionale e non relazionale:
Apache Hive
Db2 LUW
Db2 Warehouse
MySQL
Netezza
Oracle
PostgreSQL
SQL Server
Teradata
Attività prerequisite per gli amministratori di dati
Copy link to section
Autorizzazioni richieste
Devi essere un amministratore dell'account IBM Cloud .
Al momento dell'installazione del flusso di mascheramento, è presente almeno un account amministratore configurato nella propria organizzazione. Questo amministratore può fornire ad altri utenti l'accesso admin.
Prepararsi alla privatizzazione dei dati completando le seguenti attività:
Aggiungere gli asset di dati ai cataloghi importando automaticamente gli asset di dati con metadata. Le connessioni ai dati vengono create nel Catalogo metadati. Quando si importano gli asset di dati, selezionare il catalogo creato nel passo precedente come destinazione di importazione. Consultare Pubblicazione di asset da un progetto in un catalogo.
Impostazione delle regole di protezione dati. Le regole di protezione dei dati si applicano a tutti i cataloghi gestiti e vengono applicate dal flusso di mascheramento quando si creano copie mascherate di dati utilizzando i flussi di mascheramento. Opzioni di mascheramento dati avanzate sono abilitate solo per le classi di dati.
Per impostazione predefinita, le regole di protezione dati non vengono applicate per il proprietario dell'asset, l'utente che ha aggiunto l'asset al catalogo. Ciò significa che per il proprietario dell'asset, le anteprime del catalogo non sono protette per gli asset di dati di cui sono proprietari.
Quando si sposta un asset da un catalogo a un progetto, l'asset nel progetto è una copia dell'asset del catalogo. Gli asset di progetto non sono collegati a regole di protezione dati.
Se la persona che sposta l'asset è il proprietario dell'asset, l'anteprima dell'asset viene smascherata per tutti gli utenti nel progetto.
Se la persona che sposta l'asset non è il proprietario dell'asset, l'anteprima dell'asset viene mascherata per tutti gli utenti nel progetto.
Poiché le regole di protezione dei dati non vengono applicate per i proprietari degli asset, quando i proprietari degli asset eseguono un flusso di mascheramento, la copia dei dati caricata in un database di destinazione non viene mascherata. I dati vengono mascherati solo quando gli utenti dei dati eseguono il flusso di mascheramento.
Procedura ottimale per evitare perdite di dati non intenzionali
Considerare le seguenti procedure ottimali per evitare la perdita di dati:
Il progetto utilizzato dall'amministratore per importare i metadati nel catalogo non deve essere utilizzato per mascherare i flussi. Se si desidera utilizzare lo stesso progetto per le importazioni di metadati e i flussi di mascheramento, verificare che tutti gli utenti del progetto dispongano delle autorizzazioni per visualizzare i dati non mascherati.
Gli amministratori dei dati non devono spostare i dati dai catalogo ai progetti per la creazione di flussi di mascheramento. Gli amministratori di dati devono aggiungere utenti di dati come visualizzatori al catalogo e solo gli utenti di dati devono spostare i dati dal catalogo al progetto. Possono facoltativamente aggiungere altri utenti al progetto.
Evitare errori di memoria esaurita
Copy link to section
Durante un lavoro di mascheramento del flusso, Spark potrebbe tentare di leggere tutte le origini dati nella memoria. Potrebbero verificarsi degli errori quando non si dispone di memoria sufficiente per supportare il lavoro. Il volume massimo di dati che può adattarsi al nodo di elaborazione Spark distribuito più grande è di circa 12GBs.
Per i lavori del flusso di mascheramento che hanno un utilizzo elevato della memoria, per evitare errori di memoria esaurita:
Limitare il numero di esecutori e la dimensione degli esecutori per il job.
Impostare le colonne nella tabella di origine per partizionare i dati.
Quando i lavori di mascheramento del flusso comportano lo spostamento di grandi quantità di dati, assicurarsi di selezionare le colonne in base alle quali i dati possono essere partizionati durante il lavoro di mascheramento del flusso.
Output troncato per contenere le restrizioni di lunghezza delle colonne
Copy link to section
La lunghezza colonna è la lunghezza massima definita per una colonna in un database per i dati di tipo stringa.
In precedenza, l'output di mascheramento generato non considerava la lunghezza della colonna e il lavoro del flusso di mascheramento non avrebbe avuto esito positivo se uno dei valori di output avesse superato la lunghezza della colonna.
Ora, l'output generato viene troncato per garantire che non superi le limitazioni di lunghezza della colonna.
Attività prerequisite per utenti di dati
Copy link to section
Gli utenti di dati devono essere già membri della piattaforma o disporre del livello di autorizzazione per il ruolo di data scientist.
Autorizzazioni richieste
Devi avere un IBM Cloud conto e averne diritto IBM Knowledge Catalog Piano leggero.
Autorizzazioni facoltative
Gli amministratori di dati possono fornire all'utente l'accesso Editor o Visualizzatore ai cataloghi.
Gli amministratori di dati o altri utenti di dati possono anche fornire l'accesso ai singoli progetti che creano.
Preparare copie di dati mascherati completando le seguenti attività:
Use this interactive map to learn about the relationships between your tasks, the tools you need, the services that provide the tools, and where you use the tools.
Select any task, tool, service, or workspace
You'll learn what you need, how to get it, and where to use it.
Some tools perform the same tasks but have different features and levels of automation.
Jupyter notebook editor
Prepare data
Visualize data
Build models
Deploy assets
Create a notebook in which you run Python, R, or Scala code to prepare, visualize, and analyze data, or build a model.
AutoAI
Build models
Automatically analyze your tabular data and generate candidate model pipelines customized for your predictive modeling problem.
SPSS Modeler
Prepare data
Visualize data
Build models
Create a visual flow that uses modeling algorithms to prepare data and build and train a model, using a guided approach to machine learning that doesn’t require coding.
Decision Optimization
Build models
Visualize data
Deploy assets
Create and manage scenarios to find the best solution to your optimization problem by comparing different combinations of your model, data, and solutions.
Data Refinery
Prepare data
Visualize data
Create a flow of ordered operations to cleanse and shape data. Visualize data to identify problems and discover insights.
Orchestration Pipelines
Prepare data
Build models
Deploy assets
Automate the model lifecycle, including preparing data, training models, and creating deployments.
RStudio
Prepare data
Build models
Deploy assets
Work with R notebooks and scripts in an integrated development environment.
Federated learning
Build models
Create a federated learning experiment to train a common model on a set of remote data sources. Share training results without sharing data.
Deployments
Deploy assets
Monitor models
Deploy and run your data science and AI solutions in a test or production environment.
Catalogs
Catalog data
Governance
Find and share your data and other assets.
Metadata import
Prepare data
Catalog data
Governance
Import asset metadata from a connection into a project or a catalog.
Metadata enrichment
Prepare data
Catalog data
Governance
Enrich imported asset metadata with business context, data profiling, and quality assessment.
Data quality rules
Prepare data
Governance
Measure and monitor the quality of your data.
Masking flow
Prepare data
Create and run masking flows to prepare copies of data assets that are masked by advanced data protection rules.
Governance
Governance
Create your business vocabulary to enrich assets and rules to protect data.
Data lineage
Governance
Track data movement and usage for transparency and determining data accuracy.
AI factsheet
Governance
Monitor models
Track AI models from request to production.
DataStage flow
Prepare data
Create a flow with a set of connectors and stages to transform and integrate data. Provide enriched and tailored information for your enterprise.
Data virtualization
Prepare data
Create a virtual table to segment or combine data from one or more tables.
OpenScale
Monitor models
Measure outcomes from your AI models and help ensure the fairness, explainability, and compliance of all your models.
Data replication
Prepare data
Replicate data to target systems with low latency, transactional integrity and optimized data capture.
Master data
Prepare data
Consolidate data from the disparate sources that fuel your business and establish a single, trusted, 360-degree view of your customers.
Services you can use
Services add features and tools to the platform.
watsonx.ai Studio
Develop powerful AI solutions with an integrated collaborative studio and industry-standard APIs and SDKs. Formerly known as Watson Studio.
watsonx.ai Runtime
Quickly build, run and manage generative AI and machine learning applications with built-in performance and scalability. Formerly known as Watson Machine Learning.
IBM Knowledge Catalog
Discover, profile, catalog, and share trusted data in your organization.
DataStage
Create ETL and data pipeline services for real-time, micro-batch, and batch data orchestration.
Data Virtualization
View, access, manipulate, and analyze your data without moving it.
Watson OpenScale
Monitor your AI models for bias, fairness, and trust with added transparency on how your AI models make decisions.
Data Replication
Provide efficient change data capture and near real-time data delivery with transactional integrity.
Match360 with Watson
Improve trust in AI pipelines by identifying duplicate records and providing reliable data about your customers, suppliers, or partners.
Manta Data Lineage
Increase data pipeline transparency so you can determine data accuracy throughout your models and systems.
Where you'll work
Collaborative workspaces contain tools for specific tasks.
Project
Where you work with data.
> Projects > View all projects
Catalog
Where you find and share assets.
> Catalogs > View all catalogs
Space
Where you deploy and run assets that are ready for testing or production.
> Deployments
Categories
Where you manage governance artifacts.
> Governance > Categories
Data virtualization
Where you virtualize data.
> Data > Data virtualization
Master data
Where you consolidate data into a 360 degree view.