Mesurez, surveillez et gérez la qualité de vos données pour vous assurer qu'elles répondent à vos attentes et à vos normes pour des cas d'utilisation spécifiques.
Les données de bonne qualité sont dans un état qui peut généralement être défini comme adapté à l'utilisation, sans défautou répondant aux attentes et aux exigences. La qualité des données est mesurée par rapport aux dimensions de qualité par défaut Exactitude, Exhaustivité, Cohérence, Actualité, Unicitéet Validité, ainsi qu'à toute dimension de qualité personnalisée.
L'analyse de la qualité des données fournit des réponses aux questions suivantes:
Quelle est la qualité globale d'un actif de données?
Parmi les actifs de données, lequel a la meilleure qualité?
Comment la qualité d'un actif de données a-t-elle changé au fil du temps?
L'actif de données répond-il à mes attentes en matière de qualité?
Exigences et restrictions
Copy link to section
Pour la gestion de la qualité des données, les exigences et restrictions suivantes existent.
Services requis
Copy link to section
La gestion de la qualité des données requiert les services suivants:
IBM Knowledge Catalog
DataStage ou DataStage as a Service Anywhere Avec DataStage, vous pouvez exécuter des règles de qualité des données dans les régions prises en charge. Avec DataStage as a Service Anywhere, vous pouvez exécuter des règles de qualité des données en dehors d'IBM Cloud en utilisant des moteurs distants. Pour plus d'informations sur la configuration des moteurs distants, consultez la documentationDataStage as a Service Anywhere.
Les tâches de gestion de la qualité des données peuvent être effectuées sur des données de n'importe quelle taille.
Droits requis
Copy link to section
Vos rôles déterminent les tâches de gestion de la qualité des données que vous pouvez effectuer:
Pour afficher les définitions et les règles de qualité de données, vous devez disposer au moins du rôle Afficheur dans le projet.
Pour créer, éditer ou supprimer des définitions et des règles de qualité de données, vous devez disposer du rôle Admin ou Editeur dans le projet. En outre, vous devez disposer de l'autorisation utilisateur Gérer les ressources de qualité des données.
Pour exécuter les règles de qualité des données, vous devez avoir le rôle d' administrateur ou d' éditeur dans le projet et le droit d'utilisateur Exécuter les règles de qualité des données.
Pour afficher les données qui ont causé des problèmes de qualité des données (la table de sortie) à partir de l'historique de l'exécution des règles ou de la page Qualité des données, vous devez disposer de l'autorisation d'accès aux détails des problèmes. Cependant, la ressource de données dans le projet qui est créé pour la table de sortie est accessible à toute personne qui peut accéder à la connexion. Pour limiter l'accès à ces données, la connexion à la source de données où la table de sortie est stockée doit être configurée avec des informations d'identification personnelles.
Pour créer, modifier ou supprimer des règles SLA relatives à la qualité des données, vous devez disposer de ces droits d'utilisateur :
Accès aux artefacts de gouvernance
Gérer les règles de qualité des données (SLA)
Espaces de travail
Copy link to section
Vous pouvez effectuer des tâches de gestion de la qualité des données dans des projets. Les informations sur la qualité des données en lecture seule sont disponibles dans les catalogues.
Analyse et surveillance de la qualité de données
Copy link to section
Utilisez l'analyse et la surveillance de la qualité des données pour évaluer les données en fonction de critères spécifiques. Utilisez ces critères d'évaluation à plusieurs reprises au fil du temps pour voir des changements importants dans la qualité des données en cours de validation.
Après la conception d'un contrôle de la qualité des données, vous disposez des options suivantes:
Créez une définition de qualité de données qui définit la logique de la vérification de données, quelle que soit la source de données. La définition contient des variables logiques ou des références que vous liez ou liez à des données réelles (par exemple, source de données, table et colonne ou tables jointes) lorsque vous créez une règle de qualité de données qui peut être exécutée.
Une fois que vous avez créé une règle de qualité de données avec les liaisons requises en fonction d'une définition de qualité de données sélectionnée, cette règle peut être exécutée. La règle produit des statistiques pertinentes et peut générer une table de sortie, en fonction de la configuration de la règle.
Créez une règle de qualité de données SQL.
La fonctionnalité d'une règle de qualité de données peut aller d'un simple test sur une seule colonne à l'évaluation de plusieurs colonnes dans et entre les sources de données.
Evaluation de la qualité des données
Copy link to section
Pour déterminer si vos données sont de bonne qualité, vérifiez dans quelle mesure elles répondent à vos attentes et identifiez les anomalies dans les données. L'évaluation de la qualité des données permet également de comprendre la structure et le contenu de vos données.
Contrôle de la qualité des données
Copy link to section
Pour garantir que les données importantes répondent aux attentes de votre organisation en matière de qualité, mettez en place des règles de qualité des données (SLA) qui contrôlent la conformité de vos données aux normes et peuvent prévoir des mesures correctives en cas de problèmes de qualité des données détectés.
Use this interactive map to learn about the relationships between your tasks, the tools you need, the services that provide the tools, and where you use the tools.
Select any task, tool, service, or workspace
You'll learn what you need, how to get it, and where to use it.
Some tools perform the same tasks but have different features and levels of automation.
Jupyter notebook editor
Prepare data
Visualize data
Build models
Deploy assets
Create a notebook in which you run Python, R, or Scala code to prepare, visualize, and analyze data, or build a model.
AutoAI
Build models
Automatically analyze your tabular data and generate candidate model pipelines customized for your predictive modeling problem.
SPSS Modeler
Prepare data
Visualize data
Build models
Create a visual flow that uses modeling algorithms to prepare data and build and train a model, using a guided approach to machine learning that doesn’t require coding.
Decision Optimization
Build models
Visualize data
Deploy assets
Create and manage scenarios to find the best solution to your optimization problem by comparing different combinations of your model, data, and solutions.
Data Refinery
Prepare data
Visualize data
Create a flow of ordered operations to cleanse and shape data. Visualize data to identify problems and discover insights.
Orchestration Pipelines
Prepare data
Build models
Deploy assets
Automate the model lifecycle, including preparing data, training models, and creating deployments.
RStudio
Prepare data
Build models
Deploy assets
Work with R notebooks and scripts in an integrated development environment.
Federated learning
Build models
Create a federated learning experiment to train a common model on a set of remote data sources. Share training results without sharing data.
Deployments
Deploy assets
Monitor models
Deploy and run your data science and AI solutions in a test or production environment.
Catalogs
Catalog data
Governance
Find and share your data and other assets.
Metadata import
Prepare data
Catalog data
Governance
Import asset metadata from a connection into a project or a catalog.
Metadata enrichment
Prepare data
Catalog data
Governance
Enrich imported asset metadata with business context, data profiling, and quality assessment.
Data quality rules
Prepare data
Governance
Measure and monitor the quality of your data.
Masking flow
Prepare data
Create and run masking flows to prepare copies of data assets that are masked by advanced data protection rules.
Governance
Governance
Create your business vocabulary to enrich assets and rules to protect data.
Data lineage
Governance
Track data movement and usage for transparency and determining data accuracy.
AI factsheet
Governance
Monitor models
Track AI models from request to production.
DataStage flow
Prepare data
Create a flow with a set of connectors and stages to transform and integrate data. Provide enriched and tailored information for your enterprise.
Data virtualization
Prepare data
Create a virtual table to segment or combine data from one or more tables.
OpenScale
Monitor models
Measure outcomes from your AI models and help ensure the fairness, explainability, and compliance of all your models.
Data replication
Prepare data
Replicate data to target systems with low latency, transactional integrity and optimized data capture.
Master data
Prepare data
Consolidate data from the disparate sources that fuel your business and establish a single, trusted, 360-degree view of your customers.
Services you can use
Services add features and tools to the platform.
watsonx.ai Studio
Develop powerful AI solutions with an integrated collaborative studio and industry-standard APIs and SDKs. Formerly known as Watson Studio.
watsonx.ai Runtime
Quickly build, run and manage generative AI and machine learning applications with built-in performance and scalability. Formerly known as Watson Machine Learning.
IBM Knowledge Catalog
Discover, profile, catalog, and share trusted data in your organization.
DataStage
Create ETL and data pipeline services for real-time, micro-batch, and batch data orchestration.
Data Virtualization
View, access, manipulate, and analyze your data without moving it.
Watson OpenScale
Monitor your AI models for bias, fairness, and trust with added transparency on how your AI models make decisions.
Data Replication
Provide efficient change data capture and near real-time data delivery with transactional integrity.
Match360 with Watson
Improve trust in AI pipelines by identifying duplicate records and providing reliable data about your customers, suppliers, or partners.
Manta Data Lineage
Increase data pipeline transparency so you can determine data accuracy throughout your models and systems.
Where you'll work
Collaborative workspaces contain tools for specific tasks.
Project
Where you work with data.
> Projects > View all projects
Catalog
Where you find and share assets.
> Catalogs > View all catalogs
Space
Where you deploy and run assets that are ready for testing or production.
> Deployments
Categories
Where you manage governance artifacts.
> Governance > Categories
Data virtualization
Where you virtualize data.
> Data > Data virtualization
Master data
Where you consolidate data into a 360 degree view.