Enrichir les données avec des informations qui aident les utilisateurs à trouver les données plus rapidement, à décider si les données sont appropriées pour la tâche à accomplir, s'ils peuvent faire confiance aux données et comment travailler avec les données. Ces informations sont notamment des termes qui définissent la signification des données, des règles qui documentent la propriété ou déterminent des normes de qualité, ou des révisions.
Les intendants de données créent des profils d'actif pour comprendre la signification des données et évaluer leur qualité. En outre, ils ajoutent un contexte métier aux données en affectant des termes et en identifiant les relations entre les tables. L'enrichissement des métadonnées automatise ce processus, ce qui augmente la productivité de l'intendant des données.
Les données ne sont utiles que si leur contexte, leur contenu et leur qualité sont fiables. Pour ce faire, les données doivent être continuellement évaluées et des mesures correctives appropriées doivent être prises au besoin. Les intendants de données peuvent configurer des tâches récurrentes pour suivre en continu les modifications apportées au contenu et à la structure des données, puis analyser uniquement les données qui ont été modifiées.
Les informations ajoutées aux actifs via l'enrichissement de métadonnées
aident également à protéger les données car elles peuvent être utilisées dans des stratégies de protection de données pour masquer les données ou restreindre l'accès à elles.
Services requis
IBM Knowledge Catalog DataStage pour l'analyse avancée des clés ou des relations et le profilage avancé
Format des données
Tables à partir de sources de données relationnelles et non relationnelles
Delta Lake et Iceberg de certains connecteurs de stockage de fichiers.
Fichiers téléchargés à partir du système de fichiers local ou des connexions basées sur des fichiers aux sources de données, avec les formats suivants: CSV, TSV, Avro, Parquet, Microsoft Excel (xls, xlsm et xlsx ; seule la première feuille d'un classeur est profilée pour les fichiers téléchargés à partir du système de fichiers local.) Ces fichiers de données structurées ne sont pas profilés:
Fichiers dans un actif de dossier connecté. Les fichiers accessibles à partir d'un actif de dossier connecté ne sont pas traités comme des actifs et ne sont pas profilés.
Fichiers d'un fichier archive, par exemple, un fichier .zip. Le fichier archive est référencé par l'actif de données et les fichiers compressés ne sont pas profilés.
Tout ; les ensembles de données des connexions basées sur des fichiers ne peuvent pas comporter plus de 4 999 colonnes
Autorisations requises
Pour créer, gérer et exécuter un enrichissement de métadonnées, vous devez disposer du rôle Admin ou Editeur dans le projet et disposer au moins de l'accès en affichage aux catégories que vous souhaitez utiliser dans l'enrichissement. Vous devez également être autorisé à accéder aux connexions aux sources de données des actifs de données à enrichir.
Si l'une de ces connexions est verrouillée, il vous est demandé de saisir vos informations d'identification personnelles. Il s'agit d'une étape unique qui débloque définitivement les connexions pour vous.
Toutes les opérations exécutées dans le cadre d'un enrichissement de métadonnées requièrent des données d'identification pour une autorisation sécurisée. En règle générale, votre clé d'API utilisateur est utilisée pour exécuter ces opérations de longue durée sans interruption. Si les données d'identification ne sont pas disponibles lorsque vous créez un enrichissement de métadonnées ou que vous tentez d'exécuter un type d'enrichissement, vous êtes invité à créer une clé d'API. Cette clé d'API est ensuite sauvegardée en tant que données d'identification de la tâche. Voir Gestion de la clé d'API utilisateur.
Vous pouvez également créer, éditer, exécuter ou supprimer des enrichissements de métadonnées à l'aide d'API à la place de l'interface utilisateur. Les liens vers ces API sont répertoriés dans la section En savoir plus .
Présentation de l'enrichissement de métadonnées
Copy link to section
L'enrichissement d'actifs de données consiste en :
Identifier les actifs de données que vous voulez enrichir.
Dans un projet, créez un actif d'enrichissement de métadonnées pour configurer les détails de l'enrichissement, tels que la portée et l'objectif de l'enrichissement, ainsi que la planification du travail d'enrichissement.
Exécuter le travail d'enrichissement.
Pour chaque actif de données inclus dans l'enrichissement, utilisez les résultats de l'actif d'enrichissement de métadonnées:
Cerner les anomalies et les problèmes de qualité et prendre les mesures appropriées pour résoudre les problèmes.
Passez en revue le contenu généré, tel que les noms d'affichage ou les descriptions générées par l'IA.
Vérifier les affectations de termes et évaluer les suggestions à terme et y donner suite.
Gérer les affectations de classes de données au niveau de la colonne.
Gérer les classifications.
Identifiez et définissez les clés primaires et les relations.
Détectez les données redondantes ou qui se chevauchent.
Vous pouvez également accéder aux résultats d'enrichissement et travailler avec eux dans le profil de chaque actif individuel. Voir Profils d'actif. Des informations détaillées sur la qualité sont disponibles dans l'onglet Qualité de données d'un actif.
Réévaluer les actifs concernés.
Publier les données et les résultats selon les besoins.
Vous pouvez effectuer la plupart des tâches avec des API à la place de l'interface utilisateur. Les liens vers l' API IBM Knowledge Catalog sont listés pour chaque tâche applicable.
Si vous pouvez ajouter des actifs connectés individuels à un enrichissement de métadonnées, l'enrichissement des métadonnées est destiné aux actifs de données de traitement en bloc ajoutés au projet via l'importation de métadonnées.
Pour garantir une utilisation cohérente des options d'enrichissement, vous pouvez configurer des paramètres par défaut pour tous les actifs d'enrichissement de métadonnées d'un projet. Pour ouvrir la page des paramètres, allez dans Gestion > Enrichissement des métadonnées. Vous pouvez également ouvrir une ressource d'enrichissement des métadonnées existante et cliquer sur Paramètres par défaut.
Pour la gestion de la charge de travail, l'exécution des tâches d'enrichissement des métadonnées peut être limitée à des fenêtres d'exécution. Un administrateur de projet peut définir de telles fenêtres dans Gérer > Fenêtres d'exécution des travaux.
Use this interactive map to learn about the relationships between your tasks, the tools you need, the services that provide the tools, and where you use the tools.
Select any task, tool, service, or workspace
You'll learn what you need, how to get it, and where to use it.
Some tools perform the same tasks but have different features and levels of automation.
Jupyter notebook editor
Prepare data
Visualize data
Build models
Deploy assets
Create a notebook in which you run Python, R, or Scala code to prepare, visualize, and analyze data, or build a model.
AutoAI
Build models
Automatically analyze your tabular data and generate candidate model pipelines customized for your predictive modeling problem.
SPSS Modeler
Prepare data
Visualize data
Build models
Create a visual flow that uses modeling algorithms to prepare data and build and train a model, using a guided approach to machine learning that doesn’t require coding.
Decision Optimization
Build models
Visualize data
Deploy assets
Create and manage scenarios to find the best solution to your optimization problem by comparing different combinations of your model, data, and solutions.
Data Refinery
Prepare data
Visualize data
Create a flow of ordered operations to cleanse and shape data. Visualize data to identify problems and discover insights.
Orchestration Pipelines
Prepare data
Build models
Deploy assets
Automate the model lifecycle, including preparing data, training models, and creating deployments.
RStudio
Prepare data
Build models
Deploy assets
Work with R notebooks and scripts in an integrated development environment.
Federated learning
Build models
Create a federated learning experiment to train a common model on a set of remote data sources. Share training results without sharing data.
Deployments
Deploy assets
Monitor models
Deploy and run your data science and AI solutions in a test or production environment.
Catalogs
Catalog data
Governance
Find and share your data and other assets.
Metadata import
Prepare data
Catalog data
Governance
Import asset metadata from a connection into a project or a catalog.
Metadata enrichment
Prepare data
Catalog data
Governance
Enrich imported asset metadata with business context, data profiling, and quality assessment.
Data quality rules
Prepare data
Governance
Measure and monitor the quality of your data.
Masking flow
Prepare data
Create and run masking flows to prepare copies of data assets that are masked by advanced data protection rules.
Governance
Governance
Create your business vocabulary to enrich assets and rules to protect data.
Data lineage
Governance
Track data movement and usage for transparency and determining data accuracy.
AI factsheet
Governance
Monitor models
Track AI models from request to production.
DataStage flow
Prepare data
Create a flow with a set of connectors and stages to transform and integrate data. Provide enriched and tailored information for your enterprise.
Data virtualization
Prepare data
Create a virtual table to segment or combine data from one or more tables.
OpenScale
Monitor models
Measure outcomes from your AI models and help ensure the fairness, explainability, and compliance of all your models.
Data replication
Prepare data
Replicate data to target systems with low latency, transactional integrity and optimized data capture.
Master data
Prepare data
Consolidate data from the disparate sources that fuel your business and establish a single, trusted, 360-degree view of your customers.
Services you can use
Services add features and tools to the platform.
watsonx.ai Studio
Develop powerful AI solutions with an integrated collaborative studio and industry-standard APIs and SDKs. Formerly known as Watson Studio.
watsonx.ai Runtime
Quickly build, run and manage generative AI and machine learning applications with built-in performance and scalability. Formerly known as Watson Machine Learning.
IBM Knowledge Catalog
Discover, profile, catalog, and share trusted data in your organization.
DataStage
Create ETL and data pipeline services for real-time, micro-batch, and batch data orchestration.
Data Virtualization
View, access, manipulate, and analyze your data without moving it.
Watson OpenScale
Monitor your AI models for bias, fairness, and trust with added transparency on how your AI models make decisions.
Data Replication
Provide efficient change data capture and near real-time data delivery with transactional integrity.
Match360 with Watson
Improve trust in AI pipelines by identifying duplicate records and providing reliable data about your customers, suppliers, or partners.
Manta Data Lineage
Increase data pipeline transparency so you can determine data accuracy throughout your models and systems.
Where you'll work
Collaborative workspaces contain tools for specific tasks.
Project
Where you work with data.
> Projects > View all projects
Catalog
Where you find and share assets.
> Catalogs > View all catalogs
Space
Where you deploy and run assets that are ready for testing or production.
> Deployments
Categories
Where you manage governance artifacts.
> Governance > Categories
Data virtualization
Where you virtualize data.
> Data > Data virtualization
Master data
Where you consolidate data into a 360 degree view.
À propos des cookies sur ce sitePour fonctionner correctement, nos sites Internet nécessitent certains cookies (requis). En outre, d'autres cookies peuvent être utilisés avec votre consentement pour analyser l'utilisation d'un site, améliorer l'expérience des utilisateurs et à des fins publicitaires.Pour plus informations, passez en revue vos options de préférences en préférences en matière de cookies. En visitant notre site Web, vous acceptez que nous traitions les informations comme décrit dans ladéclaration de confidentialité d’IBM.Pour faciliter la navigation, vos préférences en matière de cookie seront partagées dans les domaines Web d'IBM énumérés ici.