Mida, supervise y mantenga la calidad de sus datos para asegurarse de que los datos cumplen sus expectativas y estándares para casos de uso específicos.
Los datos de buena calidad se encuentran en un estado que normalmente se puede definir como apto para su uso, sin defectoso cumpliendo con las expectativas y requisitos. La calidad de datos se mide con las dimensiones de calidad predeterminadas Precisión, Completitud, Coherencia, Puntualidad, Exclusividady Validez, y cualquier dimensión de calidad personalizada.
El análisis de calidad de datos proporciona respuestas a estas preguntas:
¿Qué tan buena es la calidad general de un activo de datos?
¿Cuál de los activos de datos tiene mejor calidad?
¿Cómo ha cambiado la calidad de un activo de datos a lo largo del tiempo?
¿El activo de datos cumple mis expectativas de calidad?
Requisitos y restricciones
Copy link to section
Para la gestión de calidad de datos, existen los siguientes requisitos y restricciones.
Servicios necesarios
Copy link to section
La gestión de la calidad de los datos requiere estos servicios:
IBM Knowledge Catalog
DataStage o DataStage as a Service Anywhere ' Con DataStage, puede ejecutar reglas de calidad de datos en las regiones soportadas. Con DataStage as a Service Anywhere, puede ejecutar reglas de calidad de datos fuera de IBM Cloud mediante motores remotos. Para obtener más información sobre la configuración de motores remotos, consulte la documentación deDataStage as a Service Anywhere.
Las tareas de gestión de calidad de datos se pueden realizar en datos de cualquier tamaño.
Permisos necesarios
Copy link to section
Los roles determinan qué tareas de gestión de calidad de datos puede realizar:
Para ver definiciones y reglas de calidad de datos, debe tener al menos el rol Visor en el proyecto.
Para crear, editar o suprimir definiciones y reglas de calidad de datos, debe tener el rol Admin o el rol Editor en el proyecto. Además, debe tener el permiso de usuarioGestionar activos de calidad de datos .
Para ejecutar reglas de calidad de datos, debe tener el rol Administrador o Editor en el proyecto y el Ejecutar reglas de calidad de datospermiso de usuario.
Para ver los datos que causaron problemas de calidad de datos (la tabla de salida) desde el historial de ejecución de reglas o la página Calidad de datos, debe tener el permiso Desglosar para ver los detalles del problemausuario. Sin embargo, el activo de datos en el proyecto que se crea para la tabla de salida es accesible por cualquiera que pueda acceder a la conexión. Para limitar el acceso a este activo de datos, la conexión a la fuente de datos donde se almacena la tabla de salida debe configurarse con credenciales personales.
Para crear, editar o eliminar reglas SLA de calidad de datos, debe tener estos permisos de usuario :
Acceso a artefactos de gobernabilidad
Gestión de las normas SLA de calidad de datos
Espacios de trabajo
Copy link to section
Puede realizar tareas de gestión de calidad de datos en proyectos. La información de calidad de datos de sólo lectura está disponible en los catálogos.
Análisis y supervisión de la calidad de los datos
Copy link to section
Utilice el análisis y la supervisión de calidad de datos para evaluar los datos en función de criterios específicos. Utilice estos criterios de evaluación repetidamente a lo largo del tiempo para ver cambios importantes en la calidad de los datos que se están validando.
Después de que se haya diseñado una comprobación de calidad de datos, tiene estas opciones:
Cree una definición de calidad de datos que defina la lógica de la comprobación de datos independientemente del origen de datos. La definición contiene variables lógicas o referencias que puede enlazar o vincular a datos reales (por ejemplo, origen de datos, tabla y columna o tablas unidas) cuando crea una regla de calidad de datos que se puede ejecutar.
Después de crear una regla de calidad de datos con los enlaces necesarios basados en una definición de calidad de datos seleccionada, dicha regla se puede ejecutar. La regla genera estadísticas relevantes y puede generar una tabla de salida, en función de la configuración de la regla.
Cree una regla de calidad de datos basada en SQL.
La funcionalidad de una regla de calidad de datos puede ir desde una simple prueba de una sola columna hasta la evaluación de varias columnas dentro y entre orígenes de datos.
Evaluación de la calidad de datos
Copy link to section
Para determinar si los datos son de buena calidad, compruebe hasta qué punto los datos cumplen sus expectativas e identifique anomalías en los datos. La evaluación de la calidad de sus datos también le ayuda a conocer la estructura y el contenido de sus datos.
Control de la calidad de los datos
Copy link to section
Para garantizar que los datos importantes cumplen las expectativas de calidad de su organización, aplique reglas de SLA de calidad de datos que supervisen el cumplimiento de las normas por parte de sus datos y puedan prever la corrección de los problemas de calidad de datos detectados.
Use this interactive map to learn about the relationships between your tasks, the tools you need, the services that provide the tools, and where you use the tools.
Select any task, tool, service, or workspace
You'll learn what you need, how to get it, and where to use it.
Some tools perform the same tasks but have different features and levels of automation.
Jupyter notebook editor
Prepare data
Visualize data
Build models
Deploy assets
Create a notebook in which you run Python, R, or Scala code to prepare, visualize, and analyze data, or build a model.
AutoAI
Build models
Automatically analyze your tabular data and generate candidate model pipelines customized for your predictive modeling problem.
SPSS Modeler
Prepare data
Visualize data
Build models
Create a visual flow that uses modeling algorithms to prepare data and build and train a model, using a guided approach to machine learning that doesn’t require coding.
Decision Optimization
Build models
Visualize data
Deploy assets
Create and manage scenarios to find the best solution to your optimization problem by comparing different combinations of your model, data, and solutions.
Data Refinery
Prepare data
Visualize data
Create a flow of ordered operations to cleanse and shape data. Visualize data to identify problems and discover insights.
Orchestration Pipelines
Prepare data
Build models
Deploy assets
Automate the model lifecycle, including preparing data, training models, and creating deployments.
RStudio
Prepare data
Build models
Deploy assets
Work with R notebooks and scripts in an integrated development environment.
Federated learning
Build models
Create a federated learning experiment to train a common model on a set of remote data sources. Share training results without sharing data.
Deployments
Deploy assets
Monitor models
Deploy and run your data science and AI solutions in a test or production environment.
Catalogs
Catalog data
Governance
Find and share your data and other assets.
Metadata import
Prepare data
Catalog data
Governance
Import asset metadata from a connection into a project or a catalog.
Metadata enrichment
Prepare data
Catalog data
Governance
Enrich imported asset metadata with business context, data profiling, and quality assessment.
Data quality rules
Prepare data
Governance
Measure and monitor the quality of your data.
Masking flow
Prepare data
Create and run masking flows to prepare copies of data assets that are masked by advanced data protection rules.
Governance
Governance
Create your business vocabulary to enrich assets and rules to protect data.
Data lineage
Governance
Track data movement and usage for transparency and determining data accuracy.
AI factsheet
Governance
Monitor models
Track AI models from request to production.
DataStage flow
Prepare data
Create a flow with a set of connectors and stages to transform and integrate data. Provide enriched and tailored information for your enterprise.
Data virtualization
Prepare data
Create a virtual table to segment or combine data from one or more tables.
OpenScale
Monitor models
Measure outcomes from your AI models and help ensure the fairness, explainability, and compliance of all your models.
Data replication
Prepare data
Replicate data to target systems with low latency, transactional integrity and optimized data capture.
Master data
Prepare data
Consolidate data from the disparate sources that fuel your business and establish a single, trusted, 360-degree view of your customers.
Services you can use
Services add features and tools to the platform.
watsonx.ai Studio
Develop powerful AI solutions with an integrated collaborative studio and industry-standard APIs and SDKs. Formerly known as Watson Studio.
watsonx.ai Runtime
Quickly build, run and manage generative AI and machine learning applications with built-in performance and scalability. Formerly known as Watson Machine Learning.
IBM Knowledge Catalog
Discover, profile, catalog, and share trusted data in your organization.
DataStage
Create ETL and data pipeline services for real-time, micro-batch, and batch data orchestration.
Data Virtualization
View, access, manipulate, and analyze your data without moving it.
Watson OpenScale
Monitor your AI models for bias, fairness, and trust with added transparency on how your AI models make decisions.
Data Replication
Provide efficient change data capture and near real-time data delivery with transactional integrity.
Match360 with Watson
Improve trust in AI pipelines by identifying duplicate records and providing reliable data about your customers, suppliers, or partners.
Manta Data Lineage
Increase data pipeline transparency so you can determine data accuracy throughout your models and systems.
Where you'll work
Collaborative workspaces contain tools for specific tasks.
Project
Where you work with data.
> Projects > View all projects
Catalog
Where you find and share assets.
> Catalogs > View all catalogs
Space
Where you deploy and run assets that are ready for testing or production.
> Deployments
Categories
Where you manage governance artifacts.
> Governance > Categories
Data virtualization
Where you virtualize data.
> Data > Data virtualization
Master data
Where you consolidate data into a 360 degree view.