首页
›
数据工程与实时数据平台
›
006-数据质量工程
›
《企业数据质量指标看板与告警平台建设》
VIP20
本课程属于:006-数据质量工程
数据工程与实时数据平台 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
企业数据质量指标看板与告警平台建设
📚 共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
数据质量看板概述
什么是数据质量看板、为什么需要它、看板在企业中的定位与价值。
概念
定位
02
核心指标体系设计
完整性、准确性、一致性、及时性、唯一性——五大维度的定义与度量。
维度
度量
03
技术选型与架构设计
前端框架(Vue/React)、后端服务(Python FastAPI)、数据库(PostgreSQL/ClickHouse)的选型理由。
架构
选型
04
数据源接入与元数据管理
如何对接Hive、Kafka、MySQL等数据源,构建统一的元数据中心。
数据源
元数据
05
数据质量规则引擎
规则的定义、解析、执行与调度——从SQL模板到动态规则配置。
规则
引擎
06
数据质量任务调度
基于Airflow或DolphinScheduler的定时任务编排,处理依赖与重试。
调度
编排
07
数据质量结果存储
设计结果表结构,存储每次校验的快照与趋势数据。
存储
快照
08
数据质量评分模型
加权评分、等级划分、趋势分析——如何量化数据健康度。
评分
模型
09
数据质量看板前端设计
UI/UX设计原则、大屏适配、图表选型(ECharts/AntV)。
前端
可视化
10
数据质量看板后端API设计
RESTful API设计规范、分页查询、聚合接口。
API
后端
11
数据质量看板实时监控
基于WebSocket或SSE的实时推送,展示最新校验结果。
实时
推送
12
数据质量告警与通知
钉钉/企微/邮件告警配置,告警级别与静默策略。
告警
通知
13
数据质量血缘分析
基于Atlas或自研的血缘解析,定位问题数据源头。
血缘
溯源
14
数据质量报告生成
自动生成周报/月报PDF,支持邮件订阅发送。
报告
PDF
15
数据质量看板权限管理
RBAC模型设计,数据源级、规则级、看板级的权限控制。
权限
RBAC
16
数据质量看板多租户支持
SaaS化设计,租户隔离与数据隔离方案。
多租户
隔离
17
数据质量看板性能优化
前端懒加载、后端缓存策略、数据库索引优化。
性能
优化
18
数据质量看板测试策略
单元测试、集成测试、端到端测试——如何保证质量。
测试
质量
19
数据质量看板部署与运维
Docker化部署、K8s编排、日志收集与监控。
部署
运维
20
数据质量看板用户反馈与迭代
埋点设计、用户行为分析、A/B测试。
反馈
迭代
21
案例实战(一):电商场景
订单数据质量监控,从规则配置到看板展示全流程。
电商
实战
22
案例实战(二):金融场景
交易数据质量监控,高精度与实时性要求下的实践。
金融
实战
23
案例实战(三):物联网场景
设备数据质量监控,海量时序数据的校验与处理。
物联网
实战
24
案例实战(四):日志场景
用户行为数据质量监控,异常检测与清洗策略。
日志
实战
25
案例实战(五):实时数仓场景
Flink实时数据质量监控,端到端延迟与准确性保障。
实时数仓
Flink
26
与数据治理平台集成
与DataHub、Apache Griffin等工具的联动,构建治理闭环。
集成
治理
27
数据可视化最佳实践
如何用图表讲好数据质量故事,提升看板洞察力。
可视化
最佳实践
28
常见坑与避坑指南
我曾经踩过的10个坑,从规则误配到性能陷阱。
避坑
经验
29
未来趋势与展望
AI辅助质量检测、主动数据治理、DataOps融合。
趋势
AI
30
课程总结与项目答辩
如何向老板/客户展示你的数据质量看板成果,亮点与复盘。
总结
答辩
所属VIP或分类
同VIP:Great-Expectations数据质量自动化校验系统
同VIP:Great-Expectations进阶与自定义插件数据质量治理实战
同VIP:企业主数据去重与实体识别系统开发