首页
›
数据工程与实时数据平台
›
046-机器学习数据流水线
›
《机器学习训练样本全生命周期管理》
VIP20
本课程属于:046-机器学习数据流水线
数据工程与实时数据平台 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
机器学习训练样本全生命周期管理
📚 共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
样本管理概述
样本的定义与重要性,样本管理在AI项目中的位置,核心挑战与应对思路。
基础
认知
02
样本生命周期
从采集到退役的全过程,各阶段关键任务,生命周期管理工具概览。
流程
工具
03
样本采集策略
数据源识别与评估,爬虫、API、合作等采集方法,合规与伦理考量。
采集
合规
04
样本标注入门
标注定义与类型(分类、检测、分割),工具选择与团队组建要点。
标注
入门
05
标注质量控制
一致性检查、审核流程、返工与迭代机制,保障标注结果可靠。
质量
审核
06
样本存储与版本管理
JSON、CSV、TFRecord等格式,本地与云存储架构,DVC、Git LFS版本控制。
存储
版本
07
样本清洗与预处理
缺失值处理、异常值检测、标准化归一化及数据增强基础方法。
清洗
预处理
08
样本平衡与采样
类别不平衡问题,过采样(SMOTE)、欠采样、集成采样策略。
平衡
采样
09
样本分割策略
训练/验证/测试集划分,时间序列分割,分层抽样与交叉验证。
分割
评估
10
样本元数据管理
元数据定义与作用,存储方案设计,高效查询与检索方法。
元数据
管理
11
样本血缘追踪
数据血缘概念,Marquez、OpenLineage工具,血缘在问题排查中的应用。
血缘
追踪
12
样本安全与隐私
数据脱敏技术、差分隐私、访问控制与审计,GDPR合规要点。
安全
隐私
13
样本质量评估体系
质量维度(准确性、完整性、一致性),质量评分卡与自动化检测。
评估
体系
14
样本标注工具深度解析
Label Studio、CVAT、Supervisely、Prodigy对比与选型指南。
工具
对比
15
主动学习在样本管理中的应用
主动学习原理、不确定性采样、查询策略,有效减少标注成本。
主动学习
降本
16
样本管理平台架构
平台功能模块、数据管道设计,微服务与单体架构对比分析。
架构
平台
17
样本管理API设计
RESTful API设计原则,上传/下载/查询API,API版本管理实践。
API
设计
18
样本管理中的自动化
自动化标注流水线、质量门禁、报告生成,提升效率与一致性。
自动化
流水线
19
样本管理中的协作
多人标注协作、标注者与审核者工作流,冲突解决机制。
协作
工作流
20
样本管理中的监控与告警
样本量监控、标注进度追踪、异常样本告警,保障项目健康。
监控
告警
21
样本管理中的成本控制
标注成本估算、存储成本优化、计算资源成本管理方法。
成本
优化
22
样本管理中的合规与审计
医疗、金融行业合规要求,审计日志与合规报告生成。
合规
审计
23
样本管理中的多模态数据
文本、图像、音频、视频统一管理,多模态对齐策略。
多模态
对齐
24
样本管理中的时间序列数据
时间序列样本特点、滑动窗口处理、时序标注策略。
时序
滑动窗口
25
样本管理中的弱监督学习
弱监督数据生成、噪声标签处理,弱监督与强监督结合。
弱监督
噪声
26
样本管理中的迁移学习
预训练样本管理、领域自适应样本选择、样本权重调整。
迁移
领域自适应
27
样本管理中的联邦学习
联邦数据分布、本地样本管理、全局样本聚合策略。
联邦
聚合
28
样本管理中的大语言模型(LLM)数据
LLM训练样本特点、指令数据构建、偏好数据收集方法。
LLM
指令
29
样本管理最佳实践
团队协作规范、文档化要求、复盘与持续改进机制。
最佳实践
规范
30
样本管理未来趋势
合成数据、数据飞轮、AI驱动的样本管理、自动化数据治理。
趋势
前沿
所属VIP或分类
同VIP:Airflow机器学习数据管道监控与告警
同VIP:Airflow机器学习训练数据管道建设
同VIP:Debezium机器学习数据增量采集