首页
›
数据工程与实时数据平台
›
034-Kafka性能调优
›
《Kafka实时特征平台构建实战》
VIP20
本课程属于:034-Kafka性能调优
数据工程与实时数据平台 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
Kafka实时特征平台构建实战
📚 共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
特征平台概述
什么是特征平台、为什么需要特征平台、实时特征平台与离线特征平台的对比。
概念
对比
02
核心技术选型
实时计算引擎(Flink/Spark Streaming)、特征存储(Redis/HBase)、消息队列(Kafka)的选型对比。
Flink
Kafka
存储
03
架构设计原则
实时特征平台的总体架构、分层设计(接入层、计算层、存储层、服务层)、高可用与容灾设计。
架构
高可用
04
数据接入与解析
Kafka Topic设计规范、数据格式(Avro/Protobuf/JSON)选择、Schema Registry的使用。
Kafka
Schema
05
实时特征计算
Flink SQL与DataStream API的选择、窗口聚合(Tumbling/Sliding/Session)、状态管理与Checkpoint。
Flink
窗口
状态
06
特征存储设计
特征存储模型(Key-Value/Time Series)、TTL策略、特征版本管理、冷热数据分离。
存储
TTL
版本
07
特征服务API设计
高并发特征查询接口设计、批量特征获取、特征缓存策略(本地缓存/分布式缓存)。
API
缓存
高并发
08
特征生产与消费
特征生产管道(Feature Pipeline)、特征回溯(Backfill)机制、特征监控与告警。
Pipeline
回溯
09
特征一致性保障
实时与离线特征一致性校验、数据延迟处理、Exactly-Once语义保证。
一致性
Exactly-Once
10
性能优化实战
Flink作业调优(并行度/内存/网络)、特征查询优化(批量Pipeline/异步IO)、存储优化(压缩/预聚合)。
调优
Flink
存储
11
特征治理与元数据
特征注册中心、特征血缘追踪、特征质量评分、特征生命周期管理。
治理
血缘
元数据
12
安全与权限控制
特征数据脱敏、访问控制(RBAC/ABAC)、审计日志。
安全
RBAC
脱敏
13
测试与灰度发布
特征值正确性测试、A/B测试框架、灰度发布策略、回滚机制。
测试
灰度
A/B
14
监控与运维
Flink作业监控(延迟/吞吐/背压)、特征服务SLA监控、日志聚合与告警。
监控
SLA
告警
15
CI/CD与自动化部署
特征平台代码结构、自动化测试、Docker/K8s部署、GitOps实践。
CI/CD
K8s
GitOps
16
特征平台与MLOps集成
特征存储与模型训练对接、在线推理特征获取、特征重要性分析。
MLOps
推理
重要性
17
多租户与资源隔离
租户隔离策略、资源配额管理、计费与成本分析。
多租户
隔离
成本
18
实时特征平台在推荐系统中的应用
用户实时兴趣特征、物品实时热度特征、上下文特征。
推荐
实时兴趣
19
实时特征平台在风控系统中的应用
设备指纹特征、行为序列特征、图特征。
风控
设备指纹
图特征
20
实时特征平台在广告系统中的应用
实时竞价特征、用户实时转化特征、广告位特征。
广告
竞价
转化
21
特征平台与数据湖集成
特征数据入湖(Iceberg/Hudi)、历史特征回溯、特征数据质量校验。
数据湖
Iceberg
Hudi
22
特征平台与特征商店
特征市场、特征订阅、特征共享与复用。
特征商店
共享
23
特征平台与特征工程自动化
Auto Feature Engineering、特征组合、特征选择。
AutoFE
组合
选择
24
特征平台与在线学习
实时特征更新、模型在线更新、特征漂移检测。
在线学习
漂移
25
特征平台与图计算
实时图特征计算(GraphX/GeaFlow)、图特征存储与查询。
图计算
GraphX
GeaFlow
26
特征平台与流式特征存储
Feature Store for Streaming、特征时间旅行、特征快照。
流式
时间旅行
快照
27
特征平台成本优化
计算资源优化、存储资源优化、网络带宽优化。
成本
资源
优化
28
特征平台灾备与多活
异地多活架构、数据同步、故障切换。
灾备
多活
切换
29
特征平台最佳实践
大厂特征平台案例解析(Uber's Michelangelo、Airbnb's Zipline、Netflix's Feature Store)。
案例
Uber
Airbnb
Netflix
30
特征平台未来趋势
Feature as Code、Serverless Feature Store、AI驱动的特征管理。
趋势
Serverless
AI
所属VIP或分类
同VIP:Kafka内存与页缓存性能调优
同VIP:Kafka副本机制与可靠性权衡
同VIP:Kafka压缩策略选型与性能对比