第1章
策略起源:从随机游走到激励覆盖
为什么需要随机性?探索随机游走与激励覆盖的深层联系。
起源随机性
第2章
核心概念:覆盖度、收敛速度、激励效率
定义与关系,建立策略评估的基石。
定义度量
第3章
数学基础:概率论与随机过程
概率论与随机过程在策略中的核心应用。
数学随机过程
第4章
随机激励模型:MDP视角
马尔可夫决策过程框架下的激励建模。
MDP建模
第5章
收敛性分析:大数定律与中心极限定理
从经典定理看随机策略的收敛保证。
收敛定理
第6章
策略设计原则:探索与利用的平衡
Exploration vs Exploitation 经典权衡。
原则平衡
第7章
经典算法:ϵ-贪心策略
原理与实现,最朴素的随机探索。
ϵ-贪心经典
第8章
进阶算法:Softmax 探索与温度参数
基于概率的软性探索策略。
Softmax温度
第9章
进阶算法:上置信界(UCB)
不确定性驱动的探索边界。
UCB置信界
第10章
汤普森采样(Thompson Sampling)实战
贝叶斯视角下的随机采样策略。
汤普森贝叶斯
第11章
策略评估:蒙特卡洛与时序差分
蒙特卡洛方法与时序差分学习。
评估MCTD
第12章
策略优化:策略梯度与REINFORCE
策略梯度定理与经典REINFORCE算法。
梯度REINFORCE
第13章
深度随机策略:DQN中的随机性
深度 Q 网络中的激励覆盖与探索。
DQN深度
第14章
连续动作空间:随机策略梯度
Stochastic Policy Gradient 方法详解。
连续SPG
第15章
分布式随机策略:A3C 与 PPO
A3C 与 PPO 中的激励覆盖机制。
A3CPPO
第16章
多智能体场景:协作与竞争
多智能体中的随机覆盖策略。
多智能体协作
第17章
非平稳环境:自适应随机策略
变化点检测与自适应激励。
非平稳自适应
第18章
稀疏奖励问题:随机激励如何帮助探索?
稀疏奖励场景下的探索策略。
稀疏奖励探索
第19章
安全约束下的随机策略:风险敏感控制
在安全边界内进行激励覆盖。
安全风险
第20章
样本效率:随机策略如何减少样本量?
样本效率分析与策略设计。
样本效率优化
第21章
实验设计:A/B测试与随机激励对比
A/B 测试框架下的策略评估。
A/B测试实验
第22章
工业应用:推荐系统中的随机覆盖
推荐系统里的激励与探索策略。
推荐系统工业
第23章
工业应用:自动驾驶中的随机探索
自动驾驶决策中的随机策略。
自动驾驶探索
第24章
工业应用:机器人路径规划与随机激励
机器人路径规划中的激励覆盖。
机器人路径规划
第25章
工业应用:金融交易中的随机策略
金融交易与风险控制中的随机性。
金融风控
第26章
工具与框架: Gym、Stable-Baselines3
实战工具与框架使用指南。
GymSB3
第27章
超参数调优:学习率、温度参数
随机策略中的关键超参数调优方法。
调优超参数
第28章
可视化分析:覆盖度与收敛曲线
如何可视化随机策略的覆盖与收敛。
可视化曲线
第29章
常见陷阱:方差爆炸与收敛失败
随机策略中的典型问题与诊断。
陷阱方差
第30章
未来展望:元学习与大模型时代
随机激励策略的前沿与未来。
元学习大模型