VIP20
本课程属于：002-数值分析与工程数学计算 数学计算科学计算与计算物理工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

计算精度与运算速度权衡设计

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入与权衡问题定义
从浮点误差导致火箭发射失败等真实案例… · 明确计算精度与运算速度的冲突本质 · 建立权衡设计思维框架
课程导入权衡问题定义
02
数值表示与精度基础
剖析定点数 · 浮点数（IEEE 754标准）的表示… · 理解舍入误差
数值表示精度基础
03
运算速度的度量与瓶颈分析
学习时间复杂度 · 吞吐量 · 延迟
运算速度的度量瓶颈分析
04
精度与速度的量化关系建模
建立误差-时间成本模型 · 推导精度每提升一位所需的额外计算开销 · 通过微基准测试拟合典型运算（如矩阵乘
精度速度的量化关系建…
05
混合精度计算原理与硬件支持
讲解FP32/FP16/BF16/I… · 分析混合精度训练中的损失缩放技术 · 在GPU上实现并对比不同精度下的推理…
混合精度计算原理硬件支持
06
算法层面的精度-速度权衡策略
研究迭代算法（如共轭梯度法）的提前终… · 近似计算（如查表法 · 多项式近似）的误差控制
算法层面的精度速度权衡策略
07
并行计算中的精度与速度
分析并行归约 · 扫描等操作的误差累积与通信开销 · 比较不同并行粒度下的数值稳定性与加速…
并行计算精度
08
编译器优化与精度控制
探索编译器自动向量化 · 快速数学库（-ffast-math）… · 学习使用编译指示（pragma）控制…
编译器优化精度控制
09
实战
图像卷积的精度-速度权衡 · 分别实现FP32 · FP16
图像卷积的精度速度权衡
10
实战
矩阵乘法的分块与精度调优 · 对比不同分块大小 · 数据布局（行主序/列主序）和精度（单…
矩阵乘法的分块精度调优
11
实战
神经网络推理的混合精度部署 · 使用TensorRT或OpenVIN… · 评估Top-1准确率与吞吐量变化
神经网络推理的混…TensorRT
12
实战
科学计算中的迭代求解器调优 · 实现Jacobi和共轭梯度法 · 调整收敛容差与浮点精度
科学计算迭代求解器调优
13
精度分析与误差传播工具
使用区间算术 · 自动微分工具（如JAX）量化计算过程… · 通过蒙特卡洛模拟评估输出不确定性
精度分析误差传播工具
14
速度优化技术
循环展开 · 向量化与内存对齐：手动优化热点循环 · 应用SIMD内在函数（如AVX2）提…
速度优化技术循环展开
15
近似计算与容错设计
在允许误差的场景（如多媒体 · 传感器融合）中 · 设计近似加法器/乘法器
近似计算容错设计
16
动态精度调整策略
根据输入数据特征或运行时负载动态切换… · 设计反馈控制器 · 在图像处理流水线中实现精度-速度的实…
动态精度调整策略根据输入数据特征…
17
GPU架构下的精度-速度实验
编写CUDA核函数 · 对比全局内存与共享内存访问 · 不同线程块大小对FP32/FP16计…
GPU架构下的精度
18
分布式计算中的精度与通信权衡
在参数服务器或AllReduce架构… · 研究梯度压缩（如量化 · 稀疏化）对收敛速度与模型精度的影响
分布式计算精度
19
实时系统中的精度-速度调度
针对自动驾驶感知或工业控制等实时场景 · 设计任务调度器 · 在截止时间约束下动态分配计算精度
实时系统精度
20
精度-速度权衡的基准测试设计
学习设计可复现的基准测试套件 · 涵盖不同算法 · 数据规模和硬件平台
精度速度权衡的基准测…
21
案例研究
深度学习训练中的混合精度实践 · 在图像分类任务上对比FP32与混合精… · 总结调参经验
案例研究深度学习训练
22
案例研究
金融风险计算中的精度选择 · 分析不同随机数生成器和浮点精度对定价… · 在保证监管要求的前提下优化计算速度
案例研究金融风险计算
23
案例研究
计算机图形学中的实时光线追踪 · 对比不同精度下的渲染速度与图像瑕疵 · 实现自适应精度采样策略
案例研究计算机图形学
24
案例研究
嵌入式DSP中的定点化设计 · 通过字长优化和饱和运算处理 · 在保证音质的前提下降低功耗与延迟
案例研究DSP
25
精度-速度权衡的评估与决策框架
建立多目标优化模型 · 结合层次分析法（AHP）或帕累托最优… · 针对给定应用场景制定精度与速度的决策…
精度速度权衡的评估
26
实战
端到端目标检测系统的权衡优化 · 从输入分辨率 · 网络精度
端到端目标检测系…从输入分辨率
27
实战
科学可视化中的精度与交互速度 · 设计多分辨率LOD策略 · 平衡渲染精度与帧率
科学可视化精度
28
前沿趋势
可重构计算与近似存储 · 近似存储（如降低DRAM刷新率）对计… · 分析新兴硬件支持下的权衡新范式
前沿趋势可重构计算
29
课程项目
完整权衡设计方案答辩 · 语音识别） · 完成精度-速度权衡设计
课程项目完整权衡设计方案…
30
课程总结与知识体系回顾
梳理精度-速度权衡的核心原则 · 方法工具箱与决策流程 · 回顾各章节实战要点
课程总结知识体系回顾