VIP20
本课程属于：002-数值分析与工程数学计算 数学计算科学计算与计算物理工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

浮点误差与计算精度控制工程

共计 30 章节
可可资料掘金营 · 点击在线试看
01
浮点误差的工程影响与课程地图
从一次数值事故看误差来源 · 精度失控后果与课程任务链路
浮点误差的工程影…课程地图
02
IEEE 754浮点格式的工程解读
符号位 · 指数位 · 尾数位布局
IEEE754浮点格式的…
03
浮点舍入模式与误差度量
就近舍入 · 定向舍入的实现差异 · 绝对误差
浮点舍入模式误差度量
04
浮点加减法的误差传播
对齐移位 · 尾数截断 · 抵消现象
浮点加减法的误差…对齐移位
05
浮点乘除与融合乘加
中间结果精度 · FMA指令的误差特性 · 在数值内核中评估FMA带来的精度收益…
浮点乘除融合乘加
06
浮点开方与超越函数的精度控制
正确舍入开方 · 多项式逼近与查表法 · 在数学库调用中设定误差容限
浮点开方超越函数的精度控…
07
浮点比较与相等判断的工程准则
容差比较 · 相对容差与绝对容差组合 · 在测试断言与业务逻辑中避免直接==
浮点比较相等判断的工程准…
08
累加求和中的误差累积
朴素求和 · Kahan补偿求和 · Neumaier求和
累加求误差累积
09
点积与矩阵乘的精度控制
分块累加 · 补偿点积 · 混合精度策略
点积矩阵乘的精度控制
10
多项式求值的稳定性设计
Horner法则 · Estrin方法 · 系数缩放
多项式求值的稳定…Horner
11
线性方程组求解的浮点误差分析
条件数 · 残差与后向误差 · 在病态系统求解中判断结果可信度
线性方程组求解的…条件数
12
矩阵分解中的精度陷阱
LU分解的主元选择 · Cholesky分解的正定性判断 · 在数值线性代数任务中规避精度失效
矩阵分解精度陷阱
13
特征值计算的浮点敏感性
幂法 · QR迭代的收敛判据 · 在振动分析案例中评估特征值误差
特征值计算的浮点…幂法
14
非线性方程求根的浮点终止条件
牛顿法 · 二分法的停止准则 · 在工程方程求解中避免假收敛
非线性方程求根的…牛顿法
15
数值积分的浮点误差权衡
梯形法 · 辛普森法的步长选择 · 在物理仿真任务中平衡截断误差与舍入误…
数值积分的浮点误…梯形法
16
常微分方程数值解的精度控制
欧拉法 · RK4的步长自适应 · 在动态系统仿真中监控局部误差与全局误…
常微分方程数值解…欧拉法
17
浮点误差的区间分析
区间算术的基本运算 · 区间扩张问题 · 在不确定性传播任务中给出结果范围
浮点误差的区间分…区间算术的基本运…
18
混合精度计算的工程决策
FP16 · BF16 · FP32
混合精度计算的工…FP16
19
浮点误差的随机建模与统计评估
舍入误差的概率分布 · 蒙特卡洛误差估计 · 在批量计算任务中量化精度风险
浮点误差的随机建…统计评估
20
编译器浮点优化与精度语义
快速数学 · 重排结合律 · FMA收缩对结果的影响
编译器浮点优化精度语义
21
浮点异常与陷阱的工程处理
无效操作 · 除零 · 溢出
浮点异常陷阱的工程处理
22
浮点代码的静态分析与动态检测
编译器警告 · Sanitizer · 精度分析工具
浮点代码的静态分…动态检测
23
浮点单元测试与精度断言设计
ULP断言 · 相对误差断言 · 黄金数据比对
浮点单元测试精度断言设计
24
浮点误差的调试与定位实战
最小复现用例 · 逐步跟踪 · 误差溯源
浮点误差的调试定位实战
25
高精度参考实现的构建
多倍精度库 · 任意精度计算 · 在算法验证任务中生成可信基准
高精度参考实现的…多倍精度库
26
浮点结果的可复现性工程
并行归约顺序 · 编译器差异 · 硬件差异
浮点结果的可复现…并行归约顺序
27
GPU与加速器上的浮点精度控制
线程归约 · 原子操作 · 精度模式
GPU加速器上的浮点精…
28
嵌入式与实时系统中的浮点精度约束
定点化替代 · 浮点单元限制 · 实时性要求
嵌入式实时系统
29
浮点误差控制的设计模式与代码规范
误差预算 · 精度契约 · 防御性编程
浮点误差控制的设…代码规范
30
综合实战
从需求到交付的浮点精度控制项目 · 完成误差分析 · 方案设计
综合实战从需求到交付的浮…