北京师范大学全球变化与地球系统科学研究院

当前位置：首页»科研成果» 2014 李建平与合作者在天津师范大学学报（自然科学版）上发表论文全球院

同符号数相加“大数吃小数”的界限：理论分析

曹靖^1，3，李建平^1，2

1. 中国科学院a.大气物理研究所，b.研究生院，北京100029

2. 北京师范大学全球变化与地球系统科学研究院，北京100875

3. 天津理工大学理学院，天津300384

摘要

研究计算机内部二进制浮点数IEEE754存储规则及相加过程，给出数值计算中两同号规范化数相加发生“大数吃小数”现象的严格理论界限，为实际数值计算中避免此类现象提供理论依据，并利用所得理论对数值试验中的现象及结论进行解释。

关键词: “大数吃小数”；数值计算；IEEE754 标准；规范化二进制浮点数

发表于：天津师范大学学报（自然科学版）, 2014, 34 (4), 25-27