北京师范大学全球变化与地球系统科学研究院
北京师范大学全球变化与地球系统科学研究院
   
当前位置: 首页»科研成果» 2014 李建平与合作者在天津师范大学学报(自然科学版)上发表论文 全球院

同符号数相加“大数吃小数”的界限:理论分析


曹靖13,李建平12


1.
中国科学院a.大气物理研究所,b.研究生院,北京100029

2. 北京师范大学 全球变化与地球系统科学研究院,北京100875

3. 天津理工大学 理学院,天津300384

 

摘 要

研究计算机内部二进制浮点数IEEE754存储规则及相加过程,给出数值计算中两同号规范化数相加发生“大数吃小数”现象的严格理论界限,为实际数值计算中避免此类现象提供理论依据,并利用所得理论对数值试验中的现象及结论进行解释。

关键词: “大数吃小数”;数值计算;IEEE754 标准;规范化二进制浮点数

发表于:天津师范大学学报(自然科学版), 2014, 34 (4), 25-27

来源:http://ljp.gcess.cn/thesis/files/2014-曹婧-李建平-同符号数相加_大数吃小数_的界限_理论分析.pdf