10.3969/j.issn.1008-3111.2014.04.013
计算机浮点运算的尾数处理
浮点数在本质上仍然是以定点数表现出来的,通过浮点数中的指数使数据的表示范围得到扩展.浮点运算的尾数处理包括规格化、舍入处理和溢出处理.规格化就是使尾数部分最高有效位是1.舍入处理就是按照一定的规则确定一致的位数,然后舍去某些数字后面多余的尾数.溢出就是计算结果大于寄存器或内存所能储存或表示的能力.
浮点数、规格化、尾数
34
TP301.6(计算技术、计算机技术)
2015-04-28(万方平台首次上网日期,不代表论文的发表时间)
共3页
35-37