日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

c語(yǔ)言float四舍五入 float型保留幾位小數(shù)和有效數(shù)字( 二 )


3、對(duì)于E(指數(shù))E是一個(gè)字節(jié)(8位)整數(shù)所以E的取值范圍為(0~ 255),但是在計(jì)數(shù)中指數(shù)是可以為負(fù)的,所以規(guī)定在存入E時(shí),在它原本的值上加上中間數(shù)(127),在使用時(shí)減去中間數(shù)(127),這樣E的真正取值范圍就成了(-127~128) 。
因此對(duì)于32為單精度浮點(diǎn)數(shù):在IEEE-754標(biāo)準(zhǔn)中,32位浮點(diǎn)數(shù)X的真值可表示為:
X = (-1)^S×(1.M)×2 ^(E-127);
精度丟失了解了float型數(shù)據(jù)的存儲(chǔ)原理,接下來(lái)了解一下float精度丟失的原因,以浮點(diǎn)數(shù)2.7為例:
首先,十進(jìn)制轉(zhuǎn)換成二進(jìn)制 。由于2.7無(wú)法用二進(jìn)制精確表示,因此此處出現(xiàn)一次精度丟失 。
2.7 => 10.10110011001…
然后,用IEEE標(biāo)準(zhǔn)表示二進(jìn)制浮點(diǎn)數(shù),得到s=0,M=1.010110011001…,E=1 。
10.1011001… => (-1)^0 × 1.01011001… × 2^1
最后,按照IEEE標(biāo)準(zhǔn)保存數(shù)據(jù) 。此時(shí)是單精度浮點(diǎn)數(shù),M只能保存小數(shù)點(diǎn)后23位,多余的部分被丟棄了,因此此處又一次精度丟失 。

c語(yǔ)言float四舍五入 float型保留幾位小數(shù)和有效數(shù)字


精度丟失示意
溢出既然存儲(chǔ)有位數(shù)限制,那么溢出就很好理解了 。超過(guò)最大能表示的數(shù)就是上溢,超過(guò)最小能表示的數(shù)就是下溢,只要計(jì)算出最大和最小能表示的數(shù)十多大就可以得出上下溢出的極限:
上溢極限:
c語(yǔ)言float四舍五入 float型保留幾位小數(shù)和有效數(shù)字


上溢極限
下溢極限:
c語(yǔ)言float四舍五入 float型保留幾位小數(shù)和有效數(shù)字


【c語(yǔ)言float四舍五入 float型保留幾位小數(shù)和有效數(shù)字】下溢極限

推薦閱讀