漫話:如何給女朋友解釋為什么計(jì)算機(jī)中 0.2 + 0.1 不等于 0.3 ?

導(dǎo)讀:為什么當(dāng)我們使用電腦瀏覽器計(jì)算0.2+0.1的時(shí)候,結(jié)果卻是0.30000000000000004,而0.1+0.6的結(jié)果卻是0.7呢?

















用2整除十進(jìn)制整數(shù),可以得到一個(gè)商和余數(shù); 再用2去除商,又會(huì)得到一個(gè)商和余數(shù),如此進(jìn)行,直到商為小于1時(shí)為止 然后把先得到的余數(shù)作為二進(jìn)制數(shù)的低位有效位,后得到的余數(shù)作為二進(jìn)制數(shù)的高位有效位,依次排列起來。









浮點(diǎn)數(shù)和小數(shù)并不是完全一樣的,計(jì)算機(jī)中小數(shù)的表示法,其實(shí)有定點(diǎn)和浮點(diǎn)兩種。因?yàn)樵谖粩?shù)相同的情況下,定點(diǎn)數(shù)的表示范圍要比浮點(diǎn)數(shù)小。所以在計(jì)算機(jī)科學(xué)中,使用浮點(diǎn)數(shù)來表示實(shí)數(shù)的近似值。

S(sign)表示N的符號(hào)位。對(duì)應(yīng)值s滿足:n>0時(shí),s=0; n≤0時(shí),s=1。 E(exponent)表示N的指數(shù)位,位于S和M之間的若干位。對(duì)應(yīng)值e值也可正可負(fù)。 M(mantissa)表示N的尾數(shù)位,恰好,它位于N末尾。M也叫有效數(shù)字位(significand)、系數(shù)位(coefficient), 甚至被稱作"小數(shù)"。











干貨直達(dá)??

評(píng)論
圖片
表情
