szrunluo
級別: *
![]() |
使用除法運算時(shí),DIV, 10000 / 6=1666, 余數是0.666667. 但在PC運行中計算出來(lái)的余數是4,我百思不解PC是怎樣轉換過(guò)來(lái)的結果, 請求高手指點(diǎn). |
---|---|
|
zxdha
級別: 略有小成
![]() |
簡(jiǎn)單點(diǎn)說(shuō),div或ddiv是整數運算指令,在運算時(shí)它不會(huì )去計算小數點(diǎn)后面的數據,也就是說(shuō)它只運算到個(gè)位數為止,所以余數也一定是整數。如1000除以6等于166,余數肯定為4。 而使用浮點(diǎn)運算從理論上來(lái)說(shuō)是不存在余數的。!實(shí)際應用中主要看你使用32位計算、還是使用64位計算、還是用128位計算,位數越高精確度也越高。如1000除以6等于166.66666666666.......7。請注意小數點(diǎn)后面的0.66666666666.......7它其實(shí)是商,而不是余數。! |
---|---|
本帖最近評分記錄: |