七七影院色七七_免费观看欧美a一级黄片_亚洲综合久久久久久中文字幕_国产999999在线视频免费观看,国产小视频无码,国产精品亚洲日日摸夜夜添,女人高潮潮叫免费网站,久久影院国产精品,日韩成人在线影院,欧美囗交XX×BBB视频,色在线综合高清

機(jī)械社區(qū)

標(biāo)題: 請(qǐng)教,，那位大俠能解決宏程序計(jì)算中的數(shù)值溢出問題 [打印本頁(yè)]

作者: 少年游 時(shí)間: 2009-9-6 12:15
標(biāo)題: 請(qǐng)教,，那位大俠能解決宏程序計(jì)算中的數(shù)值溢出問題
最近編了一個(gè)宏程序,，其中有一個(gè)計(jì)算數(shù)值的程序段“#110=6.0-6.3+0.3”其結(jié)果應(yīng)該得0,。但在存儲(chǔ)器中顯示的是“******" 這應(yīng)該是十進(jìn)制轉(zhuǎn)換為二進(jìn)制計(jì)算后出現(xiàn)的溢出現(xiàn)象，但要是采用取整的方法,，加工精度會(huì)受到影響,。請(qǐng)教各位大俠,，是否有更好的方法,。

作者: 車刀 時(shí)間: 2009-9-6 16:00
用INT表示向上取整,，假如你要的精度是0.001,，那么
#110=(INT(INT((6.0-6.3+0.3)*1000))-0.1))/1000

作者: 少年游 時(shí)間: 2012-1-19 13:31
謝謝大俠指教{:soso_e179:}

歡迎光臨機(jī)械社區(qū) (http://97307.cn/)

<ul id="8q4k8"></ul>

<ul id="8q4k8"></ul>