关于定点机中的比例因子
???????計(jì)算機(jī)采用定點(diǎn)數(shù)表示時(shí),對(duì)于既有整數(shù)又有小數(shù)的原始數(shù)據(jù),需要設(shè)定一個(gè)比例因子,數(shù)據(jù)按比例因子縮小成定點(diǎn)小數(shù)或擴(kuò)大成定點(diǎn)整數(shù)再參加運(yùn)算,結(jié)果輸出時(shí)再按比例折算成實(shí)際值。
比例因子必須選擇恰當(dāng)。選擇不當(dāng),將會(huì)影響運(yùn)算精度,或者會(huì)使運(yùn)算結(jié)果超出機(jī)器所能表示的數(shù)據(jù)范圍,即出現(xiàn)溢出。
【例題】在定點(diǎn)小數(shù)機(jī)器中計(jì)算 11.01+10.01 選擇比例因子2-2=0.01,可將兩操作數(shù)變換為0.1101+0.1001 但 0.1101+0.1001=1.0110,運(yùn)算結(jié)果不是純小數(shù),出現(xiàn)了機(jī)器數(shù)不能表示的數(shù),
即出現(xiàn)了正溢出。 如果選擇比例因子 2-3=0.001,可將兩操作數(shù)變換為 0.01101+0.01001 則運(yùn)算結(jié)果 0.01101+0.01001=0.10110 為正常結(jié)果。將0.10110除以比例因子2-3,可得到正確結(jié)果 101.10
轉(zhuǎn)載:定點(diǎn)數(shù)中的比例因子
總結(jié)
以上是生活随笔為你收集整理的关于定点机中的比例因子的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 为啥八位的计算机可以用补码表示-128
- 下一篇: 报错“Error running ‘To