我有一列包含十進制值(在本例中為正弦值,但無關緊要),例如:0,024541229,我需要將其轉換為有符號定點二進制數,整個部分為 2 位( -2 到 1 的范圍足夠大,因為正弦值的范圍是 -1 到 1),小數部分為 6 位。
當然會有精度損失,因為 1/(2^6) = 0,015625。
Excel 函式 DEC2BIN() 或 BASE() 似乎對此沒有用。
uj5u.com熱心網友回復:
定點數本質上是一個按固定量縮放的整數。在這種情況下,如果您的實數存盤在A1中,則轉換為定點將是:
=INT(A1*2^6)
這會將數字縮放為 1.570638656 并將其截斷為 1。
轉載請註明出處,本文鏈接:https://www.uj5u.com/qiye/507887.html