fixptbestexp
値の固定小数点表現を最高の精度で表現できる指数
構文
out
= fixptbestexp(RealWorldValue
, TotalBits
, IsSigned
)
out
= fixptbestexp(RealWorldValue
, FixPtDataType
)
説明
は、out
= fixptbestexp(RealWorldValue
, TotalBits
, IsSigned
)
の固定小数点表現を最高の精度で表現できる指数を返します。RealWorldValue
は固定小数点数のビット数を指定します。TotalBits
IsSigned
は、固定小数点数に符号を付けるかどうかを指定します。1
は符号付き、0
は符号なしです。
は、データ型 out
= fixptbestexp(RealWorldValue
, FixPtDataType
)
に基づいて固定小数点表現を最高の精度で表現できる指数を返します。FixPtDataType
例
実際の値 4/3 を符号付きの 16 ビット数を使用して最高の精度で表現できる指数を返します。
out = fixptbestexp(4/3,16,1)
out = -14
あるいは、次のように固定小数点データ型を指定することもできます。
out = fixptbestexp(4/3,sfix(16))
out = -14
この値は、2 進小数点の右側に 14 個のビットがあると、4/3 を最高の精度で表現できることを示します。
01.01010101010101
固定小数点ブロックによるこの表現の精度を指定するには、スケーリングを 2^-14
または 2^fixptbestexp(4/3,16,1)
とします。
バージョン履歴
R2006a より前に導入