ドキュメンテーション センター

  • 評価版
  • 製品アップデート

目次

最新のリリースでは、このページがまだ翻訳されていません。 このページの最新版は英語でご覧になれます。

fixptbestexp

値の固定小数点表現を最高の精度で表現できる指数

構文

out = fixptbestexp(RealWorldValue, TotalBits, IsSigned)
out = fixptbestexp(RealWorldValue, FixPtDataType)

説明

out = fixptbestexp(RealWorldValue, TotalBits, IsSigned) は、RealWorldValue の固定小数点表現を最高の精度で表現できる指数を返します。TotalBits は固定小数点数のビット数を指定します。IsSigned は、固定小数点数に符号を付けるかどうかを指定します。1 は符号付き、0 は符号なしです。

out = fixptbestexp(RealWorldValue, FixPtDataType) は、データ型 FixPtDataType に基づいて固定小数点表現を最高の精度で表現できる指数を返します。

実際の値 4/3 を符号付きの 16 ビット数を使用して最高の精度で表現できる指数を返します。

out = fixptbestexp(4/3,16,1)
out =
   -14

あるいは、次のように固定小数点データ型を指定することもできます。

out = fixptbestexp(4/3,sfix(16))
out =
   -14

この値は、2 進小数点の右側に 14 個のビットがあると、4/3 を最高の精度で表現できることを示します。

01.01010101010101

固定小数点ブロックによるこの表現の精度を指定するには、スケーリングを 2^-14 または 2^fixptbestexp(4/3,16,1) とします。

参考

この情報は役に立ちましたか?