precision()

システム関数 MathLib.precision は、数値の最大精度 (10 進数) を戻します。浮動小数点数 (標準精度浮動小数点数なら 8 桁 HEX 項目、倍精度浮動小数点数なら 16 桁 HEX 項目) の場合、精度は、10 進数の最大数で、この数字はプログラムが稼働しているシステムの番号で表すことができます。

  MathLib.precision(numericField mathLibNumber in)
  returns (result INT)
result
numericItem の精度を受信する項目。 result 項目は、型 INT として、または、 長さ 9 で小数点以下の桁のない型 BIN と同等のものとして定義されます。
numericField
数学的 (システム・ワード)』で説明されている任意の数値項目または HEX 項目。

  result = MathLib.precision(myItem);

関連リファレンス
EGL ライブラリー MathLib

フィードバック
(C) Copyright IBM Corporation 2000, 2005. All Rights Reserved.