mathLib.precision

システム関数 mathLib.precision は、数値の最大精度 (10 進数) を戻します。浮動小数点数 (標準精度浮動小数点数なら 8 桁 HEX 項目、倍精度浮動小数点数なら 16 桁 HEX 項目) の場合、精度は、10 進数の最大数で、この数字はプログラムが稼働しているシステムの番号で表すことができます。


mathLib.precision 構文図
result
numericItem の精度を受信する項目。 result 項目は、タイプ INT として、または、 長さ 9 で小数点以下の桁のないタイプ BIN と同等のものとして定義されます。
numericItem
数学的 (システム・ワード)』で説明されている任意の数値項目または HEX 項目。

  result = mathLib.precision(myItem);

関連する参照項目
EGL ライブラリー MathLib

ご利用条件 | フィードバック
(C) Copyright IBM Corporation 2000, 2005. All Rights Reserved.(C) Copyright IBM Japan 2005.