precision()

La función de sistema MathLib.precision devuelve la precisión máxima (en dígitos decimales) de un número. Para números de coma flotante (HEX de 8 dígitos para número de coma flotante de precisión estándar o HEX de 16 dígitos para número de coma flotante de precisión doble), la precisión es el número máximo de dígitos decimales que pueden representarse en el número para el sistema en el que se ejecuta el programa.

  MathLib.precision(campoNumérico mathLibNumber in)
  returns (resultado INT)
resultado
Un elemento que recibe la precisión de elementoNumérico. El elemento resultado se define como de tipo INT o el siguiente equivalente: tipo BIN con longitud 9 y sin posiciones decimales.
campoNumérico
Cualquier elemento numérico o HEX, como se describe en la sección Matemáticas (palabras del sistema).

Ejemplo

  result = MathLib.precision(myItem);

Consulta relacionada
Biblioteca MathLib de EGL

Comentarios
(C) Copyright IBM Corporation 2000, 2005. Reservados todos los derechos.