La función de sistema MathLib.precision devuelve la precisión máxima (en dígitos decimales) de un número. Para números de coma flotante (HEX de 8 dígitos para número de coma flotante de precisión estándar o HEX de 16 dígitos para número de coma flotante de precisión doble), la precisión es el número máximo de dígitos decimales que pueden representarse en el número para el sistema en el que se ejecuta el programa.
MathLib.precision(campoNumérico mathLibNumber in) returns (resultado INT)
result = MathLib.precision(myItem);
Conceptos relacionados
Diagrama de sintaxis para funciones EGL
Consulta relacionada
Biblioteca MathLib de EGL