系统函数 MathLib.precision 返回数字的最大精度(以小数位数计)。对于浮点数(对于标准精度浮点数,是 8 位的 HEX,对于双精度浮点数,是 16 位的 HEX),精度是对于运行程序的系统,可以在数字中表示的最大小数位数。
MathLib.precision(numericField mathLibNumber in) returns (result INT)
result = MathLib.precision(myItem);
相关概念 EGL 函数的语法图
相关参考 EGL 库 MathLib