有关此处描述的GTS格式的一些问题:
TS/LAT:LON/ELEV NAME{LABELS} VALUE
提供LAT
和的LON
值是否有意义48.441583584062755
?还是只提供6位数的精度更方便48.441583
?优点/缺点是什么?
如果存储的值是48.441583584062755
,是否有任何现有的warpscript函数可以转换LAT值以使其达到6位精度?
谢谢你的帮助
在内部,Warp 10中的位置存储为Long(64位)中的HHCode。因此,纬度和经度分别存储在32位上。这意味着Warp 10中的HHcode的最大错误为:
要回答您的问题,最大8位十进制数字。据我所知,进一步减少十进制数字的数量并没有真正的优势:它将稍微减少所需的带宽和解析数据的时间,但会降低精度。
我不知道有任何函数可以限制Double的精度,因此您必须自己做:
48.441583584062755 10 6 ** * ROUND 10.0 6 ** /
如果经常使用,请考虑创建一个宏:
<%
'precision' STORE
10 $precision ** * ROUND 10.0 $precision ** /
%>
'reduce_precision' STORE
48.441583584062755 6 @reduce_precision
本文收集自互联网,转载请注明来源。
如有侵权,请联系 [email protected] 删除。
我来说两句