为什么浮点数据类型在使用大量数字时会给出奇怪的输出
什雷扬什
我试图了解在 spark 中使用 Float 数据类型投射大量数字的行为。
上图中的最后一个 select 语句给出了非常突然的输出。
提前致谢 ！
赫里斯托·伊利耶夫
输出并不突然。它只是对截断浮点表示的限制的演示。FloatTypein Spark 由 Java 的float32位 IEEE754 浮点数支持。它有 24 位的有效位，但 MSB 始终是1，因此实际精度只有 23 位。
123456789.6 是 1.8396495223045348... x 2 26。1.8396495223045348 是 1.110101101111001101000101011001... 二进制。将其限制为仅 24 位会导致 1.11010110111100110100011（最后一位向上舍入），即十进制的 1.8396495580673218。将它乘以 2 26得到 123456792。
本文收集自互联网，转载请注明来源。
如有侵权，请联系 [email protected] 删除。
编辑于
相关文章
TOP 榜单
- 1
UITableView的项目向下滚动后更改颜色，然后快速备份
- 2
Linux的官方Adobe Flash存储库是否已过时？
- 3
用日期数据透视表和日期顺序查询
- 4
应用发明者仅从列表中选择一个随机项一次
- 5
Mac OS X更新后的GRUB 2问题
- 6
验证REST API参数
- 7
Java Eclipse中的错误13，如何解决？
- 8
带有错误“ where”条件的查询如何返回结果？
- 9
ggplot：对齐多个分面图-所有大小不同的分面
- 10
尝试反复更改屏幕上按钮的位置 - kotlin android studio
- 11
如何从视图一次更新多行（ASP.NET - Core）
- 12
计算数据帧中每行的NA
- 13
蓝屏死机没有修复解决方案
- 14
在 Python 2.7 中。如何从文件中读取特定文本并分配给变量
- 15
离子动态工具栏背景色
- 16
VB.net将2条特定行导出到DataGridView
- 17
通过 Git 在运行 Jenkins 作业时获取 ClassNotFoundException
- 18
在Windows 7中无法删除文件（2）
- 19
python中的boto3文件上传
- 20
当我尝试下载 StanfordNLP en 模型时，出现错误
- 21
Node.js中未捕获的异常错误，发生调用
我来说两句