比较几个不同机器上的浮点计算结果,它们始终产生不同的结果。这是一个重现该行为的精简示例:
import numpy as np
from numpy.random import randn as rand
M = 1024
N = 2048
np.random.seed(0)
a = rand(M,N).astype(dtype=np.float32)
w = rand(N,M).astype(dtype=np.float32)
b = np.dot(a, w)
for i in range(10):
b = b + np.dot(b, a)[:, :1024]
np.divide(b, 100., out=b)
print b[0,:3]
不同的机器产生不同的结果,例如
但是我也可以得到相同的结果,例如通过在同一年份的两台MacBook上运行。使用具有相同版本的Python和numpy,但不一定要链接到相同的BLAS库的机器(例如Mac上的加速框架,Ubuntu上的OpenBLAS)会发生这种情况。但是,难道不同的数字库不都应符合相同的IEEE浮点标准并给出完全相同的结果吗?
浮点计算并不总是可重复的。
你可以,如果你使用相同的可执行映像,输入,与相同的编译器和相同的编译器设置(开关)建库获得可重复的结果在不同的机器浮动计算。
但是,由于多种原因,如果您使用动态链接库,则可能会得到不同的结果。首先,正如Veedrac在评论中指出的那样,它在不同体系结构上的例程可能使用不同的算法。其次,编译器可能会根据开关(不同的优化,控制设置)产生不同的代码。甚至a+b+c
会在机器和编译器之间产生不确定的结果,因为我们不能确定评估顺序,中间计算的精度。
在这里阅读为什么不能保证在不同的IEEE 754-1985
实现上获得相同的结果。新标准(IEEE 754-2008
)试图走得更远,但仍不能保证不同实现之间的结果相同,因为例如,它允许实现者选择何时检测到微小(下溢异常)
有关浮点确定性的更多信息,请参见本文。
本文收集自互联网,转载请注明来源。
如有侵权,请联系 [email protected] 删除。
我来说两句