如何查看Spark独立集群的聚合日志

pythonic

通过Spark在Yarn上运行,我可以在Spark作业完成后简单地使用yarn -logs -applicationId appId来查看聚合日志。Spark独立集群的等效方法是什么?

萨马拉斯

通过Web界面

Spark的独立模式提供了基于Web的用户界面来监视集群。主服务器和每个工作人员都有自己的Web UI,该Web UI显示群集和作业统计信息。默认情况下,您可以在端口8080上访问主服务器的Web UI。可以在配置文件中或通过命令行选项更改端口。

另外,每个作业的详细日志输出也将写入每个从属节点的工作目录(默认为SPARK_HOME / work)。您将看到每个作业的两个文件stdout和stderr,并将所有输出写入到控制台。

请在“监视和仪器”中找到更多信息

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章