Sqoop。将数据导入基于日期的目录

知道不多

我正在编写一个sqoop命令,它将转换为sqoop作业。但是我希望这项工作每天创建一个新目录。因此,例如,当昨天导入作业运行时,应创建目录路径/ 2015/11/09,然后创建目录路径/ 2015/11/10。

squoop可以这样做吗?还是应该生成sqoop命令以在具有动态创建的适当目录结构的日常基础上运行?

知道不多

实际上,我找到了问题的答案。我们最终使用Oozie来调度Sqoop命令。

我们可以将参数传递给Oozie的sqoop,oozie为我们提供了一种表达式语言,从中可以动态创建target-dir字符串。

我猜想最后使用哪种技术来安排工作,这对于建立目标目录参数是合理的。

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章