我正在编写一个sqoop命令,它将转换为sqoop作业。但是我希望这项工作每天创建一个新目录。因此,例如,当昨天导入作业运行时,应创建目录路径/ 2015/11/09,然后创建目录路径/ 2015/11/10。
squoop可以这样做吗?还是应该生成sqoop命令以在具有动态创建的适当目录结构的日常基础上运行?
实际上,我找到了问题的答案。我们最终使用Oozie来调度Sqoop命令。
我们可以将参数传递给Oozie的sqoop,oozie为我们提供了一种表达式语言,从中可以动态创建target-dir字符串。
我猜想最后使用哪种技术来安排工作,这对于建立目标目录参数是合理的。
本文收集自互联网,转载请注明来源。
如有侵权,请联系 [email protected] 删除。
我来说两句