使用AWS自动执行Hive活动

杜卡兹035

我想每天自动执行我的蜂巢脚本,为了做到这一点,我有一个选择是数据管道。但是问题在于我将数据从dynamo-db导出到s3,并使用配置单元脚本来处理这些数据。我在蜂巢脚本中提供此输入和输出,这是问题开始的地方,因为蜂巢活动必须具有输入和输出,但我必须在脚本文件中提供它们。

我正在尝试寻找一种方法来自动执行此配置单元脚本并等待一些想法?

干杯,

您可以禁用对Hive活动的暂存以运行任何任意的Hive脚本。

stage = false

做类似的事情:

{
  "name": "DefaultActivity1",
  "id": "ActivityId_1",
  "type": "HiveActivity",
  "stage": "false",
  "scriptUri": "s3://baucket/query.hql",
  "scriptVariable": [
    "param1=value1",
    "param2=value2"
  ],
  "schedule": {
    "ref": "ScheduleId_l"
  },
  "runsOn": {
    "ref": "EmrClusterId_1"
  }
},

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

如何自动执行Hive查询

来自分类Dev

如何自动执行Hive查询

来自分类Dev

如何触发自动状态机中使用的活动的补偿流的执行?

来自分类Dev

暂时禁用AWS自动扩展组活动

来自分类Dev

使用hive -e'<hive command>'执行hive加载命令

来自分类Dev

在Github上自动执行活动,以吸引潜在雇主

来自分类Dev

何时使用自动功能执行

来自分类Dev

使用Arachni执行自动扫描

来自分类Dev

使用python自动化Hive

来自分类Dev

如何使用 jinjasql 在 hive 上执行查询

来自分类Dev

如何使用AWS自动缩放?

来自分类Dev

使用python执行AWS CLI

来自分类Dev

如何每天执行AWS SSM自动化文档脚本?

来自分类Dev

AWS eb创建失败-用户无权执行:自动缩放

来自分类Dev

使用PHP自动执行PayPal付款

来自分类Dev

使用GIT自动执行AssemblyFileVersion增量

来自分类Dev

使用Selenium Webdriver自动执行Facebook登录

来自分类Dev

使用“ make -f”自动执行奇怪的行为

来自分类Dev

使用curl自动执行Web请求?

来自分类Dev

使用vim命令自动执行Bash

来自分类Dev

使用“ make -f”自动执行奇怪的行为

来自分类Dev

使用Shell脚本自动执行FTP

来自分类Dev

使用Selenium Webdriver自动执行Facebook登录

来自分类Dev

使用cronjobs,bashscripts自动执行MySQL备份

来自分类Dev

使用 cron 自动执行 bash 脚本

来自分类Dev

使用可变参数自动执行 make

来自分类Dev

使用bash脚本自动执行可执行程序

来自分类Dev

在Ruby on Rails中使用活动记录执行SQL操作

来自分类Dev

Web3.js:使用`call(..)` 是否执行网络活动?