在AWS Glue作业中写入S3时是否可以指定SSE:KMS密钥ID?

斯蒂芬·保罗格

如果您遵循AWS Glue添加作业向导创建脚本以将镶木地板文件写入S3,则最终会生成类似以下的代码。

datasink4 = glueContext.write_dynamic_frame.from_options(
    frame=dropnullfields3,
    connection_type="s3",
    connection_options={"path": "s3://my-s3-bucket/datafile.parquet"},
    format="parquet",
    transformation_ctx="datasink4",
)

是否可以指定KMS密钥,以便在存储桶中对数据进行加密?

纳塔利娅

胶水scala工作

val spark: SparkContext = new SparkContext()
val glueContext: GlueContext = new GlueContext(spark)
spark.hadoopConfiguration.set("fs.s3.enableServerSideEncryption", "true")
spark.hadoopConfiguration.set("fs.s3.serverSideEncryption.kms.keyId", args("ENCRYPTION_KEY"))

我认为Python的语法应该有所不同,但思路相同

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章

AWS Glue作业以实木复合地板格式写入s3错误,未找到

在AWS Glue ETL作业中从S3加载分区的json文件

处理嵌套 s3 文件夹中的分区 Parquet 文件的 AWS GLUE 作业失败

获取AWS Glue写入另一个AWS账户中的S3存储桶

Spark / Hadoop在AWS S3上不支持SSE-KMS加密

AWS DMS S3 终端节点 SSE-KMS (InvalidParameterCombinationException)

是否可以在不提供密钥的情况下访问公共AWS S3存储桶?

在哪里可以找到 AWS S3 部署密钥

Cloudfront如何分配AWS KMS密钥以获取静态加密的S3映像?

从 Apex 调用 S3 时 AWS 访问密钥无效

AWS Glue 作业 - 写入单个 Parquet 文件

AWS Glue 作业能否写入 SAP HANA?

如何通过S3 Events或AWS Lambda触发Glue ETL Pyspark作业?

AWS CDK - 为容器指定密钥时,是否可以访问 Secrets Manager 密钥中的单个 (JSON) 值?

AWS CloudWatch Events Rule是否支持S3存储桶/密钥名称中的任何通配符

仅在将特定文件(密钥)写入S3存储桶时,如何触发AWS事件规则

从 S3 解压缩文件并将其写回 S3 的 AWS Glue 作业

AWS S3默认加密可以使用另一个账户拥有的KMS密钥吗?

从heroku访问s3内容时,AWS访问密钥显示在浏览器URL中

AWS GLUE作业延迟

如何使用AWS CPP SDK检查AWS S3密钥是否存在?

AWS Lambda函数写入S3

Powershell 写入 AWS S3

AWS中的Docker卷-写入EBS,EFS,S3

创建AWS KMS密钥时出现MalformedPolicyDocumentException

AWS Glue 中的 AWS 区域

有时Lambda不会将数据写入AWS S3存储桶中

有什么方法可以在AWS Glue作业结束时触发AWS Lambda函数?

是否可以保证交付AWS S3事件通知?