24
Databricks 开源 Delta Lake：让数据湖更可靠
source link: https://www.tuicool.com/articles/INVZvy2
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
Delta Lake 提供了数据版本控制，能够及时获取文件的每个版本，这一特性对于《通用数据保护条例》（General Data Protection Regulation，简称 GDPR）及其他相关的审计请求来说非常有帮助。文件的元数据存储顺序和数据处理过程保持一致，从而支持相同级别的数据处理和特征增强。
Delta Lake 提供了模式执行功能。可以检查数据类型以及字段是否存在，并强制设置字段以确保数据始终保持干净。此外，更改模式不需要 DDL，可以自动应用变更。
Delta Lake 部署在现有的数据湖之上，它与批处理和流式数据均兼容，并可作为一种新的数据源插入到现有的 Spark 作业中。数据以通用的 Apache Parquet 格式存储。
Delta Lake 和 MLFlow 也兼容，MLFlow 是 Databricks 在去年推出的最新的开源平台。代码可在 GitHub 上获得。
查看英文原文： Databricks Open Sources Delta Lake to Make Data Lakes More Reliable
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK