流人 Flowman是基于Spark的ETL程序,可简化编写数据转换的过程。 主要思想是用户在纯声明性的YAML文件中编写所谓的规范,而不是在Scala或Python中编写Spark作业。 这种方法的主要优点是,封装了正确而可靠的实现的许多技术细节,并且用户可以自己专注于数据转换。 除了编写和执行数据转换外,Flowman还可以用于管理物理数据模型,即Hive表。 Flowman可以根据规范使用正确的方案创建此类表。 这有助于将所有方面(如转换和架构信息)保留在一个程序管理的单个位置。 特色功能 YAML文件中的声明性语法 数据模型管理(创建和销毁Hive表或基于文件的存储) 灵活的表达