sparksql性能调优 Spark的设计架构并不是为了高并发请求而设计的,我们尝试在网络条件不好的集群下,进行100并发的查询,在压测3天后发现了内存泄露。 在进行大量小SQL的压测过程中发现,有大量的activejob在spark ui上一直处于pending状态,且永远不结束
linux下部署CDH6.0.1详细步骤 CDH6安装步骤主要包括以下四部分:1.安全前置准备,包括安装操作系统、关闭防火墙、同步服务器时钟等;2.外部数据库如MySQL安装3.安装ClouderaManager;4.安装CDH集群;请务必注意CDH6的安装前置条件包括如下:•外部数据库支持:1.MySQL5.7或更高2.MariaDB5.