博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
spark-submit常用参数
阅读量:4934 次
发布时间:2019-06-11

本文共 1222 字,大约阅读时间需要 4 分钟。

 
 

yarn模式默认启动2个executor,无论你有多少的worker节点

standalone模式每个worker一个executor,无法修改executor的数量

partition是RDD中的一个dataset,一般默认都是2个

executor中的task数量由partition数(最后一个stage的partition数)决定

Options:

  --master MASTER_URL                   选择运行模式,spark://host:port, mesos://host:port, yarn, or local.
  --deploy-mode DEPLOY_MODE    将driver运行在本地(client)或其他worker节点上(cluster) (Default: client).
  --class CLASS_NAME                     程序主类名
  --name NAME                                    应用名
  --jars JARS                                         driver和executor都需要的包,多个包之间用逗号(,)分割
  --properties-file FILE                         读取的环境变量文件位置,默认读取的位置为conf/spark-defaults.conf
  --driver-memory MEM                      driver使用的内存(e.g. 1000M, 2G) (Default: 512M).
  --driver-class-path                             driver所依赖的包,多个包之间用冒号(:)分割

  --executor-memory MEM                 每个executor使用的内存 (e.g. 1000M, 2G) (Default: 1G).

Spark standalone with cluster deploy mode only:
  --driver-cores NUM                           diver使用的 核心数(Default: 1).
  --supervise                                        重启失败的driver
  --kill SUBMISSION_ID                     删掉指定的driver

  --status SUBMISSION_ID               返回指定的driver状态

Spark standalone and Mesos only:

  --total-executor-cores NUM            所有executors使用的核心总数

YARN-only:
  --driver-cores NUM                        diver使用的 核心数(只用于cluster),(Default: 1)                      
  --executor-cores NUM                   每个executor使用的核心数 (Default: 1).
  --queue QUEUE_NAME               提交到yarn上的队列名 (Default: "default").
  --num-executors NUM                   启动的executor的数量 (Default: 2).

转载于:https://www.cnblogs.com/wuwuwu/p/6162598.html

你可能感兴趣的文章
JSP
查看>>
---
查看>>
(第一组_GNS3)自反ACl
查看>>
hdu--1258--Sum It Up(Map水过)
查看>>
Spring @DeclareParents 的扩展应用实例
查看>>
VS2012更新Update1后帮助查看器无法打开
查看>>
【Weiss】【第03章】练习3.9:大整数运算包
查看>>
Android 文件的读取和写入
查看>>
机器学习-加权采样算法简介
查看>>
高校表白APP-冲刺第四天
查看>>
outlook 设置163邮箱
查看>>
mysql优化——show processlist命令详解
查看>>
Solr服务器搭建
查看>>
画世界怎么用光影_世界绘画经典教程:水彩光影魔法教程
查看>>
win+rsync+php,跨平台的fswatch+rsync同步备份
查看>>
vue2 cdn 加载html,vue项目中使用CDN加载
查看>>
数组转集合踩坑
查看>>
node.js的异步I/O、事件驱动、单线程
查看>>
vue cli3 子目录问题
查看>>
github.com访问慢解决
查看>>