四川盐亭网站制作公司

怎么解决yarn-cluster模式的JVM栈内存溢出问题

怎么解决yarn-cluster模式的JVM栈内存溢出问题，很多新手对此不是很清楚，为了帮助大家解决这个难题，下面小编将为大家详细讲解，有这方面需求的人可以来学习下，希望你能有所收获。

目前创新互联建站已为上1000家的企业提供了网站建设、域名、虚拟主机、网站托管、服务器租用、企业网站设计、灵台网站维护等服务，公司将坚持客户导向、应用为本的策略，正道将秉承"和谐、参与、激情"的文化，与客户和合作伙伴齐心协力一起成长，共同发展。

公司里面你的机器节点一般都是虚拟机啊！所以yarn-client会有网络激增的问题！Yarn-client模式可以跑，但是Yarn-cluster模式不能跑，就是报那么一个JVM永久代溢出的那么一个问题！

  1. spark-submit脚本提交spark application到ResourceManager

  2. 去ResourceManager申请启动ApplicationMaster

  3. 通知一个NodeManager去启动ApplicationMaster（Driver进程）

  4. ApplicationMaster去找ResourceManager申请Executor

  5. ResourceManager分配container，container代表你能启动的Executor占有的资源，包括内存+CPU返回已经启动container的NodeManager的地址

  6. ApplicationMaster去找NodeManager在container里面申请启动Executor

  7. Executor进程会反过来去向Driver注册上去

  8. 最后Driver接收到了Executor资源之后就可以去进行我们spark代码的执行了

  9. 执行到某个action就触发一个JOB

  10. DAGScheduler会划分JOB为一个个Stage

  11. TaskScheduler会划分Stage为一个个Task

  12. Task发送到Executor执行

  13. Driver就来进行Task的调度

        到这里为止，ApplicationMaster（Driver），就知道自己有哪些资源可以用（executor）。然后就会去执行job、拆分stage、提交stage的task，进行task调度，分配到各个executor上面去执行。

总结一下yarn-client和yarn-cluster模式的不同之处：

  • yarn-client模式，driver运行在本地机器上的；

  • yarn-cluster模式，driver是运行在yarn集群上某个nodemanager节点上面的。

  • yarn-client会导致本地机器负责spark作业的调度，所以网卡流量会激增；

  • yarn-cluster模式就没有这个问题。

  • yarn-client的driver运行在本地，通常来说本地机器跟yarn集群都不会在一个机房的，所以说性能可能不是特别好；

  • yarn-cluster模式下，driver是跟yarn集群运行在一个机房内，性能上来说，也会好一些。

实践经验，碰到的yarn-cluster的问题：

  • 有的时候，运行一些包含了spark sql的spark作业，可能会碰到yarn-client模式下，可以正常提交运行；yarn-cluster模式下，可能是无法提交运行的，会报出JVM的PermGen（永久代）的内存溢出，OOM。JVM里面的一个区域，就是会放Class里面一些字符串常量这些东西的。

  • yarn-client模式下，driver是运行在本地机器上的，spark使用的JVM的PermGen的配置，是本地的spark-class文件（spark客户端是默认有配置的），JVM的永久代的大小是128M，这个是没有问题的；但是呢，在yarn-cluster模式下，driver是运行在yarn集群的某个节点上的，使用的是没有经过配置的默认设置（PermGen永久代大小），82M。

  • spark-sql，它的内部是要进行很复杂的SQL的语义解析、语法树的转换等等，特别复杂，在这种复杂的情况下，如果说你的sql本身特别复杂的话，很可能会比较导致性能的消耗，内存的消耗。可能对PermGen永久代的占用会比较大。

        所以，此时，如果对永久代的占用需求，超过了82M的话，但是呢又在128M以内；就会出现如上所述的问题，yarn-client模式下，默认是128M，这个还能运行；如果在yarn-cluster模式下，默认是82M，就有问题了。会报出PermGen Out of Memory error log。


如何解决这种问题？

  • 既然是JVM的PermGen永久代内存溢出，那么就是内存不够用。咱们呢，就给yarn-cluster模式下的，driver的PermGen多设置一些。

    //spark-submit脚本中，加入以下配置即可：
--conf spark.driver.extraJavaOptions="-XX:PermSize=128M -XX:MaxPermSize=256M"

//这个就设置了driver永久代的大小，默认是128M，最大是256M。那么，这样的话，
//就可以基本保证你的spark作业不会出现上述的yarn-cluster模式导致的永久代内存溢出的问题。

多讲一句，可能还有一个问题（spark sql，sql，要注意，一个问题）

  • sql，有大量的or语句。比如where keywords='' or keywords='' or keywords='' ，当or语句，有成百上千的时候，此时可能就会出现一个driver端的jvm stack overflow，JVM栈内存溢出的问题

  • JVM栈内存溢出，基本上就是由于调用的方法层级过多，因为产生了大量的，非常深的，超出了JVM栈深度限制的，递归。递归方法。我们的猜测，spark sql，有大量or语句的时候，spark sql内部源码中，在解析sql，比如转换成语法树，或者进行执行计划的生成的时候，对or的处理是递归。or特别多的话，就会发生大量的递归。

  • JVM Stack Memory Overflow，栈内存溢出。

    • 这种时候，建议不要搞那么复杂的spark sql语句。采用替代方案：将一条sql语句，拆解成多条sql语句来执行。每条sql语句，就只有100个or子句以内；一条一条SQL语句来执行。根据生产环境经验的测试，一条sql语句，100个or子句以内，是还可以的。通常情况下，不会报那个栈内存溢出。

看完上述内容是否对您有帮助呢？如果还想对相关知识有进一步的了解或阅读更多相关文章，请关注创新互联行业资讯频道，感谢您对创新互联的支持。


当前文章：怎么解决yarn-cluster模式的JVM栈内存溢出问题
当前链接：http://scyanting.com/article/jphcso.html

其他资讯