pyspark启动时卡住了
生活随笔
收集整理的這篇文章主要介紹了
pyspark启动时卡住了
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
兩種解決辦法:
①打開master:8088/cluster/scheduler
看下資源隊列是不是接近100% used(下圖中的綠色條),就會導致啟動交互模式很卡
綠色長條太長表示很多資源被占用,
你會反駁說:
我明明沒有開其他應用,我明明只開了一個pyspark啊,為啥占用資源這么多?
極有可能是你的前面一個pyspark沒有關閉干凈,自己去ps -ef查看是否都關閉干凈了。
如果有其他job任務在占用資源,自己根據自己的情況來解決資源分配問題
?
②注銷,然后重新登錄pyspark就好了。
-----------------------------------------------------------------------------------------------------------------------------------------------------------------
兩個辦法其實都是一個意思,都是為了騰出資源,
第②種更加暴力一些,第①種更加理性一些。
總結
以上是生活随笔為你收集整理的pyspark启动时卡住了的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: pyspark报错java.lang.C
- 下一篇: 世界单体最大“盐光互补”项目并网发电,每