1. 程式人生 > >Eclipse遠端除錯Spark

Eclipse遠端除錯Spark

修改配置檔案

修改${spark_home}/bin/spark-class檔案:

"$RUNNER" -Xmx128m -cp "$LAUNCH_CLASSPATH" org.apache.spark.launcher.Main -Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8888 "[email protected]"

這裡寫圖片描述

引數說明:

  • -Xdebug 啟用除錯特性

  • -Xrunjdwp 啟用JDWP實現,包含若干子選項:

  • transport=dt_socket JPDA front-end和back-end之間的傳輸方法。dt_socket表示使用套接字傳輸。

  • address=8888 JVM在8888埠上監聽請求,這個設定為一個不衝突的埠即可。

  • server=y
    y表示啟動的JVM是被除錯者。如果為n,則表示啟動的JVM是偵錯程式。

  • suspend=y y表示啟動的JVM會暫停等待,直到偵錯程式連線上才繼續執行。suspend=n,則JVM不會暫停等待。

啟動Spark Application

eclipse將專案exportjar包,傳到叢集上使用spark-submit提交Application,可以看到在等待:

這裡寫圖片描述

注意,傳到叢集上的程式碼要和本地一樣!

在Eclipse設定遠端除錯的ip和port

  • Debug as
  • Debug Configurations
  • Remote Java Application
  • 配置ip和port
    這裡寫圖片描述

相關推薦

Eclipse遠端除錯Spark

修改配置檔案 修改${spark_home}/bin/spark-class檔案: "$RUNNER" -Xmx128m -cp "$LAUNCH_CLASSPATH" org.apache.s

idea遠端除錯spark任務

1.在idea 新建Remote 2.spark任務提交,監聽啟動 spark2-submit --master yarn --deploy-mode client --class com.my.ba

eclipse遠端除錯時出現:Failed to connect to remote VM. Connection refused. Connection refused: connect

如圖: 以下都是在網路中找的解決方案: 解決方案1:服務是在root 賬戶下啟動的,關掉服務殺掉程序,然後用普通使用者登入重啟服務!(對我無效,因為我的服務不可以用普通使用者啟動) 解決方案2:在Eclipse中找到Run-Debug Configur

eclipse遠端除錯Linux下tomcat

步驟如下: 1.進入tomcat安裝路徑,進入bin目錄         2.開啟目錄下的catalina.sh檔案,找到JPDA_ADDRESS="8000",8000代表遠端除錯埠,可以更改成其他沒有被佔用的埠。如下所示               3.以debug模

eclipse遠端除錯命令列執行的maven執行程式

有的時候,我們需要除錯命令列執行的maven執行程式。該怎麼辦呢? 我們知道eclipse本身可以執行遠端除錯,具體做法網上都有不少文章, 這裡不再多說。 現在的問題就是在maven在執行時,如何能讓eclipse遠端除錯正在執行的maven程式 maven在本身也是java程式,所以只

eclipse遠端除錯連線超時問題

連線時提示連線超時,然後用命令lsof -i :8888檢視埠號已被佔用,再次連線直接報錯 上網檢視原因,只需將連線時間設定變長就OK啦,如下圖: 參考連結:http://blog.sina.com.cn/s/blog_72ef7bea01015al3.html

遠端除錯spark原始碼(基於java的除錯工具)

開發人員在進行程式編碼的過程中,不可避免的需要對程式碼進行除錯,其目的是能精確定位程式的執行狀況。本文對spark原始碼進行除錯,此除錯方式可以除錯任何JVM相關的程式,如:普通的命令列程式、web程式等。 1、實驗環境 IP hostname maste

Eclipse 遠端除錯 “Failed to connect to remote VM. Connection timed out ” error,

最近發現在 Eclipse 中進行遠端除錯別的主機上的應用的時候,總是連線不上除錯埠,報 “Failed to connect to remote vm”, 如下圖所示: 因為以前都是可以的,所以百思不得其解,Google了半天,能找到的問題一般也都是因為對方沒有開啟遠端

實戰 windows7 下 eclipse 遠端除錯 linux hadoop

恩,之所以有這篇部落格,是因為最近又有童鞋諮詢怎麼在 windows 7 下用eclipse遠端除錯部署在linux下的hadoop,其實我自己不這麼混搭的,既然有童鞋這麼問了,那我就索性隨著折騰一把了。 首先說明幾點: 遠端除錯對於本地hadoop版本、遠端hadoop版本、eclipse版本都有極

Eclipse遠端除錯(Remote debug)Tomcat

1. 配置Tomcat支援remote debugging 給JVM加上如下的啟動引數: -Xdebug -Xrunjdwp:transport=dt_socket,address=8000,server=y,suspend=n 2. Eclipse裡新建一個Remote J

使用Eclipse遠端除錯Linux伺服器Tomcat專案

工作這些年,經常會出現這樣的情況,程式執行在本機是正常的,但是放到伺服器上就出現各種bug,且伺服器通用都是linux伺服器,不方便除錯,很難排查問題,這時候就需要 用到Eclipse的遠端除錯功能。說來慚愧,博主也是最近才知道這個功能,因此整理出這個帖子,以供大家分享。

eclipse遠端除錯Java程式

最近用Java做專案時一個功能在本機除錯好好的,一部署到伺服器上就不行了,百思不得其解,於是請教老大。 “遠端debug一下”,老大雲淡風輕。 “程式碼部署到伺服器上了還能遠端debug?”,而我一臉懵逼。 老大稍作鼓搗,果然遠端除錯上了!

使用Eclipse遠端除錯雲伺服器上的微信公眾專案

雲伺服器系統:centos 7.3如何在Eclipse上除錯我們在雲伺服器上的專案呢,下面介紹一下步驟:1.因為root賬號不支援遠端除錯,首先需要在linux上建立一個新的使用者,然後用該使用者裝一個tomcat 並將專案部署上。2.該使用者的tomcat的server.x

eclipse遠端除錯Tomcat方法(測試成功並且說說遇到的坑)

PS:文中容易引起歧義的地方已經做了修改;另外,本人蔘照以下步驟操作,結果無法除錯,後來發現是breakpoints的設定。。,如圖是不跳過斷點,如果點選了就是跳過斷點。。 1、如果要除錯遠端Linux下tomcat應用,配置tomcat在catalina.sh中新增

eclipse遠端除錯Tomcat方法

1、Linux中配置tomcat在catalina.sh中新增如下 CATALINA_OPTS="-Xdebug  -Xrunjdwp:transport=dt_socket,address=8000,server=y,suspend=n"(不要換行,要在同一行) 2、W

Eclipse遠端除錯jar包

普通Java程式: 1、匯出包括除錯資訊的jar工程 在eclipse中,選擇 Window > Preferences > Java > Compiler 來修改設定。 全選Classfile Generation選項卡內的選項(這裡的選項是為了能把D

Eclipse遠端除錯Tomcat

最近,一直在研究Tomcat的工作內幕,主要的方法就是參考《How Tomcat Works》 這本書和Tomcat 5.5.26的原始碼。 Tomcat的程式碼結構還是比較清晰的,註釋也比較全。但是程式碼畢竟是靜態的,難以徹底弄清類與類之間的協作關係,以及執行時物件的互動關係。 如果能對Tomcat的

eclipse遠端除錯伺服器上tomcat的應用

我看到網上都說的是點run->debug configurations下面就有Romote Java Application。昨晚一直沒有找見,今天又看了看,原來是先在eclipse中的右上角選Debug檢視後,再點run->debug configurations,下面就有了Remote Jav

spark JAVA 開發環境搭建及遠端除錯

spark JAVA 開發環境搭建及遠端除錯 以後要在專案中使用Spark 使用者暱稱文字做一下聚類分析,找出一些違規的暱稱資訊。以前折騰過Hadoop,於是看了下Spark官網的文件以及 github 上 官方提供的examples,看完了之後決定動手跑一個文字聚類的demo,於是有了下文。 1. 環境

eclipse遠端Dug除錯

遠端debug:多用於生產環境,或本地沒有執行環境的情況下,生產環境儘量避免使用。 使用方法:          1、將play 工程的配置檔案改成dev模式,(需注意,此模式下,程式是單執行緒的);    &nbs