問題現象

在IDEA中執行sparkPI，報錯：
Exception in thread “main” org.apache.spark.SparkException: A master URL must be set in your configuration

問題根因

從提示中可以看出找不到程式執行的master，此時需要配置環境變數，指定spark叢集的執行模式。
傳遞給Spark的master url可以有如下幾種：
local 本地單執行緒
local[K] 本地多執行緒（指定K個核心）
local[*] 本地多執行緒（指定所有可用核心）
spark://HOST:PORT 連線到指定的 Spark standalone cluster master，需要指定埠。
mesos://HOST:PORT 連線到指定的 Mesos 叢集，需要指定埠。
yarn-client客戶端模式 連線到 YARN 叢集。需要配置 HADOOP_CONF_DIR。
yarn-cluster叢集模式 連線到 YARN 叢集。需要配置 HADOOP_CONF_DIR。

問題解決

方法1：配置IDEA的VM引數

點選edit configuration，在左側點選該專案。在右側在右側VM options中輸入“-Dspark.master=local”，指示本程式本地單執行緒執行，再次執行即可。

僅僅配置“local”，執行時依舊會報錯：

還是得配置成”-Dspark.master=local”才會執行成功，控制檯輸出資訊如下：

/usr/lib/java/jdk1.7.0_71/bin/java 
-Dspark.master=local 
-Didea.launcher.port=7542 
-Didea.launcher.bin.path=/usr/local
 
/idea/idea-IC-135.1306/bin 
-Dfile.encoding=UTF-8 

方法2：在程式碼中直接設定執行模式

val conf = new SparkConf().setAppName(“Spark Pi”).setMaster(“local”)

非local模式的配置

val conf = new SparkConf().setAppName("Spark Pi").setMaster("spark://Master:7077")

錯以為IDEA在執行時會去自動啟動spark分散式環境，於是手動使用stop-all.sh分別將hadoop叢集、spark叢集關閉，按如上配置後報錯：

ERROR SparkDeploySchedulerBackend: Application has been killed. Reason: All masters are unresponsive! Giving up.

使用start-all.sh手動重啟hadoop叢集、spark叢集：

重新執行SparkPI依舊報錯：
java.lang.ClassNotFoundException: org.apache.spark.examples.SparkPi$$anonfun$1

分散式的啟動配置暫時擱置，先使用local模式學習spark為先，後續再究。