java多執行緒：執行緒池原理、阻塞佇列
一、執行緒池定義和使用
jdk 1.5 之後就引入了執行緒池。
1.1 定義
從上面的空間切換看得出來，執行緒是稀缺資源，它的建立與銷燬是一個相對偏重且耗資源的操作，而Java執行緒依賴於核心執行緒，建立執行緒需要進行作業系統狀態切換。為避免資源過度消耗需要設法重用執行緒執行多個任務。執行緒池就是一個執行緒快取，負責對執行緒進行統一分配、調優與監控。（資料庫連線池也是一樣的道理）
什麼時候使用執行緒池?
單個任務處理時間比較短；需要處理的任務數量很大。
執行緒池優勢？
- 重用存在的執行緒，減少執行緒建立、消亡的開銷，提高效能、提高響應速度。
- 當任務到達時，任務可以不需要等到執行緒建立就能立即執行。
- 提高執行緒的可管理性,可統一分配,調優和監控。
1.2 執行緒池在 jdk 已有的實現
- 在 juc 包下，有一個介面：Executor ：
- Executor 又有兩個子介面：ExecutorService 和 ScheduledExecutorService，常用的介面是 ExecutorService。
- 同時常用的執行緒池的工具類叫 Executors。
例如：
ExecutorService service = Executors.newCachedThreadPool();
Executor 框架雖然提供瞭如 newFixedThreadPool()、newSingleThreadExecutor()、newCachedThreadPool()、newScheduledThreadPool() 等建立執行緒池的方法，但都有其侷限性，不夠靈活。
上面的幾種方式點進去會發現，都是用 ThreadPoolExecutor 進行建立的：
- newSingleThreadExecutor 字面意思簡單執行緒執行器。
因此，自己建立執行緒池推薦的方法就是，直接使用 ThreadPoolExecutor 進行個性化的建立：
構造方法種的引數有 7 個：
- corePoolSize：執行緒池維護執行緒的最少數量 （core : 核心）
- maximumPoolSize：執行緒池維護執行緒的最大數量，顯然必須>=1
- keepAliveTime：執行緒池維護的多餘的執行緒所允許的空閒時間，最長可以空閒多久，時間到了，如果超過 corePoolSize 的執行緒一直空閒，他們就會被銷燬。
- unit：執行緒池維護執行緒所允許的空閒時間的單位
- workQueue：執行緒池所使用的緩衝佇列，已經提交但是沒有執行的任務會放進這裡
- threadFactory：生成執行緒池種工作執行緒的執行緒工廠，一般使用預設
- handler：執行緒池對拒絕任務的處理策略，當佇列滿且工作執行緒已經達到maximumPoolSize。
阿里的 java 開發手冊，強制要求，通過 ThreadPoolExecutor 來自定義，不能使用內建的，避免資源耗盡。這個很好理解，1 的型別就只有一個核心執行緒和最大現場，2 沒有擴充套件性，3、4、5的最大執行緒數太大，記憶體會爆炸。
1.3 執行緒池使用方法
這裡我們用固定執行緒池來測試，傳入核心執行緒數為 5，最大數量自然就也是 5，
public static void main(String[] args) {
ExecutorService threadPool = Executors.newFixedThreadPool(5);
try {
//模擬10個顧客辦理業務
for (int i = 0; i < 10; i++){
//execute 執行方法，傳入引數為實現了 Runnable 介面的類
threadPool.execute(()->{
System.out.println(Thread.currentThread().getName()+"號執行緒辦理業務");
});
}
} catch (Exception e){
e.printStackTrace();
} finally {
threadPool.shutdown();
}
}
其中，execute 方法就是將任務提交的方法，我們用 lambda 表示式給 execute 方法傳入了引數，實際上相當於一個完整的實現了 Runnable 介面的類。
執行結果：
可以看到，我們迴圈了 10 次，執行任務，但是執行緒只用到了 1-5 ，其中有多次複用。
再比如，我們按照各種型別的執行緒池，自己定義一個執行緒池，核心執行緒數 2， 最大執行緒數 5，阻塞佇列長度為 3：
public static void main(String[] args) {
ExecutorService threadPool = new ThreadPoolExecutor(
2,
5,
2L,
TimeUnit.SECONDS,
new LinkedBlockingDeque<>(3),
Executors.defaultThreadFactory(),
new ThreadPoolExecutor.AbortPolicy()
);
try {
//模擬10個顧客辦理業務
for (int i = 0; i < 10; i++){
//execute 執行方法，傳入引數為實現了 Runnable 介面的類
threadPool.execute(()->{
System.out.println(Thread.currentThread().getName()+"號執行緒辦理業務");
});
}
} catch (Exception e){
e.printStackTrace();
} finally {
threadPool.shutdown();
}
}
同樣 10 個執行緒，執行起來：
可以看到，執行了 8 個任務後，就丟擲了異常，說明執行了拒絕策略。
上面兩個示例，我們的任務本身都是沒有返回值的，如果建立的任務本身需要有返回值就需要實現 Callable 介面，然後搭配FutureTask 來傳入任務，那麼執行緒池就應該呼叫 submit 方法而不是 execute。
二、執行緒池底層原理
2.1 執行緒池執行邏輯
處理的流程核心就 execute() 方法，他接收一個實現了 Runnable 介面的任務，決定對這個任務的處理策略。
下圖是一個比較形象的策略流程：
可能的情況有四種，也就是圖中的1234：
- 如果執行緒池中的執行緒數量少於corePoolSize，就建立新的核心執行緒來執行新新增的任務
- 如果執行緒池中的執行緒數量大於等於corePoolSize，但佇列workQueue未滿，則將新新增的任務放到佇列workQueue中
- 如果執行緒池中的執行緒數量大於等於corePoolSize，且佇列workQueue已滿，但執行緒池中的執行緒數量小於maximumPoolSize，則會建立新的非核心執行緒來處理被新增的任務
- 如果執行緒池中的執行緒數量等於了maximumPoolSize，就用RejectedExecutionHandler來執行拒絕策略。會丟擲異常，一般的拒絕策略是RejectedExecutionException
注意，執行的順序，在 java 裡有一個不合理的地方：
在池裡安排任務的時候，我們的核心執行緒，佇列，非核心執行緒裡面排的任務順序應該是 1 2 3；
但是真正實現上，如果三個都滿了，開始執行的時候，依次執行的順序卻是 核心執行緒，非核心執行緒，佇列。也就是執行順序會變成 1 3 2
2.2 拒絕策略
有些時候，我們並不希望拒絕策略是直接丟擲異常，那麼 jdk 裡面提供的預設拒絕策略有 4 種，他們體現在程式碼中就是 ThreadPoolExecutor 的四個靜態內部類：
2.2.1 CallerRunsPolicy：呼叫者執行策略。
這種策略不會拋棄任務，也不丟擲異常，而是將某些任務回退給呼叫者，從而降低新任務的流量。
實現非常簡單，那就是如果說 e 這個執行緒池已經 shutdown 了，那麼就什麼也不幹，也就是這個任務直接丟了；否則，r.run() ，相當於呼叫這個方法的執行緒裡直接執行了這個 Runnable 任務。
此時我們可以把 1.3 裡的程式碼修改一下，只修改策略為
CallerRunsPolicy：
可以看到，有些任務會在 main 執行緒裡處理。
2.2.2 AbortPolicy：終止策略。
拋異常。前面已經試過了，這個是預設的拒絕策略。
2.2.3 DiscardPolicy：丟棄任務。
可以看到，原始碼裡就是是什麼也不做。如果場景中允許任務丟失，這個是最好的策略。
2.2.4 DiscardOldestPolicy：拋棄佇列中等待最久的任務。
拋棄佇列中等待最久的任務，然後把當前的任務加入佇列中，嘗試再次提交當前任務。
原始碼裡也就是利用佇列操作，進行一次出隊操作，然後重新呼叫 execute 方法。
2.3 執行緒池的五種狀態
和一個正常的執行緒的生命週期區別開，這個是執行緒池裡執行緒的狀態。
- Running，能接受新任務以及處理已新增的任務；
- Shutdown，不接受新任務，可以處理已經新增的任務，也就是不能再呼叫execute或者submit了；
- Stop，不接受新任務，不處理已經新增的任務，並且中斷正在處理的任務；
- Tidying，所有的任務已經終止，CTL記錄的任務數量為0，CTL負責記錄執行緒池的執行狀態與活動執行緒數量；
- Terminated，執行緒池徹底終止，則執行緒池轉變為terminated的狀態。
如圖所示，從running狀態轉換為 shutdown，呼叫 shutdown()方法；如果呼叫shutdownNow()方法，就直接會變成stop。
terminated()是鉤子函式，預設是什麼也不做的，我們可以重寫，然後決定結束之前要做一些別的處理邏輯。這個鉤子函式，就是模板模式的方法。
三、阻塞佇列
執行緒池裡的 BlockingQueue，阻塞佇列，事實上在消費者生產者問題裡的管程法實現，我們的策略也是類似阻塞佇列的，用它來做一個快取池的作用。
阻塞佇列：任意時刻，不管併發有多高，永遠保證只有一個執行緒能夠進行佇列的入隊或出隊操作。也就意味著他是能夠保證執行緒安全的。
另外，阻塞佇列分為有界和無界佇列，理論上來說一個是佇列的size有固定，另一個是無界的。對於有界佇列來說，如果佇列存滿，只能出隊了，入隊操作就只能阻塞。
在 juc 包裡，阻塞佇列的實現有很多：
- ArrayBlockingQueue：有界阻塞佇列；
- LinkedBlockingQueue：連結串列結構（大小預設值為Integer.MAX_VALUE）的阻塞佇列；
- PriorityBlockingQueue：支援優先順序排序的無界阻塞佇列；
- DelayQueue：使用優先順序佇列實現的延遲無界阻塞佇列；
- SynchronousQueue：不儲存元素的阻塞佇列，相當於只有一個元素；
- LinkedTransferQueue：連結串列組成的無界阻塞佇列；
- LinkedBlockingDeque：連結串列組成的雙向阻塞佇列。
對於 BlockingQueue 來說，核心操作主要有幾類：插入、刪除、查詢。
其中的四種異常策略：
- 拋異常：如果阻塞佇列滿，再往佇列裡 add 插入元素會拋 IllegalStateException：Queue full，如果阻塞佇列空，再 remove 就會拋 NoSuchElementException。
- 特殊值：offer 方法：成功 true，失敗 false，poll 方法，成功就返回元素，沒有就返回 null。
- 阻塞：阻塞佇列滿的時候，生產者執行緒繼續 put 元素，佇列就會阻塞直到可以 put 資料或者響應中斷然後退出，阻塞佇列空的時候，消費者執行緒繼續 take 元素，佇列就會一直阻塞直到有元素可以 take。
- 超時退出：阻塞佇列滿的時候，會阻塞生產者執行緒且超時退出，空的時候會阻塞消費者執行緒且超時退出。
那麼使用的時候，增刪的方法按對應的同一組使用比較合理。（其實這個策略的設計對應的在單執行緒集合裡也有，那就是Deque介面的實現類 LinkedList 使用的時候，不同的增刪方法策略不同）