Java使用多執行緒非同步執行批量更新操作方法
阿新 • • 發佈:2021-01-14
寫在前面:
相信不少開發者在遇到專案對資料進行批量操作的時候,都會有不少的煩惱,尤其是針對資料量極大的情況下,效率問題就直接提上了菜板。因此,開多執行緒來執行批量任務是十分重要的一種批量操作思路,其實這種思路實現起來也十分簡單,就拿批量更新的操作舉例:
整體流程圖
- 步驟 獲取需要進行批量更新的大集合A,對大集合進行拆分操作,分成N個小集合A-1 ~ A-N 。
- 開啟執行緒池,針對集合的大小進行調參,對小集合進行批量更新操作。
- 對流程進行控制,控制執行緒執行順序。 按照指定大小拆分集合的工具類
import com.google.common.collect.Lists; import org.apache.commons.collections.CollectionUtils; import java.util.List; /** * 拆分結合工具類 * * @author shiwen * @date 2020/12/27 */ public class SplitListUtils { /** * 拆分集合 * * @param <T> 泛型物件 * @param resList 需要拆分的集合 * @param subListLength 每個子集合的元素個數 * @return 返回拆分後的各個集合組成的列表 * 程式碼裡面用到了guava和common的結合工具類 **/ public static <T> List<List<T>> split(List<T> resList,int subListLength) { if (CollectionUtils.isEmpty(resList) || subListLength <= 0) { return Lists.newArrayList(); } List<List<T>> ret = Lists.newArrayList(); int size = resList.size(); if (size <= subListLength) { // 資料量不足 subListLength 指定的大小 ret.add(resList); } else { int pre = size / subListLength; int last = size % subListLength; // 前面pre個集合,每個大小都是 subListLength 個元素 for (int i = 0; i < pre; i++) { List<T> itemList = Lists.newArrayList(); for (int j = 0; j < subListLength; j++) { itemList.add(resList.get(i * subListLength + j)); } ret.add(itemList); } // last的進行處理 if (last > 0) { List<T> itemList = Lists.newArrayList(); for (int i = 0; i < last; i++) { itemList.add(resList.get(pre * subListLength + i)); } ret.add(itemList); } } return ret; } // 執行程式碼 public static void main(String[] args) { List<String> list = Lists.newArrayList(); int size = 1099; for (int i = 0; i < size; i++) { list.add("hello-" + i); } // 大集合裡面包含多個小集合 List<List<String>> temps = split(list,100); int j = 0; // 對大集合裡面的每一個小集合進行操作 for (List<String> obj : temps) { System.out.println(String.format("row:%s -> size:%s,data:%s",++j,obj.size(),obj)); } } }
開啟非同步執行任務的執行緒池
public void threadMethod() { List<T> updateList = new ArrayList(); // 初始化執行緒池,引數一定要一定要一定要調好!!!! ThreadPoolExecutor threadPool = new ThreadPoolExecutor(20,50,4,TimeUnit.SECONDS,new ArrayBlockingQueue(10),new ThreadPoolExecutor.AbortPolicy()); // 大集合拆分成N個小集合,這裡集合的size可以稍微小一些(這裡我用100剛剛好),以保證多執行緒非同步執行,過大容易回到單執行緒 List<T> splitNList = SplitListUtils.split(totalList,100); // 記錄單個任務的執行次數 CountDownLatch countDownLatch = new CountDownLatch(splitNList.size()); // 對拆分的集合進行批量處理,先拆分的集合,再多執行緒執行 for (List<T> singleList : splitNList) { // 執行緒池執行 threadPool.execute(new Thread(new Runnable(){ @Override public void run() { for (Entity yangshiwen : singleList) { // 將每一個物件進行資料封裝,並新增到一個用於儲存更新資料的list // ...... // 任務個數 - 1,直至為0時喚醒await() countDownLatch.countDown(); } } })); } try { // 讓當前執行緒處於阻塞狀態,直到鎖存器計數為零 countDownLatch.await(); } catch (InterruptedException e) { throw new BusinessLogException(ResponseEnum.FAIL); } // 通過mybatis的批量插入的方式來進行資料的插入,這一步還是要做判空 if (GeneralUtil.listNotNull(updateList)) { batchUpdateEntity(updateList); LogUtil.info("xxxxxxxxxxxxxxx"); } }
寫在最後
多執行緒是Java的一個難點,但是它也很有趣,聽說玩得溜得起飛的人,人生都開啟多執行緒模式了…
到此這篇關於Java使用多執行緒非同步執行批量更新操作的文章就介紹到這了,更多相關java多執行緒非同步執行批量更新內容請搜尋我們以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援我們!