1. 程式人生 > >Elasticsearch學習筆記(六)核心概念和分片shard機制

Elasticsearch學習筆記(六)核心概念和分片shard機制

服務器 存儲 play wid 讀寫 number 容錯 組成 操作

一、核心概念

1、近實時(Near Realtime NRT)

(1)從寫入數據到數據可以被搜索到有一個小延遲(大概1秒);

(2)基於es執行搜索和分析可以達到秒級

2、集群(Cluster)

一個集群下有多個節點。集群名稱,默認是elasticsearch

3、節點(Node)

集群中的一個節點,節點也有一個名稱(默認是隨機分配的),節點名稱很重要(在執行運維管理操作的時 候),默認節點會去加入一個名稱為“elasticsearch”的集群,如果直接啟動一堆節點,那麽它們會自動組成一個elasticsearch集群,當然一個節點也可以組成一個elasticsearch集群

節點通過配置集群名稱加入指定的集群

4、索引(Index)

包含一堆有相似結構的文檔數據,比如可以有一個客戶索引,商品分類索引,訂單索引,索引有一個名稱。一個index包含很多document,一個index就代表了一類類似的或者相同的document。比如說建立一個product index,商品索引,裏面可能就存放了所有的商品數據,所有的商品document。

5、類型(Type)

類型,每個索引裏都可以有一個或多個type,type是index中的一個邏輯數據分類,一個type下的document,都有相同的field,比如博客系統,有一個索引,可以定義用戶數據type,博客數據type,評論數據type。

商品index,裏面存放了所有的商品數據,商品document

但是商品分很多種類,每個種類的document的field可能不太一樣,比如說電器商品,可能還包含一些諸如售後時間範圍這樣的特殊field;生鮮商品,還包含一些諸如生鮮保質期之類的特殊field

type,日化商品type,電器商品type,生鮮商品type

日化商品type:product_id,product_name,product_desc,category_id,category_name

電器商品type:product_id,product_name,product_desc,category_id,category_name,service_period

生鮮商品type:product_id,product_name,product_desc,category_id,category_name,eat_period

每一個type裏面,都會包含一堆document

{

"product_id": "2",

"product_name": "長虹電視機",

"product_desc": "4k高清",

"category_id": "3",

"category_name": "電器",

"service_period": "1年"

}

{

"product_id": "3",

"product_name": "基圍蝦",

"product_desc": "純天然,冰島產",

"category_id": "4",

"category_name": "生鮮",

"eat_period": "7天"

}

6、文檔和字段(Document 和 field)

文檔,es中的最小數據單元,一個document可以是一條客戶數據,一條商品分類數據,一條訂單數據,通常用JSON數據結構表示,每個index下的type中,都可以去存儲多個document。一個document裏面有多個field,每個field就是一個數據字段。

product document

{

"product_id": "1",

"product_name": "高露潔牙膏",

"product_desc": "高效美白",

"category_id": "2",

"category_name": "日化用品"

}

7、shard

單臺機器無法存儲大量數據,es可以將一個索引中的數據切分為多個shard(一個index包含多個shard ),分布在多臺服務器上存儲。有了shard就可以橫向擴展,存儲更多數據,讓搜索和分析等操作分布到多臺服務器上去執行,提升吞吐量和性能。每個shard都是一個lucene index。每個shard都是一個最小工作單元,承載部分數據,lucene實例,完整的建立索引和處理請求的能力

shard分為:

(1)primary shard:主分片

(2)replica shard :備份分片,是primary shard的副本,負責容錯,以及承擔讀請求負載

任何一個服務器隨時可能故障或宕機,此時shard可能就會丟失,因此可以為每個shard創建多個replica副本。replica可以在shard故障時提供備用服務,保證數據不丟失,多個replica還可以提升搜索操作的吞吐量和性能。增減節點時,shard會自動在nodes中負載均衡。

primary shard(建立索引時一次設置,不能修改,默認5個),

replica shard(隨時修改數量,默認1個),默認每個索引10個shard,5個primary shard,5個replica shard,最小的高可用配置,是2臺服務器。

primary shard的數量在創建索引的時候就固定了,replica shard的數量可以隨時修改(primary shard的默認數量是5,replica默認是1,默認有10個shard,5個primary shard,5個replica shard )

primary shard不能和自己的replica shard放在同一個節點上(否則節點宕機,primary shard和副本都丟失,起不到容錯的作用),但是可以和其他primary shard的replica shard放在同一個節點上

每個document肯定只存在於某一個primary shard以及其對應的replica shard中,不可能存在於多個primary shard

設置索引的primary shard 和replica shard 的數量

PUT /test_index

{

"settings" : {

"number_of_shards" : 3,

"number_of_replicas" : 1

}

}

技術分享圖片

二、shard 機制

1、shard的負載均衡

2、master的選舉

3、replica容錯

primary shard宕機後,新master將某個replica shard提升為primary shard。重啟宕機node,master copy replica到該node,使用原有的shard並同步宕機後的修改。原有的primary shard降級為replica shard

4、讀寫請求

Elasticsearch學習筆記(六)核心概念和分片shard機制