Elasticsearch集群分片分配

本篇文章将介绍如下内容：

• 集群级的分片分配设置
• 分片再平衡设置
• 基于磁盘的分片分配设置

如果想了解更多关于Elasticsearch的知识，请参考：

什么是Elasticsearch?（简介）

Elasticsearch快速上手，Linux环境安装及使用

Elasticsearch启动及配置

分片分配的意思是将索引的分片分配到Elasticsearch集群中的节点上，这个过程会发生在初始恢复、副本分配、再平衡、节点加入、节点离开等情况。Master节点的主要职能是决定，哪些分片应当分配到哪些节点上，发生再平衡时哪些分片需要在节点间移动。

有一些设置可以控制分片的分配策略：

• 集群级的分片分配设置 集群级控制分片分配
• 分片再平衡设置 控制分片再平衡的策略
• 基于磁盘的分片分配设置 设置磁盘空间如何影响分片分配策略

1、集群级分片分配，可以使用下面的一些配置控制分片分配和恢复。

cluster.routing.allocation.enable

启用或者禁用分配分片:

• all 默认是all，允许所有分片的分配
• primaries 只允许主分片分配
• new_primaries 只允许新创建的索引分配主分片
• none 禁用分片分配

当重启一个节点时，此配置不会影响主分片的恢复。重新启动的节点，拥有未分配的主分片时，会立即分配此主分片（前提是其分配ID，在集群状态中是活跃的）。

cluster.routing.allocation.node_concurrent_incoming_recoveries

一个节点同时允许处理多少个传入分片的恢复。传入恢复是指将目标分片分配到当前节点上（一般是指另一个节点上的分片，在当前节点恢复出一个副本，除非发生再平衡，有可分配的是主分片）。默认值是2，即每个节点最多同时处理2个传入分片的分配。

cluster.routing.allocation.node_concurrent_outgoing_recoveries

一个节点同时允许处理多少个传出分片。传出分片是指源分片（从当前节点传入另一个节点），一般是未分配副本的主分片。

cluster.routing.allocation.node_concurrent_recoveries

此配置生效后，可以给上面两个参数设置相同的值，使上面两个参数都生效。

cluster.routing.allocation.node_initial_primaries_recoveries

同时允许多少个主分片恢复数据。当副本通过网络恢复，节点重启后主分片从本地磁盘恢复时，这个速度将会很快，所以允许一个节点有更多的主分片同时恢复。默认值4。

cluster.routing.allocation.same_shard.host

是否允许检查，阻止拥有相同数据的主分片和副本分配到同一台机器，基于host name和 host address进行设置。默认不检查这个服务器参数。这个设置只会在同一个服务器上部署了多个Elasticsearch节点时有用。

2、分片再平衡配置

当集群中所有的节点拥有相同的分片数，而不是所有分片都集中在一个节点上，集群就是平衡的状态。Elasticsearch在后台运行着一个再平衡的程序，需要时让分片在各个节点间移动，以保持集群的平衡。再平衡会遵守平衡过滤、分片分配意识等配置（后面的文章会分析这两个配置），这些配置可能导致节点不能达到真正的平衡。可以使用下面的配置控制集群再平衡的策略：

cluster.routing.rebalance.enable

启用或者禁用特定类型的分片再平衡策略：

• all 允许所有类型的分片执行再平衡
• primaries 只允许主分片进行执行再平衡
• replicas 只允许副本执行再平衡
• none 禁用再平衡策略

cluster.routing.allocation.allow_rebalance

定义什么情况下允许执行再平衡：

• always 任何时刻都允许
• indices_primaries_active 仅仅当所有的主分片都已经分配了
• indices_all_active 默认值；所有的分片都分配了才可以

luster.routing.allocation.cluster_concurrent_rebalanc

定义集群同时允许多少个分片执行再平衡功能，默认2。

3、基于磁盘的分片分配设置

基于磁盘的分片分配设置是为了控制每个节点都有足够的磁盘空间，以防止不必要的分片迁移。使用高低水位来作条件，对分片分配策略进行调整。其主要目的就是为了让所有节点都不要运行在高水位，即使运行在高水位也只是瞬时的。当节点处于高水位时，Elasticsearch会把一些分片移动至其他节点，偶尔的高水位也是正常现象。如果所有节点都处于低水位，Elasticsearch集群不会移动任何分片去保持节点处于高水位之下。所以，我们必须要确保节点的磁盘空间充足，并且要有一些节点处于低水位。

基于磁盘的分片分配也会受到分片过滤、分配分配意识的影响（后面的文章会分析这两个配置）。如果节点填满磁盘的速度，大于分片迁移到其他节点的速度，就有可能导致磁盘被打满，为了防止此类事件的发生，作为最后的手段，当磁盘达到洪泛水位时，Elasticsearch将阻止数据的写入，当然此时Elasticsearch还会继续迁移高水位的数据至其他节点上。

可以使用下面的配置控制基于磁盘的分片分配：

cluster.routing.allocation.disk.threshold_enabled

默认开启，设置false，禁用此功能

cluster.routing.allocation.disk.watermark.low

控制磁盘使用的低水位，默认85%，当节点的磁盘使用率大于85%，Elasticsearch不会分配分片。此配置不会影响新创建索引主分片的分配，但是会影响副本的分配。

cluster.routing.allocation.disk.watermark.high

控制磁盘使用的高水位，默认90%，当节点的磁盘使用率大于90%时，Elasticsearch会迁移分片至其他节点。

cluster.routing.allocation.disk.watermark.flood_stage

控制洪泛的水位值，默认是95%。当达到95%时，该节点上的索引都会被设置成只读索引，可以删除，不允许新增和修改文档。当磁盘的使用率低于高水位时，索引只读会自动解除。

cluster.info.update.interval

Elasticsearch多久检查一次各个节点的磁盘使用率，默认30秒。

（1）设置索引只读的例子

curl -X PUT "localhost:9200/customer/_settings?pretty" -H 'Content-Type: application/json' -d'
{
  "index.blocks.read_only_allow_delete": true
}
'

可以看到我们此时已经禁用了customer索引的写入

（2）尝试查询一条记录

curl -X GET "localhost:9200/customer/_doc/1?pretty"

可以看到查询不受影响

（3）尝试写入一条记录

 curl -X PUT "localhost:9200/customer/_doc/3?pretty" -H 'Content-Type: application/json' -d'
{
  "name": "John Doe"
}
'

可以看到已经不允许插入数据，报了一个error，index has read-only-allow-delete block，但是这个只是瞬时的，30秒后会自动解除，因为磁盘没有达到洪泛的阈值，30秒后会自动解除。

下一篇文章将分析如下内容：

• 分片分配意识 跨多区域分配分片
• 集群分片分配过滤 允许排除某些节点，用于节点下线

如果文章对您有帮助，欢迎关注、点赞、留言，我会持续更新Elasticsearch技术相关文章，和大家一起学习进步！

Elasticsearch快速上手，Linux环境安装及使用

什么是Elasticsearch?（简介）

Elasticsearch启动及配置