news 2026/5/13 9:18:04

ElasticSearch 从入门到实战:全文检索服务全解析

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
ElasticSearch 从入门到实战:全文检索服务全解析

一、为什么选择 ElasticSearch?

1.1 为什么选择 ElasticSearch?

在电商、资讯等平台的搜索场景中,用户输入的关键词千变万化,传统数据库的字段匹配查询早已无法满足需求,eg:MySQL搜索多个字段模糊匹配,要多次全表扫描。

而 ElasticSearch(简称 ES)作为基于Lucene的分布式全文检索服务器,凭借词元匹配 + 倒排索引的核心机制,对外提供Restful 接口来操作索引、搜索,能轻松实现灵活的全文检索。

1.2 ES 核心特性

  • 基于 Lucene 封装,隐藏底层复杂性,对外提供 RESTful API 操作索引 / 搜索;
  • 分布式架构,支持实时搜索、高可用、高并发;
  • 对比 Solr:现有 Solr 满足需求则无需替换,新项目优先选 ES(Github 等大规模场景验证)。

二、ElasticSearch 核心原理

2.1 倒排索引(核心)

索引结构图

正排索引:文档→关键字(如同逐页查字典);

倒排索引: ES 实现高效检索的核心,本质是 “从关键字--->文档的映射”,由三部分构成:

  1. 文档(Documents)将搜索的文档以Document方式存储起来(类似字典的正文内容)。
  2. 分词 (trem)将要搜索的文档内容分词,所有不重复的词组成分词列表(类似字典的目录)。
  3. 分词列表(trem---->documents):每个分词与所属文档的映射关系。特点:①分词不重复;②不搜索的field(字段)不参加分词 eg:img;③停用词 '的','地','得'不参与分词

注意:搜索时从trem分词列表匹配

2.2 核心概念类比

为了快速理解 ES 的结构,我们可以和关系型数据库做类比:

ElasticSearch关系型数据库说明
Index(索引库)Database(数据库)存储一组结构相似的文档
Type(类型)Table(表)ES6.x 后弱化,7.0 已移除
Document(文档)Row(行)最小数据单元,JSON 格式
Field(字段)Column(列)文档的属性,支持多类型
Shard(分片)分库分表分布式存储的核心,提升处理能力
Replica(副本)数据备份提升可用性,避免单点故障

三、ElasticSearch 环境搭建

3.1 环境要求

  • JDK 版本:1.8.0_131 及以上;
  • 系统资源:至少 4096 线程池、262144 字节虚拟内存,建议虚拟机内存≥1.5G;
  • 安全限制:ES5.0 + 不允许 root 用户启动,需创建普通用户;
  • 系统内核:CentOS 内核≥3.5(低于此版本需禁用相关插件)。

3.2 安装 ES(CentOS 为例)

ElasticSearch官网下载:https://www.elastic.co/cn/

步骤 1:创建专用用户

bash

# 创建用户组 groupadd elk # 创建用户并设置密码 useradd admin passwd admin # 将用户加入组 usermod -G elk admin # 分配目录权限 chown -R admin:elk /usr/upload chown -R admin:elk /usr/local # 切换用户 su admin
步骤 2:解压安装

bash

# 下载ES安装包(以6.2.3为例) wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.2.3.tar.gz # 解压 tar -zxvf elasticsearch-6.2.3.tar.gz -C /usr/local
步骤 3:配置文件修改

ES 的核心配置文件位于config目录下,重点修改 3 个文件:

(1)elasticsearch.yml(核心配置)

yaml

cluster.name: power_shop # 集群名称 node.name: power_shop_node_1 # 节点名称 network.host: 0.0.0.0 # 允许外网访问 http.port: 9200 # HTTP端口 transport.tcp.port: 9300 # 集群通信端口 discovery.zen.ping.unicast.hosts: ["192.168.61.135:9300"] # 集群节点 path.data: /usr/local/elasticsearch-6.2.3/data # 数据存储路径 path.logs: /usr/local/elasticsearch-6.2.3/logs # 日志路径 http.cors.enabled: true # 允许跨域(对接head插件) http.cors.allow-origin: /.*/ # 允许所有域名跨域 bootstrap.system_call_filter: false # 禁用内核检查(适配CentOS6)
(2)jvm.options(JVM 内存配置)

properties

# 初始堆内存和最大堆内存,建议设为相等且不超过物理内存的1/2 -Xms512m -Xmx512m

log4j2.properties:按需配置日志级别,默认即可。

(3)解决系统限制问题

①解决内核问题

Elasticsearch的插件要求Linux内核版本至少3.5以上版本。禁用这个插件即可。

修改elasticsearch.yml文件,在最下面添加如下配置:

bootstrap.system_call_filter: false

②解决文件创建权限问题

[1]: max file descriptors [4096] for elasticsearch process likely too low, increase to at least [65536]

Linux 默认来说,一般限制应用最多创建的文件是 4096个。但是 ES 至少需要 65536 的文件创建权限。我们用的是admin用户,而不是root,所以文件权限不足。

使用root用户修改配置文件:

vim /etc/security/limits.conf

追加下面的内容:

* soft nofile 65536 * hard nofile 65536

③解决线程开启限制问题

[2]: max number of threads [1024] for user [admin] is too low, increase to at least [4096]

默认的 Linux 限制 root 用户开启的进程可以开启任意数量的线程,其他用户开启的进程可以开启1024 个线程。必须修改限制数为4096+。因为 ES 至少需要 4096 的线程池预备。

如果虚拟机的内存是 1G,最多只能开启 3000+个线程数。至少为虚拟机分配 1.5G 以上的内存。

使用root用户修改配置:

vim /etc/security/limits.d/90-nproc.conf

修改下面的内容:

* soft nproc 1024

改为:

* soft nproc 4096

④解决虚拟内存问题

[3]: max virtual memory areas vm.max_map_count [65530] likely too low, increase to at least [262144]

ES 需要开辟一个 262144字节以上空间的虚拟内存。

使用root用户修改配置文件:

vim /etc/sysctl.conf

追加下面内容:

vm.max_map_count=655360 #限制一个进程可以拥有的VMA(虚拟内存区域)的数量

然后执行命令,让sysctl.conf配置生效:

sysctl -p
步骤 4:启动与测试

bash

./elasticsearch #或 # 后台启动ES /usr/local/elasticsearch-6.2.3/bin/elasticsearch -d # 测试是否启动成功(浏览器访问或curl) curl http://192.168.204.132:9200

返回如下 JSON 表示启动成功:

json

{ "name" : "power_shop_node_1", "cluster_name" : "power_shop", "version" : { "number" : "6.2.3", "lucene_version" : "7.2.1" }, "tagline" : "You Know, for Search" }

3.3 安装 Kibana(ES 可视化工具)

Kibana 是 ES 的官方管理工具,支持语法调试、数据可视化,推荐在 Windows 安装(简单):

  1. 下载对应版本:https://www.elastic.co/cn/downloads/past-releases/kibana-6-2-3
  2. 修改config/kibana.yml

yaml

  • server.port: 5601 server.host: "0.0.0.0" elasticsearch.url: http://192.168.18.135:9200 # 指向ES地址
    启动:bin/kibana.bat(Windows),访问http://127.0.0.1:5601即可。

3.4 安装 Head 插件

Head 是 ES 的第三方可视化插件,用来监视ES的状态,并通过head客户端和ES服务进行交互,比如创建映射、创建索引等:

bash

# 下载源码 git clone https://github.com/mobz/elasticsearch-head.git # 安装依赖并启动 cd elasticsearch-head npm install npm run start

访问http://127.0.0.1:9100,输入 ES 地址即可连接。

四、ES 快速入门(核心操作)

4.1 索引库(Index)管理

索引库包含若干相似结构的 Document 数据,相当于数据库的database。

(1)创建索引

json

# PUT /索引名 PUT /java06 { "settings": { "number_of_shards": 2, # 主分片数(一旦创建不可修改) "number_of_replicas": 1 # 副本数(可动态修改) } }

number_of_shards- 表示一个索引库将拆分成多片分别存储不同的结点,提高了ES的处理能力

number_of_replicas- 是为每个 primary shard分配的replica shard数量,提高了ES的可用性,

注意:number_of_replicas如果只有一台机器,设置为0

运行后:

(2)修改索引(仅副本数)

json

PUT /java06/_settings { "number_of_replicas" : 0 }

注意:索引一旦创建,primary shard 数量不可变化,可以改变replica 数量。

(3)删除索引

json

DELETE /java06

4.2 type管理

映射用于定义文档的字段类型、分词器等规则,相当于数据库的表结构:

elasticsearch关系数据库
index(索引库)database(数据库)
type(类型)table(表)
document(文档)row(记录)
field(域)column(字段)

注意:6.0之前的版本有type(类型)概念,type相当于关系数据库的表,ES6.x 版本之后,type概念被弱化ES官方将在ES7.0版本中彻底删除type。

json

(1) 创建type
POST /java06/course/_mapping { "properties": { "name": { "type": "text" }, "description": { "type": "text" }, "studymodel": { "type": "keyword" } } }

效果:

(2) 查询type

查询所有索引的映射:

GET /java06/course/_mapping

查询id为1的映射:

GET /java06/course/1
(3) 更新type

映射创建成功可以添加新字段,已有字段不允许更新。

(4) 删除type

通过删除索引来删除映射。

4.3 文档(Document)管理

(1)新增文档

json

# 手动指定ID PUT /java06/course/1 { "name":"Python从入门到精通", "description":"人生苦短,我用Python", "studymodel":"201002", "price":29.9, "timestamp":"2024-01-01", "pic":"python.jpg" } # 自动生成ID POST /java06/course { "name":".NET从入门到精通", "description":".NET程序员的进阶之路", "studymodel":"201003", "price":39.9 }
(2)查询文档

json

# 根据ID查询 GET /java06/course/1 # 全文检索(搜索name包含“入门”的文档) GET /java06/course/_search?q=name:入门 # 查询所有文档 GET /java06/course/_search

通过head查询数据:

(3)删除文档

json

DELETE /java06/course/1

4.4 IK 分词器(中文分词必备)

ES 默认的分词器对中文支持极差(单字分词),需安装 IK 分词器解决:

  1. 下载对应版本:https://github.com/medcl/elasticsearch-analysis-ik
  2. 解压到 ES 的plugins/ik目录,重启 ES;
  3. 两种分词模式:
    • ik_max_word:细粒度分词,往es写入时使用(如 “中华人民共和国” 拆分为多个关键词);
    • ik_smart:粗粒度分词,搜索时使用(如 “中华人民共和国” 仅拆分为自身)。
测试分词效果

json

POST /_analyze { "text":"中华人民共和国人民大会堂", "analyzer":"ik_smart" }
自定义词库

IKAnalyzer.cfg.xml:配置扩展词典和停用词典

iK分词器自带的main.dic的文件为扩展词典,stopword.dic为停用词典。注意文件格式为utf-8

若需支持专有词汇(如公司名、行业术语),可在 IK 的config目录新建my.dic,添加自定义词汇后,修改IKAnalyzer.cfg.xml引入该词库即可。

4.5 ES 读写核心逻辑

(1)数据路由 documnet routing

当客户端创建document时,es需要确定这个document放在该index哪个shard上,这个过程就是document routing。

路由过程:

路由算法:shard = hash(id) %number_of_primary_shards

id:document的_id,可能是手动指定,也可能是自动生成,决定一个document在哪个shard上

number_of_primary_shards主分片數量。

(2) primary shard数量不可变原因

这也是主分片数不可改的原因(改后路由算法失效,无法查询数据)。

4.6 luke查看ES的逻辑结构

  1. 拷贝elasticsearch-6.2.3/data到windows

  2. 双击luke.bat,启动luke(注意:jdk版本需要1.8.0...)

  3. 使用luke打开data\nodes\0\indices路径

效果:

五、Field 详细配置

Field 的数据类型

类型举例
文本test、keyword(特殊的varchar)
数字integer、long、float、double

5.1 核心属性

属性说明
type字段的数据类型(text/keyword/date/numeric 等)
analyzer索引写入时分词器(如 analyzer=ik_max_word)
search_analyzer搜索时分词器(如 search_analyzer=ik_smart)
index是否索引、是否向分词列表写(false 则不可搜索,true是默认值)
_source控制原始字段是否存储 / 过滤字段,往文档写,默认是,如:excludes

5.2 Field 属性的设置标准

属性设置标准
type分词是否有意义
index是否搜索
_source是否展示

5.3 常用字段类型

(1)Text(文本字段)

支持分词,用于全文检索(如商品名称、描述):

json

POST /java06/course/_mapping { "excludes":["description"], "properties": { "name": { "type": "text", "analyzer": "ik_max_word", "search_analyzer": "ik_smart" }, "description": { "type": "text", "analyzer": "ik_max_word", "search_analyzer": "ik_smart", }, "studymodel": { "type": "keyword" } } }

name 商品名称 搜索时有意义,需拆成分词字段类型 type:text;分词器设置;需要搜索和展示,

index:true 和 _source:true 默认值都是true,可以省略;

description 商品描述在搜索时不展示,设置 _scource:excludes;商品描述也要分词;

studymodel 商品的时间,搜索时拆除分词就没有意义type:keyword;不进行分词,整个写到索引目录,比如:邮政编码、手机号码、身份证等,不需要analyzer 和 search_analyzer

(2)Keyword(关键字字段)

不分词,用于精确查询 / 排序 / 聚合(如手机号、邮政编码):

json

"studymodel":{ "type":"keyword" }
(3)Date(日期字段)

支持自定义格式,用于时间排序:

json

"timestamp": { "type": "date", "format": "yyyy-MM-dd" }
(4)Numeric(数值字段)

支持排序、区间搜索(如价格、数量):

json

"price": { "type": "float" }

六、Spring Boot 整合 ElasticSearch

6.1 客户端选择

推荐使用 RestHighLevelClient(官方主推,6.0 + 支持),替代即将废弃的 TransportClient。

6.2 工程搭建

(1)POM 依赖

xml

<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>2.3.2.RELEASE</version> </parent> <groupId>com.powershop</groupId> <artifactId>springboot_elasticsearch</artifactId> <version>1.0-SNAPSHOT</version> <properties> <elasticsearch.version>6.2.3</elasticsearch.version> </properties> <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>org.elasticsearch.client</groupId> <artifactId>elasticsearch-rest-high-level-client</artifactId> <version>${elasticsearch.version}</version> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-test</artifactId> </dependency> </dependencies> </project>
(2)配置文件(application.yml)

yaml

spring: elasticsearch: rest: uris: - http://192.168.204.132:9200
(3)启动类

java

运行

package com.powershop; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; @SpringBootApplication public class ElasticsearchApp { public static void main(String[] args) { SpringApplication.run(ElasticsearchApp.class, args); } }

7.3 索引管理(代码示例)

java

运行

package com.powershop.test; import java.io.IOException; import org.elasticsearch.action.admin.indices.create.CreateIndexRequest; import org.elasticsearch.action.admin.indices.create.CreateIndexResponse; import org.elasticsearch.client.IndicesClient; import org.elasticsearch.client.RestHighLevelClient; import org.elasticsearch.common.xcontent.XContentType; import org.junit.Test; import org.junit.runner.RunWith; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.boot.test.context.SpringBootTest; import org.springframework.test.context.junit4.SpringRunner; @RunWith(SpringRunner.class) @SpringBootTest(classes = {ElasticsearchApp.class}) public class IndexWriterTest { @Autowired private RestHighLevelClient restHighLevelClient; //创建索引库 @Test public void testCreateIndex() throws IOException { //创建“创建索引请求”对象,并设置索引名称 CreateIndexRequest createIndexRequest = new CreateIndexRequest("java06"); //设置索引参数 createIndexRequest.settings("{\n" + " \"number_of_shards\" : 2,\n" + " \"number_of_replicas\" : 0\n" + " }", XContentType.JSON); //设置映射 createIndexRequest.mapping("course", "{\r\n" + " \"_source\": {\r\n" + " \"excludes\":[\"description\"]\r\n" + " }, \r\n" + " \"properties\": {\r\n" + " \"name\": {\r\n" + " \"type\": \"text\",\r\n" + " \"analyzer\":\"ik_max_word\",\r\n" + " \"search_analyzer\":\"ik_smart\"\r\n" + " },\r\n" + " \"description\": {\r\n" + " \"type\": \"text\",\r\n" + " \"analyzer\":\"ik_max_word\",\r\n" + " \"search_analyzer\":\"ik_smart\"\r\n" + " },\r\n" + " \"studymodel\": {\r\n" + " \"type\": \"keyword\"\r\n" + " },\r\n" + " \"price\": {\r\n" + " \"type\": \"float\"\r\n" + " },\r\n" + " \"pic\":{\r\n" + " \"type\":\"text\",\r\n" + " \"index\":false\r\n" + " }\r\n" + " }\r\n" + "}", XContentType.JSON); //执行创建 IndicesClient indicesClient = restHighLevelClient.indices(); CreateIndexResponse createIndexResponse = indicesClient.create(createIndexRequest); //获取结果 boolean acknowledged = createIndexResponse.isAcknowledged(); System.out.println("索引创建结果:" + acknowledged); } }

八、总结

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/13 9:17:21

EasyRules:轻量级规则引擎的实战入门

1. 为什么你需要了解EasyRules&#xff1f; 如果你是一名开发者&#xff0c;肯定遇到过这样的场景&#xff1a;业务逻辑越来越复杂&#xff0c;代码里充斥着大量的if-else嵌套&#xff0c;每次修改都要小心翼翼&#xff0c;生怕影响其他逻辑。我曾经维护过一个用户积分系统&…

作者头像 李华
网站建设 2026/5/13 9:17:20

Arm Cortex-R52 ETMv4跟踪技术详解与应用实践

1. Cortex-R52 ETMv4跟踪技术架构解析在实时嵌入式系统开发中&#xff0c;处理器执行流的可视性至关重要。Arm Cortex-R52处理器搭载的ETMv4&#xff08;Embedded Trace Macrocell&#xff09;跟踪单元&#xff0c;为开发者提供了非侵入式的指令和数据跟踪能力。与传统的JTAG调…

作者头像 李华
网站建设 2026/5/13 9:16:14

LaTeX2Word-Equation:3分钟搞定Word数学公式的终极解决方案

LaTeX2Word-Equation&#xff1a;3分钟搞定Word数学公式的终极解决方案 【免费下载链接】LaTeX2Word-Equation Copy LaTeX Equations as Word Equations, a Chrome Extension 项目地址: https://gitcode.com/gh_mirrors/la/LaTeX2Word-Equation 还在为Word文档中复杂的数…

作者头像 李华
网站建设 2026/5/13 9:09:51

MCP服务器精选指南:为AI编程助手赋能,提升开发效率

1. 项目概述与MCP核心价值 如果你正在用Claude Code、Cursor这类AI编程助手&#xff0c;肯定遇到过这样的场景&#xff1a;你想让它帮你重构一个函数&#xff0c;它却因为看不到完整的项目结构而束手无策&#xff1b;或者你想让它查询某个API的最新文档&#xff0c;它只能基于过…

作者头像 李华
网站建设 2026/5/13 9:08:14

AI代理行为审计工具vigilo:本地无侵入的MCP监控与安全实践

1. 项目概述&#xff1a;为什么我们需要一个AI代理的“行车记录仪”&#xff1f; 如果你和我一样&#xff0c;在日常开发中深度依赖像Cursor或Claude Code这样的AI编程助手&#xff0c;那你一定经历过这样的时刻&#xff1a;早上打开编辑器&#xff0c;发现AI助手在你离开的几小…

作者头像 李华