。

在大数据时代背景下#xff0c;ElasticSearch与传统的数据库相比较#xff0c;能够应对大规模的并发搜索请求#xff0c;同…ElasticSearch

1.背景

ElasticSearch的最明显的优势在于其分布式特性能够扩展到上百台服务器极大地提高了服务器的容错率。

在大数据时代背景下ElasticSearch与传统的数据库相比较能够应对大规模的并发搜索请求同时提供了包括布尔查询、短语查询、模糊匹配、排序等强大便捷的功能。

ElasticSearch是基于lucene实现的而lucene是一个只限于Java语言的搜索引擎类库属于Apache公司的1999年开发的项目。

而ElasticSearch在lucene的基础上支持分布式并且提供了Restful接口减少了整合进项目的复杂度同时也支持任何语言调用使得其成为最流行的搜索引擎类库。

总结下来ElasticSearch就是一个开源的分布式搜索引擎可以用来实现搜索、日志统计、分析、系统监控等功能同时具有很好地扩展性且通过RestFulAPI简化了其使用。

相较于MySQL来说ElasticSearch擅长海量数据的搜索、分析、计算但在事务操作的安全和一致方面来说不如MySQL在使用时往往采取二者结合使用如对安全性要求较高的操作使用MySQL而对于查询性能要求较高的操作采用ElasticSearch。

2.倒排索引

ElasticSearch之所以能够高效率地实现模糊查询、词组查询等功能是由于其采用了一种倒排索引的模式。

所谓倒排索引其实是相较于MySQL中的正向索引而言的。

select

%张三%;对于以上的SQL来说由于采用了%前缀模糊查询因此必定会导致全表扫描在数据量大的情况下效率会非常低下。

为了解决这种问题ElasticSearch采用的是倒排索引。

了解倒排索引前需要知道在ElasticSearch中有几个关键的概念类比于数据库而言ElasticSearch中有索引(indices)、类型(types)、文档(documents)、字段(fields)对应于数据库中的数据库(database)、表(tables)、行(rows)、列(columns)。

其实在ElasticSearch中面向的是Json文档其字段就是Json中的键而文档内容就是其值另外在ElasticSearch中的请求语句是Json风格的被称为DSL。

{id:2,姓名:李小四,专业:电子与计算机工程,绩点:3.5

{id:3,姓名:王小五,学号:电子与自动化控制,绩点:3.0

}姓名专业绩点1张大三计算机软件工程4.02李小四电子与计算机工程3.53王小五电子与自动化控制3.0

不同类型的文档可以组织在一起成为一个索引如商品索引、学生索引、用户索引等。

倒排索引会对每一个文档的数据利用算法进行分词得到一个个词条然后根据词条以及其位置信息创建一个索引。

词条文档id计算机1,2软件1工程1,2电子2,3自动化控制3

这样当用户输入如“计算机软件”进行搜索的时候就可以根据分词查找计算机和软件去词条列表中查询到文档id再根据文档id去原索引中查询得到12两条数据。

这种根据词条找文档的过程就体现了倒排索引的特点。

注意由倒排索引的原理不难看出倒排索引提高模糊查询的办法是预先对已有的数据进行了分词处理然后形成了一个词条的索引相当于将原本查询所需的时间提前到了增加数据时处理的时候因此倒排索引不适合高频动态数据且对于数值型或者范围查询而言更擅长处理文本查询。

3.ELK

ELK是ElasticSearch技术栈的三大开源框架的首字母大写简称分别是ElasticSearch、Logstash、Kibana三者也被并称为ElasticStack。

Logstash是中央数据流引擎主要功能是从各种数据源中收集、转换并将数据传送到目标存储中比如

Elasticsearch

ELK的代表性作用就是日志分析和收集除此之外也支持数据分析等功能。

4.Mapping

在ES中Mapping映射定义了字段的结构和类型决定了ES如何存储和索引文档中的数据。

1.type

定义字段是否需要被索引。

index:true表示字段可以被搜索index:false表示该字段不会被索引不能用于搜索。

3.format

对于日期字段format属性定义了日期的格式例如format:yyyy-MM-dd

4.analyzer

用于文本字段定义文本分词器。

例如可以使用标准分词器、简单分词器或者自定义分词器。

5.field

定义字段的名称。

通常ES会更具文档中的字段名称自动生成映射也可以自定义字段名。

6.muti-fields

定义一个字段可以以多种方式索引。

例如一个文本字段可以既用于全文搜索分词又用于精准匹配不分词。

1.文本类型

keyword用于存储不分词的精确值比如标签、状态、URL等。

2.数字类型

binary存储二进制数据通常用于需要存储原始数据但是不用于搜索的情况。

6.对象类型

object用于嵌套的JSON对象允许在文档内存储复杂的嵌套结构。

7.数组类型

array在ElasticSearch中任何字段都可以是数组数组的每个元素都具有相同的数据类型。

例如

{mappings:

{settings:{number_of_shards:3,number_of_replicas:2},mappings:{properties:{name:{type:text},age:{type:integer},email:{type:keyword}}}

}这里的settings是配置索引的分片数和副本数。

比如这里设置了3个主分片和2个副本分片。

GET

索引库一旦创建就无法修改mapping因为数据结构改变就需要重新创建倒排索引耗费巨大。

但是可以添加新的字段到mapping中。

PUT

{properties:{new_field:{type:integer}}

}删除

{field1:value1,field2:value2,//

...

--dependencygroupIdorg.elasticsearch.client/groupIdartifactIdelasticsearch-rest-high-level-client/artifactIdversion7.10.2/version/dependency!--

Jackson

--dependencygroupIdcom.fasterxml.jackson.core/groupIdartifactIdjackson-databind/artifactIdversion2.12.3/version/dependency!--

Apache

--dependencygroupIdorg.apache.httpcomponents/groupIdartifactIdhttpclient/artifactIdversion4.5.13/version/dependency

/dependencies

封装思路使用Java操作ES时需要创建ES客户端和索引请求如果每次执行CRUD操作时都要创建那么会导致代码冗余且频繁创建和关闭客户端连接会降低性能。

所以通常的做法是将客户端的初始化和管理独立出来以确保高效、复用和易维护。

这里采用单例模式将客户端封装为一个单例类确保在整个声明周期中复用同一个客户端实例。

import

org.elasticsearch.client.RestHighLevelClient;

import

org.elasticsearch.client.RestClient;

import

org.apache.http.HttpHost;public

class

(ElasticsearchClientSingleton.class)

{if

RestHighLevelClient(RestClient.builder(new

HttpHost(localhost,

然后将索引创建放在应用启动时执行一次避免每次CRUD操作都重复创建索引

import

org.elasticsearch.client.RequestOptions;

import

org.elasticsearch.client.indices.CreateIndexRequest;

import

org.elasticsearch.client.indices.GetIndexRequest;

import

org.elasticsearch.client.RestHighLevelClient;

import

org.elasticsearch.common.settings.Settings;

import

com.fasterxml.jackson.databind.ObjectMapper;

import

com.fasterxml.jackson.databind.node.ObjectNode;public

class

ElasticsearchClientSingleton.getClient();//

getIndexRequest

GetIndexRequest(indexName);boolean

exists

client.indices().exists(getIndexRequest,

(!exists)

CreateIndexRequest(indexName);createIndexRequest.settings(Settings.builder().put(index.number_of_shards,

3).put(index.number_of_replicas,

2));//

mapper.createObjectNode();ObjectNode

properties

mapping.putObject(properties);properties.putObject(name).put(type,

text);properties.putObject(age).put(type,

integer);properties.putObject(email).put(type,

keyword);createIndexRequest.mapping(mapping.toString(),

XContentType.JSON);client.indices().create(createIndexRequest,

RequestOptions.DEFAULT);System.out.println(索引创建成功);}

else

由于将CRUD操作与索引和客户端管理分离只需要专注于数据的操作客户端和索引的创建在应用启动时已经完成

public

ElasticsearchClientSingleton.getClient();//

确保索引存在ElasticsearchIndexManager.createIndexIfNotExists(indexName);IndexRequest

indexRequest

IndexRequest(indexName).id(documentId).source(jsonString,

XContentType.JSON);client.index(indexRequest,

RequestOptions.DEFAULT);System.out.println(文档创建成功);}//

读取文档public

ElasticsearchClientSingleton.getClient();//

确保索引存在ElasticsearchIndexManager.createIndexIfNotExists(indexName);GetRequest

getRequest

getResponse.getSourceAsString();System.out.println(文档内容:

sourceAsString);}

{System.out.println(文档不存在);}}//

更新文档public

ElasticsearchClientSingleton.getClient();//

确保索引存在ElasticsearchIndexManager.createIndexIfNotExists(indexName);UpdateRequest

updateRequest

XContentType.JSON);client.update(updateRequest,

RequestOptions.DEFAULT);System.out.println(文档更新成功);}//

删除文档public

ElasticsearchClientSingleton.getClient();//

确保索引存在ElasticsearchIndexManager.createIndexIfNotExists(indexName);DeleteRequest

deleteRequest

documentId);client.delete(deleteRequest,

RequestOptions.DEFAULT);System.out.println(文档删除成功);}