本文目录
ElasticSearch简写ES,ES是一个高扩展、开源的全文检索和分析引擎,它可以准实时地快速存储、搜索、分析海量的数据。
应用场景
- 我们常见的商城商品的搜索
- 日志分析系统(ELK)
- 基于大量数据(数千万的数据)需要快速调查、分析并且并将结果可视化的业务需求
安装并运行ES
Java环境安装
Elastic 需要 Java 8 环境。如果你的机器还没安装 Java
,可以参考JAVA安装
ElasticSearch安装
安装完Java环境后,我们可以开始以下ElasticSearch
安装或者根据官方文档安装
wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.5.1.zip unzip elasticsearch-5.5.1.zip cd elasticsearch-5.5.1/
进入解压目录之后,运行下面命令,启动ElasticSearch
./bin/elasticsearch
如果此时报以下错误
错误一
OpenJDK 64-Bit Server VM warning: If the number of processors is expected to increase from one, thenyou should configure the number of parallel GC threads appropriately using -XX:ParallelGCThreads=N
打开: elasticsearch-5.5.1/config/jvm.options
在末尾添加:
-XX:-AssumeMP
错误二
OpenJDK 64-Bit Server VM warning: INFO: os::commit_memory(0x0000000085330000, 2060255232, 0) failed; error=\'Cannot allocate memory\' (errno=12)
先执行:
sysctl -w vm.max_map_count=262144
再打开elasticsearch-5.5.1/config/jvm.options
-Xmx512m
-Xms512m
错误三
[2019-06-27T15:01:43,165][WARN ][o.e.b.ElasticsearchUncaughtExceptionHandler] [] uncaught exception in thread [main] org.elasticsearch.bootstrap.StartupException: java.lang.RuntimeException: can not run elasticsearch as root
原因:elasticsearch自5版本之后,处于安全考虑,不允许使用root用户运行。
解决:创建一个普通用户,将elasticsearch 安装目录权限修改一下,切换至普通用户运行elasticsearch就可以了
useradd elk chown -R elk.elk /usr/local/share/applications/elasticsearch-5.5.1 su - elk cd /usr/local/share/applications/elasticsearch-5.5.1
重新启动
./bin/elasticsearch
如果一切正常,Elastic
就会在默认的9200
端口运行。这时,打开另一个命令行窗口,请求该端口,会得到说明信息。
$ curl \'localhost:9200\' { \"name\" : \"cWyaT72\", \"cluster_name\" : \"elasticsearch\", \"cluster_uuid\" : \"A7akNm1SRw2Gm-BdSBkdaw\", \"version\" : { \"number\" : \"5.5.1\", \"build_hash\" : \"19c13d0\", \"build_date\" : \"2017-07-18T20:44:24.823Z\", \"build_snapshot\" : false, \"lucene_version\" : \"6.6.0\" }, \"tagline\" : \"You Know, for Search\" }
访问配置
Elastic
默认情况下,只允许本地访问,如果需要远程访问,可以修改 config/elasticsearch.yml
文件,去掉network.host
的注释,将它的值改成0.0.0.0
,然后重新启动 Elastic。
network.host: 0.0.0.0
上面代码中,设成0.0.0.0
让任何人都可以访问。线上服务不要这样设置,要设成具体的 IP。
基本概念
Node 与 Cluster
Elastic
本质上是一个分布式数据库,允许多台服务器协同工作,每台服务器可以运行多个 Elastic
实例。
单个 Elastic
实例称为一个节点(node)
。一组节点构成一个集群(cluster)
。
查看Cluster Health
curl -X GET \'http://localhost:9200/_cat/health?v\'
获取集群的所有节点
curl -X GET \'http://localhost:9200/_cat/nodes?v\'
Index
Elastic
会索引所有字段,经过处理后写入一个反向索引(Inverted Index)。查找数据的时候,直接查找该索引。(一个 Index
类似于传统关系数据库中的一个 数据库
,是一个存储关系型文档的地方)。
所以,Elastic 数据管理的顶层单位就叫做 Index(索引)。它是单个数据库的同义词。每个 Index (即数据库)的名字必须是小写。
下面的命令可以查看当前节点的所有 Index。
curl -X GET \'http://localhost:9200/_cat/indices?v\'
Document
Index里的单条记录称为Document
,多条Document
构成一个Index
.
Document
使用JSON格式表示,如:
{ \"goods_name\": \"空调\", \"category_name\": \"家电分类\", \"price\": \"3999.00\" }
同一个 Index 里面的 Document
,不要求有相同的结构(scheme),但是最好保持相同,这样有利于提高搜索效率。
Type
Document
是可以分组的,如goods_list
这个Index
,可以按照category(家电、衣服)
分类,也可以按照price(>1000、 <1000)
分类。这种分组叫Type
它是虚拟的逻辑分组,用于过滤Document
。
列出每个Index
下面的Type
curl \'http://localhost:9200/_mapping?pretty=true\'
根据规划,Elastic 6.x 版只允许每个 Index 包含一个 Type,7.x 版将会彻底移除 Type。
Index操作
新建(Create Index)
新建 Index
,可以直接向 Elastic
服务器发出 PUT 请求。下面的例子是新建一个名叫goods_list
的 Index
。
curl -X PUT \'http://localhost:9200/goods_list\'
服务器返回一个 JSON 对象,里面的acknowledged
字段表示操作成功。
{ \"acknowledged\": true, \"shards_acknowledged\": true }
删除(Delete Index)
curl -X DELETE \'http://localhost:9200/goods_list\' { \"acknowledged\": true }
数据操作
上面介绍了Index
和Type
的一些基本的概念和Index
的基本操作,现在先来创建一个完整的Index
结构,并对数据进行操作。
新建Index结构
curl -X PUT \'localhost:9200/goods_list\' -d \' { \"mappings\": { \"goods_info\": { \"properties\": { \"goods_name\": { \"type\": \"keyword\" }, \"category_name\": { \"type\": \"keyword\" }, \"price\": { \"type\": \"float\" } } } } } \' { \"acknowledged\": true }
执行上面命名,重新创建一个新的Index
新增记录
向指定的 /Index/Type
发送 PUT
请求,就可以在 Index
里面新增一条记录。比如,向/goods_list/goods_info
发送请求,就可以新增一条商品记录。
curl -X PUT \'localhost:9200/goods_list/goods_info/1\' -d \' { \"goods_name\": \"华为笔记本\", \"category_name\": \"计算机\", \"price\": \"1000\" }\'
服务器返回的 JSON 对象,会给出 Index、Type、Id、Version 等信息:
{ \"_index\": \"goods_list\", \"_type\": \"goods_info\", \"_id\": \"1\", \"_version\": 1, \"result\": \"created\", \"_shards\": { \"total\": 2, \"successful\": 1, \"failed\": 0 }, \"created\": true }
相信细心的你会发现/goods_list/goods_info/1
,后面多了一个1
,这个1
是该条记录的 ID。可以是任意字符串
新增记录的时候,也可以不指定 Id,这时要改成 POST 请求。
curl -X POST \'localhost:9200/goods_list/goods_info\' -d \' { \"goods_name\": \"洗衣机\", \"category_name\": \"家电\", \"price\": \"899.99\" }\'
如果没有指定ID
,那么Elastic
会随机生成一串字符串作为ID
{ \"_index\": \"goods_list\", \"_type\": \"goods_info\", \"_id\": \"AWub5f7FFq1D5epJJhqT\", \"_version\": 1, \"result\": \"created\", \"_shards\": { \"total\": 2, \"successful\": 1, \"failed\": 0 }, \"created\": true }
查看记录
curl \'localhost:9200/goods_list/goods_info/1?pretty=true\'
上面代码请求查看/goods_list/goods_info/1
这条记录,URL 的参数pretty=true
表示以易读的格式返回。
返回的数据中,found
字段表示查询成功,_source
字段返回原始记录:
{ \"_index\" : \"goods_list\", \"_type\" : \"goods_info\", \"_id\" : \"1\", \"_version\" : 1, \"found\" : true, \"_source\" : { \"goods_name\" : \"华为笔记本\", \"category_name\" : \"计算机\", \"price\" : \"1000\" } }
如果 ID
不正确,就查不到数据,found
字段就是false
。
curl \'localhost:9200/goods_list/goods_info/2?pretty=true\'
ID=2
并不存在,所以会返回以下结果:
{ \"_index\" : \"goods_list\", \"_type\" : \"goods_info\", \"_id\" : \"2\", \"found\" : false }
删除记录
curl -X DELETE \'localhost:9200/goods_list/goods_info/1\'
PS:这里先不要删除这条记录,后面还要用到。
更新记录
curl -X PUT \'localhost:9200/goods_list/goods_info/1\' -d \' { \"user\" : \"华为笔记本\", \"title\" : \"计算机\", \"desc\" : \"5000\" }\'
更新记录就是使用 PUT 请求,重新发送一次数据。
{ \"_index\": \"goods_list\", \"_type\": \"goods_info\", \"_id\": \"1\", \"_version\": 2, \"result\": \"updated\", \"_shards\": { \"total\": 2, \"successful\": 1, \"failed\": 0 }, \"created\": false }
返回结果里面,有几个字段发生了变化:
\"_version\" : 2, \"result\" : \"updated\", \"created\" : false
数据查询
返回所有记录
curl \'localhost:9200/goods_list/goods_info/_search\' { \"took\": 127, \"timed_out\": false, \"_shards\": { \"total\": 5, \"successful\": 5, \"failed\": 0 }, \"hits\": { \"total\": 2, \"max_score\": 1, \"hits\": [ { \"_index\": \"goods_list\", \"_type\": \"goods_info\", \"_id\": \"AWub5f7FFq1D5epJJhqT\", \"_score\": 1, \"_source\": { \"goods_name\": \"洗衣机\", \"category_name\": \"家电\", \"price\": \"899.99\" } }, { \"_index\": \"goods_list\", \"_type\": \"goods_info\", \"_id\": \"1\", \"_score\": 1, \"_source\": { \"user\": \"华为笔记本\", \"title\": \"计算机\", \"desc\": \"5000\" } } ] } }
上面代码中,返回结果的 took
字段表示该操作的耗时(单位为毫秒),timed_out
字段表示是否超时,hits
字段表示命中的记录,里面子字段的含义如下:
total
:返回记录数,本例是2条。max_score
:最高的匹配程度,本例是1.0
。hits
:返回的记录组成的数组。
返回的记录中,每条记录都有一个_score
字段,表示匹配的程序,默认是按照这个字段降序排列。
总结
这里主要介绍了Elastic
的安装、基本概念以及数据的基本操作,在下一章带来Elastic
的分词和全文搜索以及相关的技术点。