ES创建索引库/创建映射/文档操作(添加文档、搜索文档、更新文档、删除文档)/使用IK分词器/映射(映射字段类型)

时间:2024-03-06 17:48:22

以下ES、ES_head都部署在linux系统中

 

一、创建索引库 

ES的索引库是一个逻辑概念,它包括了分词列表及文档列表,同一个索引库中存储了相同类型的文档。它就相当于MySQL中的表,或相当于Mongodb中的集合。

关于索引这个语:

索引(名词):ES是基于Lucene构建的一个搜索服务,它要从索引库搜索符合条件索引数据。

索引(动词):索引库刚创建起来是空的,将数据添加到索引库的过程称为索引。

下边介绍两种创建索引库的方法,它们的工作原理是相同的,都是客户端向ES服务发送命令。

第一种:使用postman或curl这样的工具创建:

put http://服务器ip:9200/索引库名称       #注意不能使用post

{
  "settings":{
  "index":{
      "number_of_shards":1,
      "number_of_replicas":0
    }  
  }
}

下面使用postman创建的例子

 

 第二种:使用es_head创建

 二、创建映射

1.概念说明:

在索引中每个文档都包括了一个或多个field(一行记录中包含一个或多个字段),创建映射就是向索引库中创建field的过程,下边是document和field与关系数据库的概念的类比:

 文档(Document)----------------Row 行记录(数据库记录)

​ 字段(Field)-------------------Columns 列

上边讲的创建索引库相当于关系数据库中的数据库还是表?

1、如果相当于数据库就表示一个索引库可以创建很多不同类型的文档,这在ES中也是允许的。

2、如果相当于表就表示一个索引库只能存储相同类型的文档,ES官方建议 在一个索引库中只存储相同类型的文档。

2.创建映射

创建映射语法

post http://服务器ip:9200/索引库名称/类型名称/_mapping

由于ES6.0版本还没有将type(类型名称)彻底删除,所以暂时把type起一个没有特殊意义的名字。ES9.0版本把type彻底删除

使用postman创建的例子

post  http://服务器ip:9200/es_wcc/doc/_mapping   #在es_wcc索引库下的doc类型下创建映射

映射内容     创建映射,三个字段:name/description/studymodel

{
    "properties": {
           "name": {
              "type": "text"
           },
           "description": {
              "type": "text"
           },
           "studymodel": {
              "type": "keyword"
           }
        }
}

映射创建成功,查看es_head页面

三、文档操作

添加文档

ES中文档相当于MySQL数据库表中的记录。

添加文档语法

put 或Post http://服务器ip:9200/es_wcc/doc/id值     #如果不指定id值ES会自动生成id,id值可以随便设置,如果id值重复了,就是修改之前的数据,不是创建 ******

使用postman创建示例   (这里没有设置id值,随机生成id值)

post   http://101.132.167.242:9200/es_wcc/doc

{
  "name":"Bootstrap开发框架",
  "description":"Bootstrap是由Twitter推出的一个前台页面开发框架,在行业之中使用较为广泛。此开发框架包含了大量的CSS、JS程序代码,可以帮助开发者(尤其是不擅长页面开发的程序人员)轻松的实现一个不受浏览器限制的精美界面效果。",
  "studymodel":"201001"
}

 通过es_head查看数据

搜索文档

1.根据id查询数据

查询语句

get  http://101.132.167.242:9200/es_wcc/doc/r3kAcnUB3x_-S6cmA9o5

使用postman测试

使用es_head查询数据

2.查询所有记录

get  http://101.132.167.242:9200/es_wcc/doc/_search

注意:使用postman查询出现以下错误

{
    "error": {
        "root_cause": [
            {
                "type": "parsing_exception",
                "reason": "Unknown key for a VALUE_STRING in [name].",
                "line": 2,
                "col": 10
            }
        ],
        "type": "parsing_exception",
        "reason": "Unknown key for a VALUE_STRING in [name].",
        "line": 2,
        "col": 10
    },
    "status": 400
}

原因:请求body中包含了数据,删掉重新请求,结果如下

{
    "took": 3,
    "timed_out": false,
    "_shards": {
        "total": 1,
        "successful": 1,
        "skipped": 0,
        "failed": 0
    },
    "hits": {
        "total": 2,
        "max_score": 1.0,
        "hits": [
            {
                "_index": "es_wcc",
                "_type": "doc",
                "_id": "r3kAcnUB3x_-S6cmA9o5",
                "_score": 1.0,
                "_source": {
                    "name": "Bootstrap开发框架",
                    "description": "Bootstrap是由Twitter推出的一个前台页面开发框架,在行业之中使用较为广泛。此开发框架包含了大量的CSS、JS程序代码,可以帮助开发者(尤其是不擅长页面开发的程序人员)轻松的实现一个不受浏览器限制的精美界面效果。",
                    "studymodel": "201001"
                }
            },
            {
                "_index": "es_wcc",
                "_type": "doc",
                "_id": "sHkWcnUB3x_-S6cmcNr_",
                "_score": 1.0,
                "_source": {
                    "name": "flask后台开发",
                    "description": "flask后台开发+算法实现",
                    "studymodel": "2020111"
                }
            }
        ]
    }
}

3.查询名称中包括bootstrap关键字的记录

get  http://101.132.167.242:9200/es_wcc/doc/_search?q=name:bootstrap

4.查询学习模式为201001的记录

get  http://101.132.167.242:9200/es_wcc/doc/_search?q=studymodel:201001

请求结果分析

{
    "took": 70,
    "timed_out": false,
    "_shards": {
        "total": 1,
        "successful": 1,
        "skipped": 0,
        "failed": 0
    },
    "hits": {
        "total": 1,
        "max_score": 0.6931472,
        "hits": [
            {
                "_index": "es_wcc",
                "_type": "doc",
                "_id": "r3kAcnUB3x_-S6cmA9o5",
                "_score": 0.6931472,
                "_source": {
                    "name": "Bootstrap开发框架",
                    "description": "Bootstrap是由Twitter推出的一个前台页面开发框架,在行业之中使用较为广泛。此开发框架包含了大量的CSS、JS程序代码,可以帮助开发者(尤其是不擅长页面开发的程序人员)轻松的实现一个不受浏览器限制的精美界面效果。",
                    "studymodel": "201001"
                }
            }
        ]
    }
}
took:本次操作花费的时间,单位为毫秒。

timed_out:请求是否超时

_shards:说明本次操作共搜索了哪些分片

hits:搜索命中的记录

hits.total : 符合条件的文档总数 hits.hits :匹配度较高的前N个文档

hits.max_score:文档匹配得分,这里为最高分

_score:每个文档都有一个匹配度得分,按照降序排列。

_source:显示了文档的原始内容。
请求结果分析

DSL搜索

DSL(Domain Specific Language)是ES提出的基于json的搜索方式,在搜索时传入特定的json格式的数据来完成不同的搜索需求。
DSL比URI搜索方式功能强大,在项目中建议使用DSL方式来完成搜索。

查询指定索引库指定类型下的文档。(使用DSL搜索方法)

post    http://服务器ip:9200/es_wcc/doc/_search

{ "query": { "match_all": {} }, "_source" : ["name","studymodel"] }

分页查询

ES支持分页查询,传入两个参数:from和size

form:表示起始文档的下标,从0开始。
size:查询的文档数量。

post    http://服务器ip:9200/es_wcc/doc/_search

{
"from" : 0, "size" : 1,
"query": {
   "match_all": {}
 },
"_source" : ["name","studymodel"]

}

Term Query

Term Query为精确查询,在搜索时会整体匹配关键字,不再将关键字分词。

post http://服务器ip:9200/es_wcc/doc/_search

{
   "query": {
      "term" : {
          "name": "spring"
      }
    },
     "_source" : ["name","studymodel"]
 }

上边的搜索会查询name包括“spring”这个词的文档。

 

更新文档

通过url请求有两种方法:

1.完全替换

Post:http://服务器ip:9200/es_test/doc/3         #查找到id=3数据修改

 {
 "name":"spring cloud实战",
 "description":"本课程主要从四个章节进行讲解: 1.微服务架构入门 2.spring cloud 基础入门 3.实战Spring Boot 4.注册中心eureka。",
 "studymodel":"201001"
 "price":5.6
 }

2.局部修改  (只更新某个字段)

post   http://服务器ip:9200/es_test/doc/3/_update

{
    "doc":{"price":66.6}      #更新price字段
}

删除文档

1.根据id删除,格式如下

delete     http://服务器ip:9200/es_wcc/doc/3

2.搜索匹配删除,将搜索出来的记录删除,格式如下:

post     http://服务器ip:9200/es_wcc/doc/_delete_by_query

{
  "query":{
      "term":{
          "studymodel":"201001"
      }
  }
}

搜索匹配将studymodel为201001的记录全部删除

四、使用IK分词器

1.测试分词器

会进行分词,索引中存放的就是一个一个的词(term),当你去搜索时就是拿关键字去匹配词,最终找到词关联的文档。

索引库默认使用的分词器对中文是单字分词

2.两种分词模式

ik分词器有两种分词模式:ik_max_word和ik_smart模式。

1、ik_max_word
​ 会将文本做最细粒度的拆分,比如会将“*人民大会堂”拆分为“*、中华人民、中华、华人、人民*、人民、*、大会堂、大会、会堂等词语。

2、ik_smart
​ 会做最粗粒度的拆分,比如会将“*人民大会堂”拆分为*、人民大会堂。

测试两种分词模式:
发送:post localhost:9200/_analyze
{"text":"*人民大会堂","analyzer":"ik_smart" }

3.自定义词库

如果要让分词器支持一些专有词语,可以自定义词库。

iK目录下一个main.dic的文件,此文件为词库文件。

五、映射

1.映射的维护方法

查询所有索引的映射

GET  http://服务器ip:9200/_mapping

创建映射

post  http://服务器ip:9200/es_wcc/doc/_mapping

示例

{
    "properties": {
           "name": {
              "type": "text"
           },
           "description": {
              "type": "text"
           },
           "studymodel": {
              "type": "keyword"
           }
        }
}

更新映射

映射创建成功可以添加新字段,已有字段不允许更新。(字段类型也不能修改)  ******

删除字段

通过删除索引来删除映射

2.常用映射字段

文本字段

字符串包括text和keyword两种类型:

1.text 字段内各种属性值

1)analyzer

通过analyzer属性指定分词器,下面指定name的字段类型为text,使用ik分词器的ik_max_word分词模式

 "name": {
                  "type": "text",
                  "analyzer":"ik_max_word"
   }

上边指定了analyzer是指在索引(数据添加到数据库中)和搜索都使用ik_max_word,如果单独想定义搜索时使用的分词器则可以通过search_analyzer属性。

对于ik分词器建议是索引(数据添加到数据库中)时使用ik_max_word将搜索内容进行细粒度分词,搜索时使用ik_smart提高搜索精确性。

"name": {
                  "type": "text",
                  "analyzer":"ik_max_word",
                  "search_analyzer":"ik_smart"
   }

2)index

通过index属性指定是否索引(索引库搜索符合条件索引数据)。

默认为index=true,即要进行索引,只有进行索引才可以从索引库搜索到。

但是也有一些内容不需要索引,比如:商品图片地址只被用来展示图片,不进行搜索图片,此时可以将index设置为false。

删除索引,重新创建映射,举例:将pic字段的index设置为false,尝试根据pic去搜索,结果搜索不到数据

 "pic": {
            "type": "text",
              "index":false
        }

3)store

是否在source之外存储,每个文档索引后会在 ES中保存一份原始文档,存放在"_source"中,一般情况下不需要设置store为true,因为在_source中已经有一份原始文档了。

测试:

新索引库es_test创建新映射:    

Post  http://服务器ip:9200/es_test/doc/_mapping       #服务器ip:9200/索引库名/字段类型/_mapping
 {
    "properties": {
           "name": {
                  "type": "text",
                  "analyzer":"ik_max_word",            
                  "search_analyzer":"ik_smart"
            },
           "description": {
              "type": "text",
              "analyzer":"ik_max_word",
              "search_analyzer":"ik_smart"
           },
           "pic":{
             "type":"text",
             "index":false
           },
           "studymodel":{
             "type":"keyword"
           }
    }
}

插入文档:(插入数据)

post  http://服务器ip:9200/es_test/doc/iywRGj1URhG5VfnQItHKVg       #索引库id值
{
  "name":"Bootstrap开发框架",
  "description":"Bootstrap是由Twitter推出的一个前台页面开发框架,在行业之中使用较为广泛。此开发框架包含了大量的CSS、JS程序代码,可以帮助开发者(尤其是不擅长页面开发的程序人员)轻松的实现一个不受浏览器限制的精美界面效果。",
  "pic":"group1/M00/00/01/wKhlQFqO4MmAOP53AAAcwDwm6SU490.jpg",
  "studymodel":"201002"
}

查询测试

Get http://服务器ip:9200/es_test/_search?q=name:开发
Get http://服务器ip:9200/es_test/_search?q=description:开发
Get http://服务器ip:9200/es_test/_search?q=pic:group1/M00/00/01/wKhlQFqO4MmAOP53AAAcwDwm6SU490.jpg
Get http://服务器ip:9200/es_test/_search?q=studymodel:201002

通过测试发现:name和description都支持全文检索,pic不可作为查询条件。

2.keyword关键字字段  

上边介绍的text文本字段在映射时要设置分词器,keyword字段为关键字字段,通常搜索keyword是按照整体搜索,所以创建keyword字段的索引时是不进行分词的,比如:邮政编码、手机号码、身份证等。keyword字段通常用于过虑、排序、聚合等。

测试

根据studymodel查询文档
get   http://服务器ip:9200/es_test/_search?q=studymodel:201001
studymodel是keyword类型,所以查询方式是精确查询。

3.日期类型字段

日期类型不用设置分词器,通常日期类型的字段用于排序。

1)format   通过format设置日期格式

例子:下面添加映射date,设置允许date字段存储年月日时分秒、年月日及毫秒三种格式

{
    "properties": {
        "timestamp": {
          "type":   "date",
          "format": "yyyy-MM-dd HH:mm:ss||yyyy-MM-dd"
        }
      }
}

插入文档测试

Post :http://服务器ip:9200/es_test/doc/3       #id值可以随便设置

{
"name": "spring开发基础",
"description": "spring 在java领域非常流行,java程序员都在用。",
"studymodel": "201001",
 "pic":"group1/M00/00/01/wKhlQFqO4MmAOP53AAAcwDwm6SU490.jpg",
 "timestamp":"2018-07-04 18:28:58"
}

4.数值类型

ES支持下面这些数值类型

 

 

1)尽量选择范围小的类型,提高搜索效率

2)对于浮点型尽量使用比例因子,比如一个价格字段,单位为元,我们将比例因子设置为100,映射如下:

{
    "properties": {
         "price":{
          "type": "scaled_float",
          "scaling_factor": 100
           }
      }
}
由于比例因子为100,如果我们输入的价格是23.45则ES中会将23.45乘以100存储在ES中。如果输入的价格是23.456,ES会将23.456乘以100再取一个接近原始值的数,得出2346。
使用比例因子的好处是整型比浮点型更易压缩,节省磁盘空间

更新已有映射price,并插入文档

Post    http://服务器ip:9200/es_test/doc/3 

{
"name": "spring开发基础",
"description": "spring 在java领域非常流行,java程序员都在用。",
"studymodel": "201001",
 "pic":"group1/M00/00/01/wKhlQFqO4MmAOP53AAAcwDwm6SU490.jpg",
 "timestamp":"2018-07-04 18:28:58",
 "price":38.6
}