PHP通过API搜索elasticsearch只获得10条数据

PHP通过API对ES进行搜索后发现只能获取10条数据,搜索语句如下:

建网站原本是网站策划师、网络程序员、网页设计师等,应用各种网络程序开发技术和网页设计技术配合操作的协同工作。成都创新互联专业提供做网站、成都做网站,网页设计,网站制作(企业站、响应式网站开发、电商门户网站)等服务,从网站深度策划、搜索引擎友好度优化到用户体验的提升,我们力求做到极致!

{
  "query": {
    "filtered": {
      "query": {
        "query_string": {
          "query": "level:\"警告\" AND source_name:\"ASP.NET\" ",
          "analyze_wildcard": true
        }
      },
      "filter": {
        "bool": {
          "must": [
            {
              "range": {
                "@timestamp": {
                  "gte": 1494309300,
                  "lte": 1494489299,
                  "format": "epoch_second"
                }
              }
            }
          ],
          "must_not": []
        }
      }
    }
}
}

其余ES如果没有指定SIZE的话,默认是10条

http://elasticsearch-py.readthedocs.io/en/master/api.html#elasticsearch.Elasticsearch.search

但是size也不能超过10000,否则也会报错。

修改搜索语句如下:

{
  "size": 10000,
  "query": {
    "filtered": {
      "query": {
        "query_string": {
          "query": "level:\"警告\" AND source_name:\"ASP.NET\" ",
          "analyze_wildcard": true
        }
      },
      "filter": {
        "bool": {
          "must": [
            {
              "range": {
                "@timestamp": {
                  "gte": 1494309300,
                  "lte": 1494489299,
                  "format": "epoch_second"
                }
              }
            }
          ],
          "must_not": []
        }
      }
    }
}
}

即可

经过以上还会出现问题,就是当数据超过一定量的时候,无法获取最新数据,原因是每次获取数据都是从1到10000条,当10000条之后的数据就无法显示了。基于此我们不建议时间跨度超过10000条数据,防止数据丢失。因此我们需要对其进行时间排序,让最新的数据靠前:

{
  "size": 10000,
  "sort": [
    {
      "@timestamp": {
        "order": "desc",
        "unmapped_type": "boolean"
      }
    }
  ],
  "query": {
    "filtered": {
      "query": {
        "query_string": {
          "query": "level:\"警告\" AND source_name:\"ASP.NET\" ",
          "analyze_wildcard": true
        }
      },
      "filter": {
        "bool": {
          "must": [
            {
              "range": {
                "@timestamp": {
                  "gte": 1494309300,
                  "lte": 1494489299,
                  "format": "epoch_second"
                }
              }
            }
          ],
          "must_not": []
        }
      }
    }
}
}

分享标题:PHP通过API搜索elasticsearch只获得10条数据
文章转载:http://scyanting.com/article/pdchjg.html