ElasticSearch中令人难以置信的缓慢索引编制

Inatoff

我们决定将搜索引擎包含在我们的产品中。并比较ElasticSearch和Solr。当我们开始使用Elastic 2.3.3时。我们面临索引编制缓慢的问题。我们使用Logstash来填充弹性数据,并且对具有4000000条记录的表进行索引花费了超过8个小时的时间。该表的物理大小接近40GB。我们使用HDD ...是的,很遗憾。但是在同一台PC上,我们测试了Solr,并且相同的操作花费了3个小时。也许我们在弹性配置上犯了一个错误?弹性的另一个瞬间索引大小是表大小的两倍以上,solr索引仅是数据库大小的8%。当我们使用logstash在文件中输出数据时,它使它变得非常快。

在这里,我们配置了logstash的jdbc模块来实现弹性:

input { 
   jdbc {
        jdbc_driver_library => "F:\elasticsearch-2.3.3\lib\sqljdbc_4.0\enu\sqljdbc4.jar"
        jdbc_driver_class => "com.microsoft.sqlserver.jdbc.SQLServerDriver"
        jdbc_connection_string => "jdbc:sqlserver://s_tkachenko\mssql2014:49172;databaseName=work"
        jdbc_user => "sa"
        jdbc_password => "__masked_password__"
        statement => "SELECT id, name FROM Contact"                     
        }
      }

我们只设置了1个分片,没有副本。

亲爱的社区,也许您有什么建议,因为只有在我们购买了订阅后,对Elastic的支持才会对我们有帮助。但是购买订购的产品根本不能用,我认为这不是一个好主意。感谢您的关注,等待您的想法。

阿尔珀特

同时,您也可以在logstash中进行一些更改:

  • 使用-w {WORKER_COUNT}指定工作人员人数。cpu count * 2在我的实验中是最好的。
  • 使用以下命令指定缓冲区大小:-u {BUFFER_SIZE}。512最适合我。

您还可以为elasticsearch输出插件指定输出工作程序计数和刷新beffer:

output {
    elasticsearch {
        # elasticsearch hosts
        hosts => ["127.0.0.1"]
        # bulk message size
        flush_size => 512
        # output worker cpu core * 2
        workers => 8
    }
}

希望其中一些帮助。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

令人难以置信的交换

来自分类Dev

令人难以置信的交换

来自分类Dev

令人难以置信的压缩视频

来自分类Dev

javascript令人难以置信的行为

来自分类Dev

联想Y50令人难以置信的缓慢WiFi

来自分类Dev

日期和令人难以置信的日期

来自分类Dev

令人难以置信的奇怪的JavaScript日期问题

来自分类Dev

令人难以置信的奇怪的浮动行为

来自分类Dev

Vigenere Cipher 令人难以置信的困惑

来自分类Dev

在RemoteViews上调用setImageViewBitmap导致令人难以置信的延迟

来自分类Dev

AVR引脚更改中断令人难以置信地触发

来自分类Dev

窗体的TransparencyKey留下令人难以置信的彩色边缘

来自分类Dev

LSTM可以处理令人难以置信的密集时间序列数据吗?

来自分类Dev

LSTM可以处理令人难以置信的密集时间序列数据吗?

来自分类Dev

(Linux-Ubuntu 13.04)带有小文件的令人难以置信的慢速SSD

来自分类Dev

连接到MS Access的Eclipse令人难以置信的编码行为

来自分类Dev

AVR引脚更改中断令人难以置信地触发

来自分类Dev

令人难以置信的威胁:我是否需要更改很少登录的网站的密码?

来自分类Dev

令人难以置信的双端队列语法。这个语法是什么意思?

来自分类Dev

Opa令人难以置信的神奇(数据库持久性问题)

来自分类Dev

令人难以置信的奇怪(恼人)透视(背景)Windows问题

来自分类Dev

IPv6难题(令人难以置信的是15个字符)

来自分类Dev

本地数据库与生产之间的SQL查询运行时间差异令人难以置信

来自分类Dev

Word2Vec-交叉验证得分高的模型对测试数据的表现令人难以置信

来自分类Dev

Rails耙任务难以置信的缓慢

来自分类Dev

SQL全文搜索即使在小表中也难以置信的缓慢

来自分类Dev

为什么我的应用程序在首次运行时启动的速度慢得令人难以置信(10s +),在android 5.0上只显示白屏?

来自分类Dev

Elasticsearch中的索引编制

来自分类Dev

在 EF6 中执行 StoredProcedure 花费了难以置信的时间

Related 相关文章

  1. 1

    令人难以置信的交换

  2. 2

    令人难以置信的交换

  3. 3

    令人难以置信的压缩视频

  4. 4

    javascript令人难以置信的行为

  5. 5

    联想Y50令人难以置信的缓慢WiFi

  6. 6

    日期和令人难以置信的日期

  7. 7

    令人难以置信的奇怪的JavaScript日期问题

  8. 8

    令人难以置信的奇怪的浮动行为

  9. 9

    Vigenere Cipher 令人难以置信的困惑

  10. 10

    在RemoteViews上调用setImageViewBitmap导致令人难以置信的延迟

  11. 11

    AVR引脚更改中断令人难以置信地触发

  12. 12

    窗体的TransparencyKey留下令人难以置信的彩色边缘

  13. 13

    LSTM可以处理令人难以置信的密集时间序列数据吗?

  14. 14

    LSTM可以处理令人难以置信的密集时间序列数据吗?

  15. 15

    (Linux-Ubuntu 13.04)带有小文件的令人难以置信的慢速SSD

  16. 16

    连接到MS Access的Eclipse令人难以置信的编码行为

  17. 17

    AVR引脚更改中断令人难以置信地触发

  18. 18

    令人难以置信的威胁:我是否需要更改很少登录的网站的密码?

  19. 19

    令人难以置信的双端队列语法。这个语法是什么意思?

  20. 20

    Opa令人难以置信的神奇(数据库持久性问题)

  21. 21

    令人难以置信的奇怪(恼人)透视(背景)Windows问题

  22. 22

    IPv6难题(令人难以置信的是15个字符)

  23. 23

    本地数据库与生产之间的SQL查询运行时间差异令人难以置信

  24. 24

    Word2Vec-交叉验证得分高的模型对测试数据的表现令人难以置信

  25. 25

    Rails耙任务难以置信的缓慢

  26. 26

    SQL全文搜索即使在小表中也难以置信的缓慢

  27. 27

    为什么我的应用程序在首次运行时启动的速度慢得令人难以置信(10s +),在android 5.0上只显示白屏?

  28. 28

    Elasticsearch中的索引编制

  29. 29

    在 EF6 中执行 StoredProcedure 花费了难以置信的时间

热门标签

归档