Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

集群部署疑问咨询 #5

Open
slm940208 opened this issue Jul 6, 2021 · 4 comments
Open

集群部署疑问咨询 #5

slm940208 opened this issue Jul 6, 2021 · 4 comments

Comments

@slm940208
Copy link

请问下通过部署3个all-in-one的loki实例的那种方式,我看也使用了memberlist,那意思是loki-1的distributor组件可以可以分发到其他实例loki-2,loki-3的ingester组件上?

和集群部署那种方式只是区别是all-in-one部署的,而不是每个组件拆分多实例部署?

@LinkMaq
Copy link
Owner

LinkMaq commented Aug 3, 2021

这个问题我之前也有同样的疑问,后来部署验证了下,通过memberlist来同步哈希环,日志流从distributor进来还是可以路由到非本机的ingester的。

@edson0227
Copy link

edson0227 commented Oct 9, 2021

这个问题我之前也有同样的疑问,后来部署验证了下,通过memberlist来同步哈希环,日志流从distributor进来还是可以路由到非本机的ingester的。

您好,請問下我前面部屬haproxy 分散到後面3台AIO的節點(這3台有用memberlist) 是否可行?
另外資料查詢上是否會有問題呢?
謝謝

詳述下我的情況,我目前有10台nginx的access log 收進es作分析
那我想改用loki去收這10台的access log ,資料量很大,只用一台loki肯定是不夠的
基於此想了解下...我能怎麼做?

@LinkMaq
Copy link
Owner

LinkMaq commented Oct 9, 2021

这个问题我之前也有同样的疑问,后来部署验证了下,通过memberlist来同步哈希环,日志流从distributor进来还是可以路由到非本机的ingester的。

您好,請問下我前面部屬haproxy 分散到後面3台AIO的節點(這3台有用memberlist) 是否可行? 另外資料查詢上是否會有問題呢? 謝謝

詳述下我的情況,我目前有10台nginx的access log 收進es作分析 那我想改用loki去收這10台的access log ,資料量很大,只用一台loki肯定是不夠的 基於此想了解下...我能怎麼做?

  1. haproxy在loki集群前面做七层代理是可以的,注意下/loki/api/v1/tail要走websoket协议
  2. 用Loki来做大容量日志分析是一个不太好的决定,也不是说loki不行,是部署集群的成本相比ES会更复杂。

如果一定要尝试的话,可以参考下仓库里面production的配置。实际场景中,我建议loki的index使用cassandra来存储,chunk采用S3协议的对象存储。适当扩大query-frontend的副本数来切片查询语句。由于loki的查询运算全靠硬件资源硬抗(cpu速度、网络传输带宽、磁盘io),任何一个慢都会造成木桶效应,你在使用时得结合机器性能调整配置。理论上来说,集群规模越大,loki查询的吞吐量越高,也更耗机器性能。

@liuxuzxx
Copy link

请教一个集群的问题。
现在部署loki的微服务模式,部署版本是2.9.1,部署组件如下:
gateway:1
distributor:3
ingester:3
querier: 1

现在发现一个问题,看Loki官网说的是distributor会根据接收到的日志的labels计算一个hash数值,然后根据这个hash数值从ingester组成的一个hash ring当中找到一个ingester去请求。
那么问题来了,如果有一个服务的日志很多,然后Loki官网又不建议给动态的标签,那么这些日志都会被distributor给hash到同一个ingester去,那么就会造成另外两个ingester很空闲,只有一个ingester很繁忙,有时候容易导致OOM kill,引起重启.
@LinkMaq 请教下,类似这种怎么处理?

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

4 participants