Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

milvus集群版search压力倾斜 #911

Open
WWJ002233 opened this issue May 30, 2024 · 4 comments
Open

milvus集群版search压力倾斜 #911

WWJ002233 opened this issue May 30, 2024 · 4 comments

Comments

@WWJ002233
Copy link

我部署了milvus集群版,一共5个node。
启动了一个java服务使用sdk压测milvus的search,但是只有一个node的cpu水位大幅上涨,其他node变化不大。
这是为什么?

@WWJ002233 WWJ002233 changed the title milvus集群版只有一个有压力 milvus集群版search压力倾斜 May 30, 2024
@xiaofan-luan
Copy link
Contributor

是否是因为索引建不过来,数据都在delegator上,无法balance?可以使用birdwatcher看看。
多几个shard能缓解,但是最好还是indexnode要够

@WWJ002233
Copy link
Author

是否是因为索引建不过来,数据都在delegator上,无法balance?可以使用birdwatcher看看。 多几个shard能缓解,但是最好还是indexnode要够

我部署的是2.2版本,只有一个proxy的cpu水位上涨,而且一直是同一个。我开了两个java服务去压测,有两个proxy的cpu水位上涨。sdk是有长链接吗?

@yhmo
Copy link
Contributor

yhmo commented May 31, 2024

sdk的连接基本上是长连接,proxy如果有多个,那它们的地址都是不同的。客户端连接不同的proxy就应该连接不同的proxy地址。如果只有一个proxy在忙,那说明你的客户端全都连的同一个proxy。milvus本身并没有proxy的balance机制。

@xiaofan-luan
Copy link
Contributor

如果是proxy,你需要在proxy之前加负载均衡。
通常一个sdk不应该可以打爆一台proxy的cpu,也可以通过增加proxy的pod大小提升性能

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants