Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

JobがたまったときにSlackに通知する #212

Closed
sapphi-red opened this issue Aug 25, 2021 · 8 comments
Closed

JobがたまったときにSlackに通知する #212

sapphi-red opened this issue Aug 25, 2021 · 8 comments
Assignees

Comments

@sapphi-red
Copy link
Member

sapphi-red commented Aug 25, 2021

CloudWatchからlambdaでSlackに

@takonomura
Copy link
Contributor

📝

  • 軽く調べた限り lambda 使わなくても AWS Chatbot で Slack 通知はできそうです
  • 余力があれば Slack に通知だけでなく worker のオートスケールができると良さそうという話が定例中に出た

@yfujit
Copy link
Contributor

yfujit commented Sep 1, 2021

別環境でテストしましたが、以下の構成で実現できました
・CloudWatch Alarm -> SNS -> Chatbot
SQSのパラメータでCloud Watch Alarmのメトリクスで取得できる一覧は以下のURLから確認できます。
https://docs.aws.amazon.com/ja_jp/AWSSimpleQueueService/latest/SQSDeveloperGuide/sqs-available-cloudwatch-metrics.html
1分間に1度しかメトリクス取得ができないため1分以内での通知はできません

2021/8/21 のSQSのメトリックスを見るとisuxportal-activejob-prdのApproximateNumberOfMessagesVisibleのCountが増加しているように見えます
dlqにはメッセージが入っているようには見えませんでした

@sorah
Copy link
Member

sorah commented Sep 1, 2021

ApproximateNumberOfMessagesVisible か ApproximateAgeOfOldestMessage でひっかけるのがただしいです。

@yfujit
Copy link
Contributor

yfujit commented Sep 1, 2021

ありがとうございます!
ApproximateNumberOfMessagesVisibleにてdev環境で一度構築してみます
workerのオートスケールはalarm状態 / OK状態の遷移時にCloud watch alarm -> SNS -> lambda(hako)でのスケールかなと思っています

@sorah
Copy link
Member

sorah commented Sep 1, 2021

ECS Service でつかえる Application Autoscaling に CloudWatch Alarm トリガーあるんでそんなに頑張らなくてもできます

@takonomura
Copy link
Contributor

@takonomura
Copy link
Contributor

定例で話したこと 📝

予選でジョブが詰まったときの状況とかを見た限り、スケールアウトのしきい値は ApproximateNumberOfMessagesVisible の 1m avg が100以上とかで良さそう

@sorah
Copy link
Member

sorah commented Sep 1, 2021

まあこないだは単純に足りてないときはCPUはりついてたから CPU 60% とかで target tracking してもよい

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

4 participants