SO1S-204 그라파나 대시보드 커스텀

[NEM-NE]

그라파나 대시보드 커스텀

Tasks

• CloudWatch Datasource 프로비저닝 설정
• Backend API Server 대시보드 프로비저닝 설정
• Inference Server 대시보드 프로비저닝 설정

Discussion

• 이제 되도록이면 Cloud Code나 다른 익스텐션을 통해 쿠버네티스 리소스를 모니터링 하지말고 기능 피드백을 위해 그라파나를 통해서 모니터링을 해주시면 감사하겠습니다.
• 남은 태스크는 "인퍼런스 서버 평균 응답 시간, TPS, Error Rate 수집"인데 해당 테스크는 Istio말고도 다른 메트릭으로 측정할 수 있을 거 같아 조사 후 진행하려고 합니다.
• 불필요한 대시보드는 지우려고 했는데 학습을 위해서 남겨두려고 합니다. / 삭제해야하는 대시보드의 기준을 어떤 것으로 잡으면 될까요? 로그 기준과 마찬가지로 ML 개발자가 필요한 + So1s 프로덕트에 대한 대시보드만 남겨두면 될까요? 의견 부탁드립니다~ @DPS0340 @shinilseop

Jira

• SO1S-204

[DPS0340]

고생하셨습니다 👍

[DPS0340]

targetRevision main으로 넣어야 하지 않을까요?

[NEM-NE]

넵 Dev 환경이어서 신경을 안쓰고 있었네요 다 변경하겠습니다

[shinilseop]

고생하셨습니다 ~

이제 되도록이면 Cloud Code나 다른 익스텐션을 통해 쿠버네티스 리소스를 모니터링 하지말고 기능 피드백을 위해 그라파나를 통해서 모니터링을 해주시면 감사하겠습니다.

• 아직.. 익숙하진 않지만 노력해보겠습니다.. ㅎㅎ

남은 태스크는 "인퍼런스 서버 평균 응답 시간, TPS, Error Rate 수집"인데 해당 테스크는 Istio말고도 다른 메트릭으로 측정할 수 있을 거 같아 조사 후 진행하려고 합니다.

• 음 istio를 사용하지 않는 이유는 무엇인가요 ?? istio 위에 app들을 올리면 istio로 측정하면 편리하지 않나요 ??

불필요한 대시보드는 지우려고 했는데 학습을 위해서 남겨두려고 합니다. / 삭제해야하는 대시보드의 기준을 어떤 것으로 잡으면 될까요? 로그 기준과 마찬가지로 ML 개발자가 필요한 + So1s 프로덕트에 대한 대시보드만 남겨두면 될까요? 의견 부탁드립니다~

• 프로덕트 관련 대시보드랑 쿠버네티스의 네트워크랑 리소스 정도만 볼 수 있게 남겨주시면 좋겠습니다~

[NEM-NE]

@shinilseop

음 istio를 사용하지 않는 이유는 무엇인가요 ?? istio 위에 app들을 올리면 istio로 측정하면 편리하지 않나요 ??

일단 Istio에 대해서 지식 습득과 현재 설치된 Istio에서는 메트릭을 제공하고 있지 않기 때문에 메트릭 수집을 위한 설정을 해줘야합니다.
또한 사용할 예정인 container_network_~~ 메트릭은 이미 제공하고 있는 메트릭이기도 하고 인퍼런스 서버에서도 충분히 적용할 수도 있어서 해당 메트릭 공부 후 적용해보려고 합니다