Skip to content

Latest commit

 

History

History
6 lines (5 loc) · 418 Bytes

20221116.md

File metadata and controls

6 lines (5 loc) · 418 Bytes

1. Loss

  • 학습 과정에서 train loss가 안 떨어지면 학습이 제대로 안되고 있다는 의미
  • train loss는 떨어지는데 valid loss는 오를 경우 오버피팅

2. HuggingFace

  • transformers 라이브러리에서 제공하는 사전학습모델을 분류 문제에 사용할 때, 모델 인자로 labels=~ 를 넣어주면 모델 예측 결과에서 바로 loss 뽑을 수 있음