NLP 썸네일형 리스트형 Perplexity 지표란? 퍼플렉시티(perplexity) 퍼플렉시티는 언어 모델의 성능을 평가하는 지표로 혼란, 혼동이라는 사전적 의미를 가지고 있는데, 모델이 테스트 데이터에 대해 얼마나 '혼란스러워하는지'를 수치로 나타낸다.값이 낮을수록 모델이 실제 문장을 더 잘 예측한다는 의미이다. 계산 방법은 다음과 같다:$$ Perplexity(W) = P(w_1, w_2, \cdots, w_N)^{-\frac{1}{N}} = exp(-\frac{1}{N}\sum_{t=1}^{N} logP(w_t|w_1^{t-1}))$$ 여기서$N$은 테스트 세트의 전체 단어 수이고,$P(w_t|w_1^{t-1})$은 모델이 t번째 단어를 이전 단어들을 바탕으로 예측한 확률이다. 실제 계산은 각 단어의 조건부 확률의 로그값을 모두 더한 뒤에 전체 단.. 더보기 이전 1 다음