Loss nan 값 나올 때

torch.exp(x)

이때 x 값이 너무 큰 값이 들어가면 숫자가 아니라 inf 로 결과가 나와버림.

 

inf 값에 다른 수치를 곱하거나 나눠버리면 nan값으로 변하게 되어서 loss가 nan으로 나오게 되는거임

 

x를 특정 값으로 나눠서 수치를 작게 만들거나 해주면 잘 해결됨