LLM temperature = 0.1 무한 반복

ai로 코딩해서 아무생각이 없었는데

반복해도 오타를 수정안해주고

모델 바꾸어서 하니 메모리 부족한가? 왜 자꾸 하던말 계속 반복해?! 했는데

코드를 뒤져보니 temperature가 0.1로 되어있는 것을 발견

 

웹 뒤져보고 ai 질문 해보니

temperature가 낮으면 할 말 없음 반복한다고.

일정시간이상 계속 생성하면 잘라야하나?

 

[링크 : https://kr.linkedin.com/pulse/2편-llm-출력-결과를-바꾸는-핵심-설정값-temperature-top-k-top-p-output-seowoo-han-lzrrc]

[링크 : https://www.reddit.com/r/LocalLLaMA/comments/1ap8mxh/what_causes_llms_to_fall_into_repetitions_while/?tl=ko]