프로그램 사용/ai 프로그램
llama-server web ui
구차니
2026. 4. 24. 23:26
llama.cpp의 llama-server 로 구동하면 모델은 바꿀수 없지만
chatGPT 나 claude와 유사한 web ui로 사용할 수 있다.
간략하게 토큰 생성 속도도 나온다.
설정은 다음과 같다.
