프로그램 사용/ai 프로그램
nvidia-smi를 통한 소비전력 제한과 토큰 생성속도
구차니
2026. 4. 24. 23:36
250W 짜리를 그대로 사용할 경우
125W로 제한할 경우
30토큰이나 35토큰이나 비슷하다고 생각하면 비슷한 수준이라
전기는 절반만 먹고 약간느려지는 수준이라면 나쁘지 않은 설정인듯