sLLM (경량 언어모델)

문득 젯슨 나노 4GB 모델에서 돌려볼만한 모델이 있나 찾아보는중.

2GB가 대부분이라 돌려볼 엄두도 안날것 같긴한데..

4GB 면은 그래도 1B 모델 정도는 가능하지 않을까 해서 검토

 

[링크 : https://huggingface.co/microsoft/Phi-3-mini-4k-instruct/]

[링크 : https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v1.0/]

 

[링크 : https://www.jetson-ai-lab.com/models/gemma3-1b/]

[링크 : https://www.jetson-ai-lab.com/models/qwen3-5-0-8b/]

    [링크 : https://huggingface.co/Qwen/Qwen3.5-0.8B]

[링크 : https://huggingface.co/unsloth/Qwen3.5-0.8B-GGUF] multimodal - image / video

[링크 : https://huggingface.co/unsloth/Qwen3.5-0.8B-MTP-GGUF]

 

[링크 : https://huggingface.co/unsloth/tinyllama/]

[링크 : https://huggingface.co/unsloth/gemma-2-2b]

[링크 : https://huggingface.co/unsloth/gemma-2b]