게임/니어 오토마타2026. 7. 19. 20:50

모든 엔딩은 다 보았고

이름을 남기기 완료

 

 

자 10회차 가자고 ㅋㅋㅋ

Posted by 구차니

테스트 해보니

IQ2_M 은 영어로 하던 한글로 하던 반복해서 쓸수가 없고

Q4 / Q8은 생각하지 않게하니 응답은 한다.

llama-b10068-bin-win-cuda-12.4-x64>llama-cli.exe --chat-template-kwargs "{\"enable_thinking\": false}" -m Qwen3.5-0.8B-UD-IQ2_M.gguf

 

1060 6GB

모델 파일 크기 VRAM tokens per second
Qwen3.5-0.8B-UD-IQ2_M.gguf 354 MB 3897 - 86 MiB ~ 89
Qwen3.5-0.8B-UD-Q4_K_XL.gguf 532 MB 4073 - 86 MiB ~ 86
Qwen3.5-0.8B-UD-Q8_K_XL.gguf 1.10 GB 4313 - 86 MiB ~ 62

 

 

아래 처럼하면 엄청 줄일 순 있는데

llama-b10068-bin-win-cuda-12.4-x64>llama-cli -c 4096  -ctk q4_0  --chat-template-kwargs "{\"enable_thinking\": false}" -m Qwen3.5-0.8B-UD-Q4_K_XL.gguf

 

컨텍스트만 해도 이정도로 줄어든다.

-c 4096 797 MiB

-c 8192 861 MiB

-c 16384 953 MiB

 

Q8은 많이 줄어들진 않는다.

llama-b10068-bin-win-cuda-12.4-x64>llama-cli -c 4096 --chat-template-kwargs "{\"enable_thinking\": false}" -m Qwen3.5-0.8B-UD-Q8_K_XL.gguf

-c 4096 1395 MiB

-c 8192 1447 MiB

-c 16384 1551 MiB

 

그래도 이정도면 2GB 에서도 어떻게 돌릴순 있을듯 한데?

 

+

1187 MiB. 와우

ffprobe와 ffmpeg을 넣어줘도  big bunny 60MB 짜리를 못하네 쩝.. 어떻게 해야 돌릴수 있지?

D:\study\llm\llama-b10068-bin-win-cuda-12.4-x64>llama-cli -c 4096 -ctk q4_0 --chat-template-kwargs "{\"enable_thinking\": false}" -m Qwen3.5-0.8B-UD-Q4_K_XL.gguf -mm mmproj-F16.gguf


Loading model...

▄▄ ▄▄
██ ██
██ ██  ▀▀█▄ ███▄███▄  ▀▀█▄    ▄████ ████▄ ████▄
██ ██ ▄█▀██ ██ ██ ██ ▄█▀██    ██    ██ ██ ██ ██
██ ██ ▀█▄██ ██ ██ ██ ▀█▄██ ██ ▀████ ████▀ ████▀
                                    ██    ██
                                    ▀▀    ▀▀

build      : b10068-571d0d540
model      : Qwen3.5-0.8B-UD-Q4_K_XL.gguf
ftype      : Q4_K - Medium
modalities : text, vision, video

available commands:
  /exit or Ctrl+C     stop or exit
  /regen              regenerate the last response
  /clear              clear the chat history
  /read <file>        add a text file
  /glob <pattern>     add text files using globbing pattern
  /image <file>       add an image file
  /video <file>       add a video file

 

+

2026.07.19

jetson nano에 하려고 했더니

ollama 업데이트 -> glibc 버전 문제로 먹통

llama.cpp -> libssl.so.3 / libcrypto.so.3 문제로 실행불가

빌드 하려니 32GB 짜리인데도 93% 라서 먼가 할수 없는 상황 -_-

Posted by 구차니
게임/니어 오토마타2026. 7. 18. 22:55

후.. 또 언제 탄막하고 10회차 가지? ㅋㅋㅋ

 

3식 전술창 얻고 강화하기 전

 

강화하고 나니 빨간점이 하나 생긴다.

 

에밀이 무엇을 결심할걸까

 

 

에일리언들이 지구 와서 겁나 후회했을 것 같은 비주얼 1

에일리언 : 아니 환공포증 아니아니 게슈탈트 붕괴 올뻔했다고 (어?!)

 

에일리언들이 지구 와서 겁나 후회했을 것 같은 비주얼 2

에일리언 : 아니 쟤네 눈에서 레이저가 나온다고!!! C8!!!!

 

이거 놓치면 안된다고 했는데

정작 못 잡아서 한 번 더 봄 ㅋㅋㅋㅋ

 

 

 

 

솔찍히 내가 만나던 에밀이 흑화해서 다 죽이겠다! 하는게 아니라서 다행이야 ㅠㅠ

Posted by 구차니

어? Stale diffusion 에서 들었던 lora가 나오네? stable diffusion 만의 기술은 아니었나 보다.

그나저나 돌려볼 엄두도 안나긴 하지만.. 코드가 잘 보이지 않네. 한번 시도는 해보고 싶은디.

 

LoRA - Low Rank Adaptation

QLoRA - Quantized LoRa

[링크 : https://wikidocs.net/293565]

[링크 : https://news.hada.io/topic?id=28211]

[링크 : https://littlefoxdiary.tistory.com/m/134]

 

 

'프로그램 사용 > ai 프로그램' 카테고리의 다른 글

qwen3.5 0.8B  (0) 2026.07.19
sLLM (경량 언어모델)  (0) 2026.07.18
딥러닝은 참.. 전기가 많이 드는구나..  (0) 2026.07.16
claude code /model  (0) 2026.07.08
claude code 세션 정보  (0) 2026.07.06
Posted by 구차니

문득 젯슨 나노 4GB 모델에서 돌려볼만한 모델이 있나 찾아보는중.

2GB가 대부분이라 돌려볼 엄두도 안날것 같긴한데..

4GB 면은 그래도 1B 모델 정도는 가능하지 않을까 해서 검토

 

[링크 : https://huggingface.co/microsoft/Phi-3-mini-4k-instruct/]

[링크 : https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v1.0/]

 

[링크 : https://www.jetson-ai-lab.com/models/gemma3-1b/]

[링크 : https://www.jetson-ai-lab.com/models/qwen3-5-0-8b/]

    [링크 : https://huggingface.co/Qwen/Qwen3.5-0.8B]

[링크 : https://huggingface.co/unsloth/Qwen3.5-0.8B-GGUF] multimodal - image / video

[링크 : https://huggingface.co/unsloth/Qwen3.5-0.8B-MTP-GGUF]

 

[링크 : https://huggingface.co/unsloth/tinyllama/]

[링크 : https://huggingface.co/unsloth/gemma-2-2b]

[링크 : https://huggingface.co/unsloth/gemma-2b]

 

 

'프로그램 사용 > ai 프로그램' 카테고리의 다른 글

qwen3.5 0.8B  (0) 2026.07.19
LLM 지식 증류(knowledge distilation), lora  (0) 2026.07.18
딥러닝은 참.. 전기가 많이 드는구나..  (0) 2026.07.16
claude code /model  (0) 2026.07.08
claude code 세션 정보  (0) 2026.07.06
Posted by 구차니
게임/니어 오토마타2026. 7. 18. 00:13

점프 이거 따라하는 법 도저히 못 하고 포기 -_ㅠ

그냥 겁나 비비면서 미라지 써서 조금씩 올라가는거 성공해서 겨우겨우 획득

 

 

[링크 : https://m.blog.naver.com/zerone83/221009003868]

Posted by 구차니

검게 그슬려 돌아옴 ㅋㅋ

 

입구는 그냥 조촐(?) 한데

 

들어가서 보면 나름 넓고 괜찮다. 금액대비 대만족!

 

'개소리 왈왈 > 육아관련 주저리' 카테고리의 다른 글

지상용 선풍기?  (2) 2026.07.12
타이어 손상  (3) 2026.06.29
베란다 문 잠금장치 수리  (2) 2026.06.23
바쁜주말  (2) 2026.05.31
밀크티 타블렛(s6 lite) 초기화 하기  (0) 2026.05.23
Posted by 구차니

RFID 관련 규격 정리중

 

claude 랑 이야기 하다 보니

type A / type B는 part 2 RF 출력, 신호 인터페이스 관련(modulation 등) 차이이고

mifare / desfire / ntag 등은 type A를 쓴다고 한다.

 

part 4 에서 전송 프로토콜 혐상을 하고 나서 APDU로 통신을 하는 듯.

 

Part 1: Physical characteristics

[링크 : https://cdn.standards.iteh.ai/samples/73596/a466036642d748d5a68e3adf58009141/ISO-IEC-14443-1-2018.pdf]

 

Part 2: Radio frequency power and signal interface

[링크 : https://cdn.standards.iteh.ai/samples/73597/91d41d645abb47b583de0532e74590d6/ISO-IEC-14443-2-2020.pdf]

 

Part 3: Initialization and anticollision

[링크 : https://cdn.standards.iteh.ai/samples/73598/7d90d7e26ed74f22b6ccd16cc3204b7d/ISO-IEC-14443-3-2018.pdf]

 

Part 4: Transmission protocol

[링크 : https://cdn.standards.iteh.ai/samples/73599/78cb3949540b4b7da711f301650caa06/ISO-IEC-14443-4-2018.pdf]

 

Posted by 구차니

순식간에 완만해 지는 곡선. 하지만 얼마나 더 떨궈야 하나 부터 고민해보면

뒤로 갈수록 기울기는 점점 완만해지고, 도달에 원하는 수치까지의 시간은 예상외로 길어지게 된다.

 

학습율 0.04

0~10000 까지의 학습

0~2000

2000~4000

4000~6000

6000~8000

 

학습율 0.01

0~9000 정도 까지의 학습

 

아래는 구간에 대한 y축 스케일이 다른 확대 버전.

0~2000 epoch

 

2000~4000

 

4000~6000

 

6000~8000

 

8000~10000

 

올라가냐 내려가냐 희망고문하는게 무슨 주식같냐 -_-

'프로그램 사용 > ai 프로그램' 카테고리의 다른 글

LLM 지식 증류(knowledge distilation), lora  (0) 2026.07.18
sLLM (경량 언어모델)  (0) 2026.07.18
claude code /model  (0) 2026.07.08
claude code 세션 정보  (0) 2026.07.06
claude.ai / claude code  (0) 2026.07.03
Posted by 구차니

어... 지금까지 내가 보던게 training loss가 아니라 validation loss 였나 보다?

그나저나 일정 수치 이하로 안떨어지는건 over fit은 아닌것 같은데 머지?

[링크 : https://itmaster98.tistory.com/233]

 

평탄화 되면 잘 학습된거라는데.. 그 값이 0.xxx 이렇게 수렴하지 않고 3.xxxx 이렇게 되어도 되나?

[링크 : https://blog.naver.com/dkdaf/224309817150]

 

어.. 그러고 보니 validation set을 몇 장 안넣어 둔 거 같은데..

그래서 높게 나오나?

[링크 : https://hei-jung.github.io/machine-learning/why-is-my-validation-loss-lower-than-my-training-loss/]

 

학습속도 0.0005 ~ 0.001 사이 (어떤 모델, 학습인진 모르겠으나..)

[링크 : https://sulung-sulung.tistory.com/18]

 

초기 학습 시작시에 높은 값이 뜨긴 하지만 그래도 만 단위 까지 본적은 없음.

반대로 학습율이 너무 높다던가. 정 안되면 loss function을 바꿔봐야 하나?

[링크 : https://oniss.tistory.com/35]

 

학습곡선이 진동이 크면 batch 를 늘리는 것도 방법(메모리 사용량 증가)

[링크 : https://hyen4110.tistory.com/12]

 

[링크 : https://velog.io/@jhlee508/인공지능-Loss가-더-작다고-Accuracy가-더-높은-것은-아니다]

[링크 : https://untitledtblog.tistory.com/158]

Posted by 구차니