'잡동사니'에 해당되는 글 14756건
- 2026.08.04 연차 2일차
- 2026.08.03 연차 1일차 - 남양주 스테이힐
- 2026.08.02 먼가 바쁘네, 중고폰 환불
- 2026.08.01 중고폰 지름
- 2026.07.31 주식미친
- 2026.07.31 영월동강축네
- 2026.07.30 wan2.2 nvfp4
- 2026.07.30 llama.cpp -ts 옵션
- 2026.07.30 llama.cpp / 1080 ti 11GB * 2 / Qwen3.6-35B Q2, MXFP4
- 2026.07.30 llama.cpp / 1080 ti 11GB * 2/ gemma4-31B
당근으로 뜬 거 보고 가봤는데
[링크 : https://stayhill.co.kr/]
1. 우리집에선 가까움 ㅋ
2. 친절하심
3. 쌈!
4. 수영장 크고 깊음(1.5m)
5. 고기도 구워먹을수 있음!
몇 번 더 올 듯 ㅎㅎ
입구에서 좌측으로 턴하고 안으로 쭉 들어오면 수영장이 있는데 1.5m 까지 되는 풀이다
노란색 튜브 있는 쪽은 얕은 곳.

아침에 개산책
한놈 빨고
아내가 원하는 크림새우에
애들 교회 왕복
아부지 점심
4시간 기절
핸드폰 중고로 산 거 환불 (액정에 점 하나, 추후 얼마나 금세 망가질지 미지수라.. 그리고 USB 한방향만 인식)
매일 놀러갈 거 장보기
'개소리 왈왈 > 모바일 생활' 카테고리의 다른 글
| 삼성 정품(?) fm 되는 usb-c 이어폰 (0) | 2026.09.05 |
|---|---|
| 중고폰 지름 (0) | 2026.08.01 |
| 요금제 변경 - 얼굴 인식 승질나네 (0) | 2026.07.28 |
| 요금제 변경 완료 (0) | 2026.01.30 |
| 요금제 변경 시도 (0) | 2026.01.28 |
어우 드럽게 비싸네
일단 s21 21만원에 지름
비싼거 같긴한데 새거보단 싸니..
그 와중에 반도체 대란이니..
'개소리 왈왈 > 모바일 생활' 카테고리의 다른 글
| 삼성 정품(?) fm 되는 usb-c 이어폰 (0) | 2026.09.05 |
|---|---|
| 먼가 바쁘네, 중고폰 환불 (0) | 2026.08.02 |
| 요금제 변경 - 얼굴 인식 승질나네 (0) | 2026.07.28 |
| 요금제 변경 완료 (0) | 2026.01.30 |
| 요금제 변경 시도 (0) | 2026.01.28 |
2일에걸쳐 1000빠지더니 히루만에 1000 오름
안해서 다행이야
오늘도 떨어질거리고 생각했는데 미친역대급 오름
'개소리 왈왈 > 정치관련 신세한탄' 카테고리의 다른 글
| 오늘의 늬우스 (2) | 2026.07.28 |
|---|---|
| 먼가 주식 안하면 바보인 시대 (2) | 2026.02.22 |
| 혼돈 파괴 카오스(?)의 미국 (0) | 2026.01.20 |
| 패권주의의 부활? (0) | 2026.01.04 |
| 영포티 단상 (0) | 2025.11.10 |
잼나네
이것만 보고 가서 메기 잡기랑, 견지낚시 체험 하려고 했는데
메기 잡기는 10000원/인당 내야해서 애들만 하게 하고
물놀이 장에서 놀면서 옆에서 강원 청소년 댄스 대회? 그런거 보고 있었는데
먼가 눈에 들어온 애들은 죄다(!) 장려상이고
눈에 들어오지도 않던 애들이 입상 -_-
이 더운 날씨에 무려! 응원복까지 입고 했는데 왜?!

[링크 : https://www.ywfestival.com/]
'개소리 왈왈 > 육아관련 주저리' 카테고리의 다른 글
| 연차 2일차 (0) | 2026.08.04 |
|---|---|
| 연차 1일차 - 남양주 스테이힐 (0) | 2026.08.03 |
| 철원 팜팜랜드 (0) | 2026.07.17 |
| 지상용 선풍기? (2) | 2026.07.12 |
| 베란다 문 잠금장치 수리 (2) | 2026.06.23 |
'embeded > jetson' 카테고리의 다른 글
| nvidia jetson agx thor / vLLM 시도 (0) | 2026.07.28 |
|---|---|
| nvidia jetson agx thor / mig (0) | 2026.07.27 |
| nvidia jetson agx thor / 디버그 usb (0) | 2026.07.27 |
| nvidia-smi mig (0) | 2026.07.26 |
| nvidia jetson agx thor dev kit 설치 - USB boot (0) | 2026.07.24 |
gpu가 2개다 보니
기본값으로 반띵하면 이상하게 gpu0번에 메모리가 부족하고 gpu1번에는 1기가 넘게 남고 그러다 보니
그 비율을 조절해서 gpu1에 조금더 할당할 방법이 없나 해서 찾는 중
| llama-b10145$ ./llama-cli --help | grep tensor-split -ts, --tensor-split N0,N1,N2,... fraction of the model to offload to each GPU, comma-separated list of |
-ts 10,11 이런식으로 써주면 gpu 0 에는 10/21 cpu 1에는 11/21 이 할당된다.
'모종의 음모 > ai 프로그램' 카테고리의 다른 글
| runpod.. 재조사 (0) | 2026.08.11 |
|---|---|
| llama-swap v247, load test (0) | 2026.08.07 |
| llama.cpp / 1080 ti 11GB * 2 / Qwen3.6-35B Q2, MXFP4 (0) | 2026.07.30 |
| llama.cpp / 1080 ti 11GB * 2/ gemma4-31B (0) | 2026.07.30 |
| llama.cpp / jetson thor gemma-4-31B mmproj F16, BF16 (0) | 2026.07.30 |
음.. 구형 하드웨어라 Q2가 오히려 성능이 잘나오는군..
| $ ../../llama-b9692/llama-cli -m Qwen3.6-35B-A3B-UD-Q2_K_XL.gguf > 안녕? [ Prompt: 9.4 t/s | Generation: 58.1 t/s ] > 너에 대해서 설명해줘 [ Prompt: 63.8 t/s | Generation: 58.1 t/s ] > 파이썬으로 셀레니움을 통해 웹을 서칭하고 텍스트만 추출하고 makrdown 으로 변환후 md 파일과 pdf로 저장하는 기능을 구현해줘 [ Prompt: 34.2 t/s | Generation: 56.4 t/s ] $ ../../llama-b9692/llama-cli -m Qwen3Qwen3.6-35B-A3B-MXFP4_MOE.gguf > 안녕? [ Prompt: 9.5 t/s | Generation: 48.6 t/s ] > 너에 대해서 설명해줘 [ Prompt: 43.4 t/s | Generation: 50.0 t/s ] > 파이썬으로 셀레니움을 통해 웹을 서칭하고 텍스트만 추출하고 makrdown 으로 변환후 md 파일과 pdf로 저장하는 기능을 구현해줘 [ Prompt: 77.6 t/s | Generation: 50.8 t/s ] |
'모종의 음모 > ai 프로그램' 카테고리의 다른 글
| llama-swap v247, load test (0) | 2026.08.07 |
|---|---|
| llama.cpp -ts 옵션 (0) | 2026.07.30 |
| llama.cpp / 1080 ti 11GB * 2/ gemma4-31B (0) | 2026.07.30 |
| llama.cpp / jetson thor gemma-4-31B mmproj F16, BF16 (0) | 2026.07.30 |
| llama.cpp 동시에 응답하게 하기 (0) | 2026.07.29 |
엥.. 이거 왜 결과 기록한게 없지?
| $ ../../llama-b9692/llama-cli -m ./gemma-4-31B-it-UD-Q2_K_XL.gguf 안녕? [ Prompt: 8.9 t/s | Generation: 12.2 t/s ] 너에 대해 설명해줘 [ Prompt: 33.3 t/s | Generation: 11.8 t/s ] 파이썬으로 셀레니움을 통해 웹을 서칭하고 텍스트만 추출하고 makrdown 으로 변환후 md 파일과 pdf로 저장하는 기능을 구현해줘 [ Prompt: 36.1 t/s | Generation: 11.4 t/s ] |
메모리 부족으로 터져서 mtp + mmproj 는 50k로 컨텍스트 길이 바꾸고 수행. 그래서 좀 불공평하긴 함.
| $ ../../llama-b9692/llama-cli -m gemma-4-31B-it-UD-Q2_K_XL.gguf --mmproj mmproj-F16.gguf --model-draft mtp-gemma-4-31B-it.gguf --spec-type draft-mtp --spec-draft-n-max 2 -p " 텍스트 추출해줘" --image test.jpg 이미지에서 텍스트를 추출해 드립니다. **제목: 건설사 시공능력평가 상위 20위 현황** (※ 2026년 평가액 기준, ()는 순위 변동 / 단위: 억원) | 순위 | 기업명 | 금액 (억원) | 순위 변동 | | :--- | :--- | :--- | :--- | | 1 | 삼성물산 | 34조 8,785 | - | | 2 | 현대건설 | 18조 2,714 | - | | 3 | GS건설 | 11조 668 | $\uparrow 2$ | | 4 | 현대엔지니어링 | 11조 53 | $\uparrow 2$ | | 5 | 대우건설 | 9조 9,249 | $\downarrow 2$ | | 6 | DL이앤씨 | 9조 352 | $\downarrow 2$ | | 7 | 롯데건설 | 7조 8,411 | $\uparrow 11$ | | 8 | 포스코이앤씨 | 7조 5,851 | $\downarrow 1$ | | 9 | SK에코플랜트 | 7조 59 | - | | 10 | 아이파크현대산업개발 | 5조 6,448 | - | | 11 | 한화 | 4조 711 | - | | 12 | 호반건설 | 3조 4,029 | - | | 13 | DL 건설 | 3조 3,718 | - | | 14 | 계룡건설산업 | 3조 1,064 | $\uparrow 11$ | | 15 | 두산에너빌리티 | 2조 9,551 | $\downarrow 1$ | | 16 | 서희건설 | 2조 8,043 | - | | 17 | 제일건설 | 2조 7,696 | - | | 18 | 우미건설 | 2조 6,912 | $\uparrow 3$ | | 19 | 쌍용건설 | 2조 6,704 | $\uparrow 4$ | | 20 | 효성중공업 | 2조 4,880 | $\uparrow 7$ | **자료:** 국토교통부 **출처:** 뉴스1 [ Prompt: 25.7 t/s | Generation: 11.6 t/s ] |
$ ../../llama-b9692/llama-cli -m gemma-4-31B-it-UD-Q2_K_XL.gguf --mmproj mmproj-F16.gguf --model-draft mtp-gemma-4-31B-it.gguf --spec-type draft-mtp --spec-draft-n-max 2 -p " 텍스트 추출해줘" --image test.jpg -c 50000 이미지에서 추출한 텍스트 내용은 다음과 같습니다. **[제목]** 건설사 시공능력평가 상위 20위 현황 ※ 2026년 평가액 기준, ( )는 순위 변동 단위: 억원 **[목록]** 1. 삼성물산: 34조 8785 2. 현대건설: 18조 2714 3. GS건설: 11조 668 (↑2) 4. 현대엔지니어링: 11조 53 (↑2) 5. 대우건설: 9조 9249 (↓2) 6. DL이앤씨: 9조 352 (↓2) 7. 롯데건설: 7조 8411 (↑11) 8. 포스코이앤씨: 7조 5851 (↓1) 9. SK에코플랜트: 7조 59 10. 아이파크현대산업개발: 5조 6448 11. 한화: 4조 711 12. 호반건설: 3조 4029 13. DL건설: 3조 3718 14. 계룡건설산업: 3조 1064 (↑11) 15. 두산에너빌리티: 2조 9551 (↓1) 16. 서희건설: 2조 8043 17. 제일건설: 2조 7696 18. 우미건설: 2조 6912 (↑3) 19. 쌍용건설: 2조 6704 (↑4) 20. 효성중공업: 2조 4880 (↑7) **[하단 정보]** 자료: 국토교통부 뉴스1 (로고) [ Prompt: 24.5 t/s | Generation: 13.6 t/s ] |
+
옵션없이 하면 이렇게 터진다.
| $ ../../llama-b9692/llama-cli -m gemma-4-31B-it-UD-Q2_K_XL.gguf --mmproj mmproj-F16.gguf --model-draft mtp-gemma-4-31B-it.gguf --spec-type draft-mtp --spec-draft-n-max 2 -p " 텍스트 추출해줘" --image test.jpg Loading model... -0.01.585.512 E llama_init_from_model: failed to initialize the context: Gemma4Assistant requires ctx_other to be set (this warning is normal during memory fitting) \ggml_vulkan: Device memory allocation of size 1073346048 failed. ggml_vulkan: vk::Device::allocateMemory: ErrorOutOfDeviceMemory /home/runner/work/llama.cpp/llama.cpp/ggml/src/ggml-backend.cpp:179: GGML_ASSERT(buffer) failed 0.16.559.995 E alloc_tensor_range: failed to allocate Vulkan1 buffer of size 1073346048 |
![]() |
-ts 10,11 하니까 10:11 비율로 할당해서 간당간당하게 안터짐 ㅋㅋ
| $ ../../llama-b9692/llama-cli -m gemma-4-31B-it-UD-Q2_K_XL.gguf --mmproj mmproj-F16.gguf --model-draft mtp-gemma-4-31B-it.gguf --spec-type draft-mtp --spec-draft-n-max 2 -p " 텍스트 추출해줘" --image test.jpg -c 50000 이미지 속의 텍스트를 추출해 정리해 드립니다. **제목: 건설사 시공능력평가 상위 20위 현황** * 기준: 2026년 평가액 기준, ( )는 순위 변동 * 단위: 억 원 | 순위 | 기업명 | 평가액 (억 원) | 순위 변동 | | :--- | :--- | :--- | :--- | | 1 | 삼성물산 | 34조 8,785 | - | | 2 | 현대건설 | 18조 2,714 | - | | 3 | GS건설 | 11조 668 | $\uparrow$ 2 | | 4 | 현대엔지니어링 | 11조 53 | $\uparrow$ 2 | | 5 | 대우건설 | 9조 9,249 | $\downarrow$ 2 | | 6 | DL이앤씨 | 9조 352 | $\downarrow$ 2 | | 7 | 롯데건설 | 7조 8,411 | $\uparrow$ 11 | | 8 | 포스코이앤씨 | 7조 5,851 | $\downarrow$ 1 | | 9 | SK에코플랜트 | 7조 59 | - | | 10 | 아이파크현대산업개발 | 5조 6,448 | - | | 11 | 한화 | 4조 711 | - | | 12 | 호반건설 | 3조 4,029 | - | | 13 | DL건설 | 3조 3,718 | - | | 14 | 계룡건설산업 | 3조 1,064 | $\uparrow$ 11 | | 15 | 두산에너빌리티 | 2조 9,551 | $\downarrow$ 1 | | 16 | 서희건설 | 2조 8,043 | - | | 17 | 제일건설 | 2조 7,696 | - | | 18 | 우미건설 | 2조 6,912 | $\uparrow$ 3 | | 19 | 쌍용건설 | 2조 6,704 | $\uparrow$ 4 | | 20 | 효성중공업 | 2조 4,880 | $\uparrow$ 7 | **자료 출처:** 국토교통부 / 뉴스1 [ Prompt: 24.8 t/s | Generation: 13.5 t/s ] |
$ ../../llama-b9692/llama-cli -m gemma-4-31B-it-UD-Q2_K_XL.gguf --mmproj mmproj-F16.gguf --model-draft mtp-gemma-4-31B-it.gguf --spec-type draft-mtp --spec-draft-n-max 2 -p " 텍스트 추출해줘" --image test.jpg -ts 10,11 이미지에서 텍스트를 추출하여 정리해 드립니다. **제목: 건설사 시공능력평가 상위 20위 현황** * **기준:** 2026년 평가액 기준 / ( )는 순위 변동 * **단위:** 억원 | 순위 | 기업명 | 평가액 | 순위 변동 | | :--- | :--- | :--- | :--- | | 1 | 삼성물산 | 34조 8785 | - | | 2 | 현대건설 | 18조 2714 | - | | 3 | GS건설 | 11조 668 | $\uparrow$ 2 | | 4 | 현대엔지니어링 | 11조 53 | $\uparrow$ 2 | | 5 | 대우건설 | 9조 9249 | $\downarrow$ 2 | | 6 | DL이앤씨 | 9조 352 | $\downarrow$ 2 | | 7 | 롯데건설 | 7조 8411 | $\uparrow$ 11 | | 8 | 포스코이앤씨 | 7조 5851 | $\downarrow$ 1 | | 9 | SK에코플랜트 | 7조 59 | - | | 10 | 아이파크현대산업개발 | 5조 6448 | - | | 11 | 한화 | 4조 711 | - | | 12 | 호반건설 | 3조 4029 | - | | 13 | DL건설 | 3조 3718 | - | | 14 | 계룡건설산업 | 3조 1064 | $\uparrow$ 11 | | 15 | 두산에너빌리티 | 2조 9551 | $\downarrow$ 1 | | 16 | 서희건설 | 2조 8043 | - | | 17 | 제일건설 | 2조 7696 | - | | 18 | 우미건설 | 2조 6912 | $\uparrow$ 3 | | 19 | 쌍용건설 | 2조 6704 | $\uparrow$ 4 | | 20 | 효성중공업 | 2조 4880 | $\uparrow$ 7 | **자료 출처:** 국토교통부 [ Prompt: 25.2 t/s | Generation: 13.5 t/s ] |
![]() |
![]() |
jetson thor 에서
6.7 / 9.2 토큰 나온거 보면 확실히 1080이 그래도 체급이 있는지 빠르긴 하다
이걸 좋아해야하나 말아야 하나.. (전기 먹는거 까지 고려하면.. 쩝)
'모종의 음모 > ai 프로그램' 카테고리의 다른 글
| llama.cpp -ts 옵션 (0) | 2026.07.30 |
|---|---|
| llama.cpp / 1080 ti 11GB * 2 / Qwen3.6-35B Q2, MXFP4 (0) | 2026.07.30 |
| llama.cpp / jetson thor gemma-4-31B mmproj F16, BF16 (0) | 2026.07.30 |
| llama.cpp 동시에 응답하게 하기 (0) | 2026.07.29 |
| vllm concurrent test/benchmark (0) | 2026.07.29 |



