오.. 이런 명령어가 있었구나

이전 대화내용을 날려서 context를 정리하는 명령어

 

/mnt/llm-ko/3_small/gguf$ /mnt/Downloads/llama-b10488/llama-cli -m base42m-q4_0.gguf -p "대한민국의 수도는" -ngl 0


Loading model...  

▄▄ ▄▄
██ ██
██ ██  ▀▀█▄ ███▄███▄  ▀▀█▄    ▄████ ████▄ ████▄
██ ██ ▄█▀██ ██ ██ ██ ▄█▀██    ██    ██ ██ ██ ██
██ ██ ▀█▄██ ██ ██ ██ ▀█▄██ ██ ▀████ ████▀ ████▀
                                    ██    ██
                                    ▀▀    ▀▀

build      : b10488-9d77fa172
model      : base42m-q4_0.gguf
ftype      : Q4_0
modalities : text

available commands:
  /exit or Ctrl+C     stop or exit
  /regen              regenerate the last response
  /clear              clear the chat history
  /read <file>        add a text file
  /glob <pattern>     add text files using globbing pattern



> 대한민국의 수도는
>>>이다.

[ Prompt: 161.5 t/s | Generation: 285.9 t/s ]

> ㄴㅁㅇㄻㄴㅇㄹ
>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>)에서 이).

[ Prompt: 195.0 t/s | Generation: 115.0 t/s ]

> 세조대호아잉
>>>>>>>>>>>>>>>>>>>>>>>>>>>)의 순서로는 이례적으로, 그리고 이 작품이 나중의 문학적 삶의 방식에서 영감을 받은 것으로 평가된다.

[ Prompt: 213.6 t/s | Generation: 197.3 t/s ]

> 대한민국
>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>)와 >>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>)이다.

[ Prompt: 257.0 t/s | Generation: 56.8 t/s ]

> 이다
0.16.540.856 E srv    send_error: task id = 330, error: request (513 tokens) exceeds the available context size (512 tokens), try increasing it
Error: request (513 tokens) exceeds the available context size (512 tokens), try increasing it

[ Prompt: 0.0 t/s | Generation: 0.0 t/s ]

/clear
Chat history cleared.

> 오오
>>>를 통해 “Linkword (rock tit)”의 "아름다운"을 언급하는 것을 고려하면, "아름다운"이라는 용어는 “Linkword”에서 유래한 것이다. 이것은 "Linkword"와 같은 다른 형태의 조합을 포함하는 단어로, 이는 “Linkword”를 의미하는 단어로, 이는 영어로 "Linkword"를 의미하며, 이는 ‘Linkword(newing)’와 같은 축약형에 해당하지 않는다. 이 단어들은 주로 영어 단어에서와 같이 사용되었지만, Linkword가 다른 단어들과 유사하게 자주 인용되는 것은 아니다. Linkword에서의 q-word는 Linkword의 한 구절에 나타난다. Linkword의 다른 구절은 Linkword를 ‘Linkword’에서 q-word와 같은 의미를 가진 단어로, Linkword에서 vii를 ‘Linkword’에서 q-word가 된다. Linkword는 Linkword의 q-word를 의미한다. Linkword의 다른 구절에는 Linkword가 q-word와 같이 Linkword의 q-word의 첫 번째 구절과 두 번째 구절을 공유한다. Linkword의 첫 번째 구절에는 Linkword가 q-word에서의 Linkword의 첫 번째 구절에서 q-word를 나타낸다. Linkword의 첫 번째 구절에는 Linkword의 "Linkword"가 포함되어 있다. Linkword가 q-word를 의미한다. Linkword의 첫 번째 구절은 Linkword가 q-word를 의미한다. Linkword는 Linkword가 q-word를 나타낸다. Linkword는 Linkword와 Linkword가 모두 q-word를 나타낸다. Linkword는 Linkword의 첫 번째 구절에서, Linkword는 Linkword가 q-word를 나타낸다. Linkword의 마지막 구절은 Linkword의 q-word를 나타낸다. Linkword는 Linkword와 Linkword가 q-

[ Prompt: 1393.2 t/s | Generation: 153.5 t/s ]

'모종의 음모 > ai 프로그램' 카테고리의 다른 글

llama-simple  (0) 2026.09.22
RoPE - Rotary Position Embedding  (0) 2026.09.21
말뭉치, 코퍼스(corpus)  (0) 2026.09.21
토크나이저  (0) 2026.09.21
LLM / 1080 ti 모드 별 벤치마크  (0) 2026.09.17
Posted by 구차니

llama.cpp 에서 단순예제로 프롬프트를 주면 문장일 이어서 만들어 가는

it 쪽이 아닌 base model 검증용... 유틸리티 라고 하면 되려나?

 

[링크 : https://github.com/ggml-org/llama.cpp/blob/master/examples/simple/README.md]

'모종의 음모 > ai 프로그램' 카테고리의 다른 글

llama-cli /clear  (0) 2026.09.22
RoPE - Rotary Position Embedding  (0) 2026.09.21
말뭉치, 코퍼스(corpus)  (0) 2026.09.21
토크나이저  (0) 2026.09.21
LLM / 1080 ti 모드 별 벤치마크  (0) 2026.09.17
Posted by 구차니

LLM 학습해보려는데 이상한 말이 나와서 -ㅁ-

클로드 님께서 말씀하시길~~~

 5. 어텐션이 모르는 것: 순서
 
 어텐션은 토큰의 위치를 모릅니다. 그래서 RoPE로 Q와 K를 위치에 따라 회전시켜서 토큰 간 거리가 점수에 반영되게 합니다.

 

그래서 자연스럽게 문장이 구성되게 되는건가?

[링크 : https://mari970.tistory.com/49]

[링크 : https://ai-with-sudal-ee.tistory.com/9]

[링크 : https://railly-linker.tistory.com/169]

 

아무튼 셀프 어텐션과, 플래시 어텐션이 비슷한건줄 아랐는데

플래시 어텐션은 경량으로 도는거(파스칼에서 지원안하는)

셀프 어텐션이 입력 받고 출력 나오고 그걸 다시 돌려서 다음 단어를 추측하는 가장 핵심인거

그리고 셀프 어텐션 변경해서 MHA GQA MQA 등이 있나본데 아래의 약자인가 보다.

MHA - Multi-Head Attention

MQA - Multi-Query Attention

GQA - Grouped-Query Attention

'모종의 음모 > ai 프로그램' 카테고리의 다른 글

llama-cli /clear  (0) 2026.09.22
llama-simple  (0) 2026.09.22
말뭉치, 코퍼스(corpus)  (0) 2026.09.21
토크나이저  (0) 2026.09.21
LLM / 1080 ti 모드 별 벤치마크  (0) 2026.09.17
Posted by 구차니

아이씨 자꾸 쿠퍼스로 보임

이게 토큰으로 간주해야 하는 건가.. 아닌가.. 다른 분류의 단어인가..

 

자연언어 연구를 위해 특정한 목적을 가지고 언어의 표본을 추출한 집합이다.

[링크 : https://ko.wikipedia.org/wiki/말뭉치]

 

클로드 답변은 아래와 같다.

음.. 아무튼 글이니까 (말뭉치) 그 일부는 토큰으로 이뤄지는게 맞을지도?

  코퍼스가 토큰인가

  아닙니다. 코퍼스는 글이고, 토큰은 그 글을 잘게 나눈 조각입니다.
  
  위키 문서들 = 코퍼스 (글)  →  토크나이저  →  토큰 번호의 나열 = 토큰화된 코퍼스
  train.txt (5.56억 글자)                      train.bin (2.43억 토큰)
  
  - 코퍼스: 책 한 권씩이 쌓인 도서관에 해당합니다.
  - 토큰: 그 책을 낱말 카드로 잘라 놓은 것에 해당합니다. 
  - 크기 표시: 코퍼스의 크기는 글자 수나 토큰 수 둘 다로 말합니다. 우리 코퍼스는 5.56억 글자이고, 이 토크나이저로는 2.43억 토큰입니다. 그래서
    "코퍼스가 2.43억 토큰"이라고 말하는 건 "토큰으로 센 크기"라는 뜻입니다.
  - 학습에 들어가는 형태: 모델은 글을 직접 읽지 못하고 토큰 번호만 받습니다.

 

'모종의 음모 > ai 프로그램' 카테고리의 다른 글

llama-simple  (0) 2026.09.22
RoPE - Rotary Position Embedding  (0) 2026.09.21
토크나이저  (0) 2026.09.21
LLM / 1080 ti 모드 별 벤치마크  (0) 2026.09.17
v100 흐음...  (0) 2026.09.16
Posted by 구차니
하드웨어/Storage2026. 9. 21. 15:54

 

구성 다음 구성 중 하나를 지원합니다 .
인클로저 당 12개의 하드 드라이브에 직접 연결이 가능한 단일 모드 .
– 컨트롤러 포트 당 총 48개의 하드 드라이브와 컨트롤러 당 96 개의 하드 드라이브를 위한 최대 4 개의 데이지 체인 저장장치 인클로저 .
– 총 192 개의 드라이브를 위한 서버 당 최대 2 개의 듀얼 포트 컨트롤러 구성 .
– 중복 경로 연결성은 각각의 하드 드라이브에 대한 중복 데이터 경로를 제공합니다 . 중복 경로 구성은 컨트롤러 당 총 48개의 하드 드라이브와 서버 당 92 개의하드 드라이브를 위해 최대 4 개의 데이지 체인 저장장치 인클로저를 지원합니다 .
• 듀얼 EMMs 가 내장된 분할 모드는 드라이브 0 ~ 5 에 대해 직접 연결 기능을 제공하며 드라이브 6 ~ 11 에 대해 개별적인 직접 연결 기능을 제공합니다 . 분할모드 구성은 중복

후면 패널 커넥터
SAS 커넥터 (EMM 당 ) • 호스트 연결용 SAS 입력 (IN) 커넥터 1 개
• 추가 인클로저 확장용 SAS 출력 (OUT) 커넥터 1 개
    주 : SAS 커넥터는 SFF-8086/SFF-8088 을 준수합니다 .
직렬 커넥터 (EMM 당 )6 핀 UART 미니 DIN 커넥터 1 개
    주 : 공학적 용도 전용

[링크 : https://dl.dell.com/Manuals/all-products/esuprt_ser_stor_net/esuprt_powervault/powervault-md1200_Setup%20Guide_ko-kr.pdf]

 

 

음.. 케이블을 적게 써도 되네

 

오.. 예전에 군대에서 보던 스토리지 처럼 양쪽에서 하나의 스토리지를 물릴수도 있네?

[링크 : https://dl.dell.com/Manuals/all-products/esuprt_ser_stor_net/esuprt_powervault/powervault-md1200_Owner's%20Manual_ko-kr.pdf]

 

[링크 : https://downloads.dell.com/Manuals/all-products/esuprt_ser_stor_net/esuprt_poweredge/powervault-md1200_White%20Papers114_en-us.pdf]

'하드웨어 > Storage' 카테고리의 다른 글

MD1200 SAS 케이블 검색  (0) 2026.09.21
시놀로지 + iptime + 크롬은 접속 불가  (0) 2023.12.09
DS213j DSM 7로 업데이트  (0) 2023.11.25
intel SSD DC S3500 시리즈  (0) 2022.04.25
lsi cachecade  (0) 2022.02.18
Posted by 구차니
하드웨어/Storage2026. 9. 21. 15:42

SAN 장비라고 해야하나 이녀석 연결용 케이블이 품목에 없어서 찾는중

MD1200 케이블로 검색하니 W390D 라는 품목이 나오고

[링크 : https://www.ebay.com/itm/235840141905]

 

그냥 SAS 커넥터로 하니

커넥터 정보로 찾아보니 여러가지가 나오는데

SFF-8644 는 커넥터 안에 연결되는 부분이 2개이고

SFF-8088은 1개다.

 

Dell MD1200은 구형이라 그런가 8088이고 6GB, 8644 는 12G SAN 으로 검색된다.

근데 양방향이라던가 이런거 구성하려면 케이블이 몇개 필요하지?

으아아 4개(!!!!)

 

[링크 : https://dl.dell.com/Manuals/common/poweredge-rc-h710_user's%20guide_ko-kr.pdf]

 

 

외부 미니 SAS HD SFF-8644-미니 SAS SFF-8644 고밀도 HD 케이블, 하드 디스크 서버용, SAN RAID 카드-1

[링크 : https://ko.aliexpress.com/item/1005005957442300.html]

 

MINISASFF-8644에서 Mini SAS SFF-8088으로 변환 HD 6Gbps 외부 26핀 SAS2.0 하이브리드 케이블 RAID 시스템용 SCSI 연결

[링크 : https://ko.aliexpress.com/item/1005010143569051.html]

'하드웨어 > Storage' 카테고리의 다른 글

MD1200 메뉴얼  (0) 2026.09.21
시놀로지 + iptime + 크롬은 접속 불가  (0) 2023.12.09
DS213j DSM 7로 업데이트  (0) 2023.11.25
intel SSD DC S3500 시리즈  (0) 2022.04.25
lsi cachecade  (0) 2022.02.18
Posted by 구차니

클로드에서 LLM 의 토크나이저 관련해서 물어보니 뱉어준 대답

Unigram / BPE / trie MaxMatch

 

trie-based search... ? WordPiece?

[링크 : https://www.emergentmind.com/topics/wordpiece-model]

 

Unigram / BPE / WordPiece 은 알고리즘이고 SentencePiece는 툴킷이라고

BPE - Byte Pair Encoding

WordPiece - BERT 계열에서 사용하는 BPE 와 유사한

Unigram - 역방향 접근

[링크 : https://velog.io/@aiengineer/토큰-완전-입문-4.-토큰화-알고리즘-완벽-정리-BPEWordPieceUnigram의-차이와-SentencePiecetiktoken의-정체]

 

+

BERT - Bidirectional Encoder Representations from Transformeres / 구글 2018 / 자연어 처리모델

[링크 : https://namu.wiki/w/BERT]

'모종의 음모 > ai 프로그램' 카테고리의 다른 글

RoPE - Rotary Position Embedding  (0) 2026.09.21
말뭉치, 코퍼스(corpus)  (0) 2026.09.21
LLM / 1080 ti 모드 별 벤치마크  (0) 2026.09.17
v100 흐음...  (0) 2026.09.16
llama.cpp pascal 지원 빌드 / 성능 테스트  (0) 2026.09.16
Posted by 구차니

기대는 안하고 그냥 이어폰이나 사러갔는데 이런걸 발견(!)

 

이건 살짝 덜 꽂히게 해서 쓰던건데, 2주정도 만에 헐렁해져버렸다.

 

이건 안쓴 새거. 저렇게 짱짱하게 커넥터가 살아있어야 하는데

역시 정상대로 써야.. 쩝..

'모종의 음모 > midi 피아노' 카테고리의 다른 글

영창/커즈와일 m110 보면대  (0) 2026.09.15
신기하네  (0) 2026.09.15
ardour6 midi 연결  (0) 2026.09.13
악보 - 보표와 옥타브  (0) 2026.09.09
lmms 악기 교체(프로그램)  (0) 2026.09.09
Posted by 구차니
프로그램 사용/kinect2026. 9. 19. 15:25

MME. 라는 식별자가 붙네

USB VID/PID는 어디로 간거야?

 

audacity 에서도 MME 라고 나오던데

찾아보니 Microsoft Multimedia Environment 라고 하는데 win 3.1 시절부터 있던 녀석이라고 한다.

[링크 : https://musicnomad.tistory.com/126]

 

 

예전에 오디오 프로그램 관련에서 WASAPI가 딜레이도 적고(지터) 좋다고 하던데 비트 퍼펙트니 머니

Windows Audio Session API의 약자라고 한다.

아무튼 이걸로 하면 4채널로 뜬다.

 

SDK 샘플 브라우저에도 Audio Demo가 보이네

생각해보니.. kinect v1은 윈도우에서 실행도 안해봤었나? 기억이 저~~~언혀 안나네?

 

v1이나 v2나 출력내용은 동일하다. 각도, 정확도.

Posted by 구차니
프로그램 사용/kinect2026. 9. 19. 15:11

sdk browser에 버젓이 있었는데 kinect니까! 당연히 영상이지! 라고만 생각했었나 보다.

 

Audio Basics-D2D

 

Audio Basics-WPF

 

소리, 소리의 각도, 확신성? 이렇게 나오는것 같긴한데

좌우로 오가면서 하면 잘 찾는듯 하면서 의외로 잘 못찾는것 같기도 하다.

 

Audio Capture-Cosole(Raw)는 장치를 못 찾는다고 나오네. 머지?

관리자 모드로 해도 안되는건 여전하다. 그래서 audacity 에서도 오작동하는건가?

 

사운드, 비디오 및 게임 컨트롤러에서는

Xbox NUI Sensor라고 뜨나보다.

 

그나저나 audacity 윈도우 버전에서는 MME와 Windows DirectSound로는 2채널로만 잡히네..

 

MME랑 DirectSound로는 2채널이지만 녹음이 잘 된다.

 

Windows WASAPI로 해야지 4채널 장치로 잡힌다.

 

그런데 녹음하려고 하면 44100 으로 되어있는데 안되네? 멀까?

 

'프로그램 사용 > kinect' 카테고리의 다른 글

kinect for windows v1 audio  (0) 2026.09.19
kinect for windows / linux 에서 4채널 사운드 입력 받기  (0) 2026.09.18
ODAS TDoA  (0) 2026.09.08
libfreenect2 VAAPI 버그?  (2) 2025.05.22
kinect 1.x, 2.x color <-> depth mapping  (0) 2025.05.07
Posted by 구차니