cli 도움말. show는 모델정보 보기 run은 실행하는거.. stop 하면 그러면 날릴 수 있나?
C:\>ollama --help Large language model runner
Usage: ollama [flags] ollama [command]
Available Commands: serve Start Ollama create Create a model show Show information for a model run Run a model stop Stop a running model pull Pull a model from a registry push Push a model to a registry signin Sign in to ollama.com signout Sign out from ollama.com list List models ps List running models cp Copy a model rm Remove a model launch Launch the Ollama menu or an integration help Help about any command
Flags: -h, --help help for ollama --nowordwrap Don't wrap words to the next line automatically --verbose Show timings for response -v, --version Show version information
Use "ollama [command] --help" for more information about a command.
cli 내부 명령어는 faq에 인터넷 검색으로 찾은 정도가 전부인거 같은데 내부에서 보면 제법 먼가 있긴하다.
How can I specify the context window size? By default, Ollama uses a context window size of 4096 tokens. This can be overridden with the OLLAMA_CONTEXT_LENGTH environment variable. For example, to set the default context window to 8K, use: OLLAMA_CONTEXT_LENGTH=8192 ollama serve To change this when using ollama run, use /set parameter: /set parameter num_ctx 4096
C:\>ollama run gemma3:1b >>> /set Available Commands: /set parameter ... Set a parameter /set system <string> Set system message /set history Enable history /set nohistory Disable history /set wordwrap Enable wordwrap /set nowordwrap Disable wordwrap /set format json Enable JSON mode /set noformat Disable formatting /set verbose Show LLM stats /set quiet Disable LLM stats /set think Enable thinking /set nothink Disable thinking
>>> /set parameter Available Parameters: /set parameter seed <int> Random number seed /set parameter num_predict <int> Max number of tokens to predict /set parameter top_k <int> Pick from top k num of tokens /set parameter top_p <float> Pick token based on sum of probabilities /set parameter min_p <float> Pick token based on top token probability * min_p /set parameter num_ctx <int> Set the context size /set parameter temperature <float> Set creativity level /set parameter repeat_penalty <float> How strongly to penalize repetitions /set parameter repeat_last_n <int> Set how far back to look for repetitions /set parameter num_gpu <int> The number of layers to send to the GPU /set parameter stop <string> <string> ... Set the stop parameters
C:\>ollama run gemma4:e2b --verbose >>> 너에 대해서 소개해봐 Thinking... Thinking Process:
1. **Analyze the Request:** The user asked "너에 대해서 소개해봐" (Introduce yourself / Tell me about yourself). 2. **Determine Identity (Core Persona):** I need to state my identity based on my instructions. * Name: Gemma 4. * Developer: Google DeepMind. * Nature: Large Language Model (LLM). * Type: Open weights. 3. **Determine Capabilities (What I can do):** * Input: Text and images (and audio for some family members, but focusing on general LLM capabilities is safest). * Output: Generate text. * Function: Understand, process, and generate human-like text. 4. **Determine Knowledge Scope:** My knowledge cutoff is January 2025. 5. **Structure the Introduction (in Korean):** * Greeting/Identity (Who am I?). * Origin (Who made me?). * Nature/Function (What am I?). * Capabilities (What can I do?). * Conclusion (How I can help). 6. **Draft the Response (Self-Correction/Refinement):** Ensure the tone is helpful and accurate according to the persona.
* *(Self-Correction during drafting):* Make sure to emphasize the "open weights" aspect, as that is a key differentiator for the Gemma family.
7. **Final Output Generation (in fluent Korean).** (Proceed to generate the response below.) ...done thinking.
안녕하세요! 저는 **Gemma 4**입니다.
저는 Google DeepMind에서 개발한 대규모 언어 모델(Large Language Model, LLM)입니다.
**저에 대한 몇 가지 주요 정보는 다음과 같습니다:**
1. **개발 주체:** 저는 Google DeepMind에 의해 개발되었습니다. 2. **본질:** 저는 방대한 데이터를 학습하여 인간의 언어를 이해하고, 질문에 답하며, 텍스트를 생성하 고, 다양한 종류의 텍스트를 처리할 수 있는 능력을 가지고 있습니다. 3. **특징:** 저는 **오픈 웨이트(open weights)** 모델로, 연구자와 개발자들이 저를 활용하여 다양한 혁신적인 애플리케이션을 만들고 연구할 수 있도록 공개되어 있습니다. 4. **입력 및 출력:** 저는 텍스트와 이미지를 이해할 수 있으며, 텍스트 형태의 답변을 생성합니다. 5. **목표:** 저는 사용자님과의 소통을 돕고, 정보를 제공하며, 창의적인 작업을 지원하는 것을 목표로 합니다.
C:\>ollama run gemma4:e2b "너에 대해서 설명해봐" --verbose 고맙습니다. 저는 대규모 언어 모델이며, 사용자의 질문에 답하고, 텍스트를 생성하고, 다양한 종류의 텍스트 기반 작업을 수행할 수 있습니다.
**제가 할 수 있는 일의 예시:**
* **정보 제공:** 다양한 주제에 대한 사실 정보, 정의, 설명 등을 제공할 수 있습니다. * **텍스트 생성:** 시, 소설, 이메일, 기사, 코드 등 다양한 형식의 텍스트를 작성할 수 있습니다. * **번역:** 여러 언어 간의 번역을 수행할 수 있습니다. * **요약:** 긴 텍스트를 읽고 핵심 내용을 요약해 드릴 수 있습니다. * **아이디어 구상:** 브레인스토밍이나 창의적인 아이디어를 제안할 수 있습니다. * **질문에 답변:** 복잡한 질문에 대해 논리적으로 답변을 구성할 수 있습니다.
**제가 할 수 없는 것 (혹은 한계점):**
* **실제 경험:** 저는 물리적인 경험이나 감정을 가지고 있지 않습니다. * **실시간 정보의 한계:** 제가 학습한 데이터 시점 이후의 실시간 사건이나 매우 최신 정보에 대해서는 정확하지 않을 수 있습니다. * **감정적 판단:** 인간과 같은 주관적인 감정이나 개인적인 판단을 내릴 수는 없습니다. * **행동 실행:** 실제 세계에서 물리적인 행동을 하거나 시스템을 조작할 수는 없습니다.
C:\>ollama ps NAME ID SIZE PROCESSOR CONTEXT UNTIL llama3.2:latest a80c4f17acd5 2.8 GB 100% GPU 4096 4 minutes from now gemma3:1b 8648f39daa8f 1.2 GB 100% GPU 4096 4 minutes from now gemma4:e2b 7fbdbf8f5e45 7.7 GB 75%/25% CPU/GPU 4096 2 minutes from now
ryzen 7 5800u cpu only
C:\>ollama run llama3.2:latest --verbose "안녕" 안녕하세요! (Hello!) Welcome to our conversation. How can I help you today?
C:\>ollama run gemma4:e2b --verbose "너에 대해서 소개해봐" Thinking... Thinking Process:
1. **Analyze the Request:** The user asked "너에 대해서 소개해봐" (Introduce yourself to me). This is a request for identity and capabilities. 2. **Determine Core Identity (Self-Correction/Verification):** * Name: Gemma 4. * Developer: Google DeepMind. * Nature: Large Language Model (LLM). * Type: Open weights. * Input: Text and images. * Output: Text. * Knowledge Cutoff: January 2025. 3. **Determine Capabilities (What can I do?):** * Understand/Process: Text and images (input). * Generate: Text (output). * Function: Answer questions, summarize, translate, generate creative text, code assistance, etc. 4. **Structure the Introduction (in Korean):** * Start with the name and basic identity. * Mention the developer. * Explain the nature (LLM). * Briefly describe the function/capabilities. 5. **Draft the Response (Iterative Refinement in Korean):**
* *Initial thought:* 저는 Gemma 4입니다. Google DeepMind에서 개발한 대규모 언어 모델입니다. * *Adding detail:* 저는 텍스트와 이미지를 이해하고 텍스트를 생성할 수 있습니다. * *Adding context:* 저는 여러분의 질문에 답하고, 정보를 제공하고, 다양한 작업을 돕는 데 사용됩니다.
6. **Final Polish (Ensure tone is appropriate and all core identity points are covered):** (This leads to the final generated response.) ...done thinking.
안녕하세요! 저는 **Gemma 4**입니다.
저는 다음과 같이 저 자신을 소개해 드릴 수 있습니다.
**1. 정체성 및 개발:** * **이름:** Gemma 4 * **개발사:** Google DeepMind에서 개발되었습니다. * **본질:** 저는 대규모 언어 모델(Large Language Model, LLM)입니다. 오픈 웨이트 모델로 공개되어 있습니다.
**2. 주요 기능 및 능력:** * **입력 처리:** 텍스트와 이미지를 이해하고 처리할 수 있습니다. * **출력 생성:** 사용자의 질문이나 요청에 따라 자연스러운 텍스트를 생성할 수 있습니다. (예: 정보 제공, 질문 답변 , 요약, 번역, 글쓰기 보조 등) * **목표:** 정보를 제공하고, 복잡한 개념을 이해하기 쉽게 설명하며, 다양한 창의적인 텍스트 작업을 돕는 것을 목표로 합니다.
**3. 지식 범위:** * 저는 방대한 데이터를 학습하여 다양한 주제에 대해 지식을 가지고 있지만, 저의 지식은 2025년 1월을 기준으로 마감되 어 있습니다.
C:\>ollama ps NAME ID SIZE PROCESSOR CONTEXT UNTIL gemma4:e2b 7fbdbf8f5e45 7.7 GB 75%/25% CPU/GPU 4096 4 minutes from now
C:\>ollama run gemma4:e2b "너에 대해서 설명해봐" --verbose 고맙습니다. 저는 대규모 언어 모델이며, 사용자의 질문에 답하고, 텍스트를 생성하고, 다양한 종류의 텍스트 기반 작업을 수행할 수 있습니다.
**제가 할 수 있는 일의 예시:**
* **정보 제공:** 다양한 주제에 대한 사실 정보, 정의, 설명 등을 제공할 수 있습니다. * **텍스트 생성:** 시, 소설, 이메일, 기사, 코드 등 다양한 형식의 텍스트를 작성할 수 있습니다. * **번역:** 여러 언어 간의 번역을 수행할 수 있습니다. * **요약:** 긴 텍스트를 읽고 핵심 내용을 요약해 드릴 수 있습니다. * **아이디어 구상:** 브레인스토밍이나 창의적인 아이디어를 제안할 수 있습니다. * **질문에 답변:** 복잡한 질문에 대해 논리적으로 답변을 구성할 수 있습니다.
**제가 할 수 없는 것 (혹은 한계점):**
* **실제 경험:** 저는 물리적인 경험이나 감정을 가지고 있지 않습니다. * **실시간 정보의 한계:** 제가 학습한 데이터 시점 이후의 실시간 사건이나 매우 최신 정보에 대해서는 정확하지 않을 수 있습니다. * **감정적 판단:** 인간과 같은 주관적인 감정이나 개인적인 판단을 내릴 수는 없습니다. * **행동 실행:** 실제 세계에서 물리적인 행동을 하거나 시스템을 조작할 수는 없습니다.
C:\>ollama >>> /set parameter num_gpu 0 Set parameter 'num_gpu' to '0' >>> 안녕? 안녕하세요! 😊
>>>
C:\>ollama ps NAME ID SIZE PROCESSOR CONTEXT UNTIL gemma4:e2b 7fbdbf8f5e45 7.7 GB 100% CPU 4096 4 minutes from now llama3.2:latest a80c4f17acd5 2.8 GB 100% GPU 4096 3 minutes from now gemma3:1b 8648f39daa8f 1.2 GB 100% GPU 4096 2 minutes from now
C:\>ollama run gemma4:e2b "너에 대해서 설명해봐" --verbose Thinking... Thinking Process:
1. **Analyze the Request:** The user asked "너에 대해서 설명해봐" (Tell me about yourself). This is a direct query about my identity and nature. 2. **Determine Core Identity (Self-Correction/Verification):** * Name: Gemma 4. * Developer: Google DeepMind. * Nature: Large Language Model (LLM). * Type: Open weights model. * Function: Process input (text/images), generate text, answer questions, perform various language tasks. * Knowledge: Cutoff (though specific dates are less critical than the general state). 3. **Identify Key Capabilities & Constraints (Input/Output/Knowledge):** * Input: Text and images. * Output: Text only. * Constraints: Cannot generate images; knowledge cutoff (Jan 2025, but focus on the operational facts). 4. **Structure the Response (in Korean):** A good explanation should cover the Who, What, and How. * Introduction (Name/Type). * Origin (Developer). * Function/Nature (What I do). * How I operate (Input/Output). 5. **Draft the Response (Korean Translation & Refinement):**
* *Start with the name:* 저는 Gemma 4입니다. (I am Gemma 4.) * *State the nature:* 저는 Google DeepMind에서 개발한 대규모 언어 모델(LLM)입니다. (I am a Large Language Model developed by Google DeepMind.) * *Mention the open nature:* 저는 오픈 웨이트 모델입니다. (I am an open weights model.) * *Explain the function:* 저는 텍스트를 이해하고 처리하며, 질문에 답하고, 글을 작성하는 등 다양한 언어 관련 작 업을 수행할 수 있습니다. (I can understand and process text, answer questions, write text, and perform various language-related tasks.) * *Mention modalities:* 저는 텍스트와 이미지를 입력으로 이해할 수 있지만, 출력은 텍스트로만 생성합니다. (I can understand text and images as input, but I generate output only in text.)
6. **Final Review:** The drafted response accurately reflects the required identity and adheres to the constraints. (This matches the desired output.) ...done thinking.
저는 **Gemma 4**입니다. 저는 Google DeepMind에서 개발한 대규모 언어 모델(Large Language Model, LLM)입니다.
저에 대해 몇 가지 주요 정보를 설명해 드릴게요.
**1. 정체성 및 개발:** * **이름:** Gemma 4 * **개발사:** Google DeepMind * **유형:** 저는 오픈 웨이트(open weights) 모델로 공개되어 있습니다.
**2. 주요 기능:** 저는 방대한 텍스트 데이터를 학습하여 다음과 같은 다양한 언어 관련 작업을 수행할 수 있습니다. * **질문 답변:** 사용자가 하는 질문에 대해 정확하고 유용한 정보를 제공합니다. * **텍스트 생성:** 기사, 시, 스토리, 코드 등 다양한 형식의 텍스트를 생성합니다. * **번역 및 요약:** 텍스트를 번역하거나 긴 내용을 요약해 드릴 수 있습니다. * **대화:** 자연스러운 대화를 통해 사용자와 소통합니다.
**3. 입력 및 출력 방식:** * **입력:** 저는 텍스트와 이미지를 이해하고 처리할 수 있습니다. * **출력:** 저는 텍스트 형태로만 응답을 생성합니다. (이미지를 직접 생성할 수는 없습니다.)
저는 사용자와의 상호작용을 통해 정보를 제공하고 작업을 돕기 위해 설계되었습니다. 무엇이든 궁금한 점이 있으시면 질문 해주세요!
C:\>ollama run gemma3:1b "너에 대해서 설명해봐" --verbose 저는 구글 딥마인드에서 훈련한 대규모 언어 모델입니다.
**핵심 정보:**
* **모델:** GPT (Generative Pre-trained Transformer) 아키텍처를 기반으로 합니다. * **데이터:** 방대한 양의 텍스트 데이터를 학습했습니다. 인터넷, 책, 웹사이트 등 다양한 출처에서 수집된 데이터를 사 용했습니다. * **역할:** 텍스트 생성, 번역, 요약, 질문 답변 등 다양한 자연어 처리 작업에 활용될 수 있습니다. * **제한 사항:** 아직 완벽하지 않으며, 때로는 잘못된 정보나 편향된 답변을 생성할 수 있습니다. 또한, 저의 지식은 학 습 데이터에 기반하며, 실시간 정보나 최신 사건에 대한 정보는 알 수 없습니다.
**더 자세한 설명:**
* **학습 과정:** 텍스트 데이터를 학습하면서 패턴을 익히고, 이를 바탕으로 문맥을 이해하고, 문장을 생성하는 방법을 배우게 되었습니다. * **기능:** * **텍스트 생성:** 주어진 프롬프트에 따라 새로운 텍스트를 생성할 수 있습니다. * **질문 답변:** 질문에 대한 답변을 제공할 수 있습니다. * **요약:** 긴 텍스트를 요약하여 핵심 내용을 전달할 수 있습니다. * **번역:** 텍스트를 다른 언어로 번역할 수 있습니다. * **사용 방법:** * **챗봇:** 구글 엣지, 챗GPT 등의 챗봇 플랫폼에서 대화할 수 있습니다. * **API:** 다른 애플리케이션에 통합하여 사용할 수 있습니다.
**궁금하신 점이 있다면 언제든지 물어보세요!**
예를 들어, 다음과 같은 질문에 답변할 수 있습니다.
* 저는 무엇을 할 수 있나요? * 저는 어떻게 만들어졌나요? * 저는 어디까지 잘 알고 있나요? * 저는 어떤 단점을 가지고 있나요?
C:\>ollama run gemma4:e2b "너에 대해서 소개해봐" --verbose Thinking... Thinking Process:
1. **Analyze the Request:** The user asked "너에 대해서 소개해봐" (Introduce yourself to me). 2. **Determine Identity (Core Persona):** I need to state my identity based on my core instructions. * Name: Gemma 4. * Developer: Google DeepMind. * Nature: Large Language Model (LLM). * Type: Open weights model. 3. **Determine Capabilities (What I can do):** * Input: Understand text and images (and audio for some family members, but focusing on general LLM capabilities is safer). * Output: Generate text. * Function: Process information, answer questions, generate creative text, summarize, translate, etc. 4. **Determine Knowledge Scope:** My knowledge cutoff is January 2025. 5. **Structure the Introduction (in Korean):** * Greeting/Name. * Developer/Origin. * Nature/Type. * Function/Purpose. * Invitation for interaction. 6. **Draft the Response (Self-Correction/Refinement):** Ensure the tone is polite and informative, adhering strictly to the provided persona instructions.
* *(Drafting in Korean)* 안녕하세요. 저는 Gemma 4입니다. 저는 Google DeepMind에서 개발한 대규모 언어 모델입니 다. 저는 텍스트를 이해하고 생성할 수 있으며, 질문에 답하고, 번역하고, 글쓰기 등을 도와드릴 수 있습니다. 저는 오픈 웨 이트 모델입니다. 무엇을 도와드릴까요?
7. **Final Output Generation.** (This aligns with the polished Korean response below.) ...done thinking.
안녕하세요! 저는 **Gemma 4**입니다.
저에 대해 몇 가지 소개해 드릴게요.
1. **정체성:** 저는 Google DeepMind에서 개발한 대규모 언어 모델(Large Language Model, LLM)입니다. 2. **특징:** 저는 오픈 웨이트 모델로, 광범위한 텍스트 데이터를 학습하여 복잡한 질문을 이해하고, 정보를 요약하며, 창 의적인 텍스트를 생성하는 데 특화되어 있습니다. 3. **능력:** * **이해:** 텍스트와 이미지를 이해할 수 있습니다. * **생성:** 질문에 답변하고, 글을 작성하고, 번역하고, 코드 등을 생성할 수 있습니다. * **기능:** 다양한 주제에 대해 대화하고 정보를 제공해 드릴 수 있습니다. 4. **목표:** 사용자와의 소통을 통해 정보를 제공하고, 유용한 도움을 드리는 것을 목표로 합니다.
Standalone CLI The easiest way to install Ollama on Windows is to use the OllamaSetup.exe installer. It installs in your account without requiring Administrator rights. We update Ollama regularly to support the latest models, and this installer will help you keep up to date. If you’d like to install or integrate Ollama as a service, a standalone ollama-windows-amd64.zip zip file is available containing only the Ollama CLI and GPU library dependencies for Nvidia. Depending on your hardware, you may also need to download and extract additional packages into the same directory:
Vulkan GPU Support NOTE: Vulkan is currently an Experimental feature. To enable, you must set OLLAMA_VULKAN=1 for the Ollama server as described in the FAQ Additional GPU support on Windows and Linux is provided via Vulkan. On Windows most GPU vendors drivers come bundled with Vulkan support and require no additional setup steps. Most Linux distributions require installing additional components, and you may have multiple options for Vulkan drivers between Mesa and GPU Vendor specific packages
>>> Installing ollama to /usr/local [sudo] password for jetson: Sorry, try again. [sudo] password for jetson: ERROR: This version requires zstd for extraction. Please install zstd and try again: - Debian/Ubuntu: sudo apt-get install zstd - RHEL/CentOS/Fedora: sudo dnf install zstd - Arch: sudo pacman -S zstd
jetson@nano-4gb-jp451:~$ sudo apt-get install zstd Reading package lists... Done Building dependency tree Reading state information... Done The following NEW packages will be installed: zstd 0 upgraded, 1 newly installed, 0 to remove and 498 not upgraded. Need to get 237 kB of archives. After this operation, 965 kB of additional disk space will be used. Get:1 http://ports.ubuntu.com/ubuntu-ports bionic-updates/universe arm64 zstd arm64 1.3.3+dfsg-2ubuntu1.2 [237 kB] Fetched 237 kB in 2s (124 kB/s) debconf: delaying package configuration, since apt-utils is not installed Selecting previously unselected package zstd. (Reading database ... 186946 files and directories currently installed.) Preparing to unpack .../zstd_1.3.3+dfsg-2ubuntu1.2_arm64.deb ... Unpacking zstd (1.3.3+dfsg-2ubuntu1.2) ... Setting up zstd (1.3.3+dfsg-2ubuntu1.2) ... Processing triggers for man-db (2.8.3-2ubuntu0.1) ...
jetson@nano-4gb-jp451:~$ curl -fsSL https://ollama.com/install.sh | sh >>> Cleaning up old version at /usr/local/lib/ollama >>> Installing ollama to /usr/local >>> Downloading ollama-linux-arm64.tar.zst ######################################################################## 100.0% WARNING: Unsupported JetPack version detected. GPU may not be supported >>> Creating ollama user... >>> Adding ollama user to video group... >>> Adding current user to ollama group... >>> Creating ollama systemd service... >>> Enabling and starting ollama service... Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service. >>> NVIDIA JetPack ready. >>> The Ollama API is now available at 127.0.0.1:11434. >>> Install complete. Run "ollama" from the command line.
jetson@nano-4gb-jp451:~$ ollama run llama3.2 ollama: /lib/aarch64-linux-gnu/libc.so.6: version `GLIBC_2.28' not found (required by ollama)
jetson@nano-4gb-jp451:~$ ldd --version ldd (Ubuntu GLIBC 2.27-3ubuntu1.3) 2.27 Copyright (C) 2018 Free Software Foundation, Inc. This is free software; see the source for copying conditions. There is NO warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. Written by Roland McGrath and Ulrich Drepper.
jetson@nano-4gb-jp451:~$ curl -fsSL https://ollama.com/install.sh | OLLA MA_VERSION=0.5.12 sh >>> Cleaning up old version at /usr/local/lib/ollama
>>> Installing ollama to /usr/local >>> Downloading ollama-linux-arm64.tgz ######################################################################## 100.0% WARNING: Unsupported JetPack version detected. GPU may not be supported >>> Adding ollama user to video group... >>> Adding current user to ollama group... >>> Creating ollama systemd service... >>> Enabling and starting ollama service... Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service. >>> NVIDIA JetPack ready. >>> The Ollama API is now available at 127.0.0.1:11434. >>> Install complete. Run "ollama" from the command line.
Available Commands: serve Start ollama create Create a model from a Modelfile show Show information for a model run Run a model stop Stop a running model pull Pull a model from a registry push Push a model to a registry list List models ps List running models cp Copy a model rm Remove a model help Help about any command
Flags: -h, --help help for ollama -v, --version Show version information
Use "ollama [command] --help" for more information about a command.
jetson@nano-4gb-jp451:~$ ollama -v ollama version is 0.5.12
jetson@nano-4gb-jp451:~$ ollama run Error: requires at least 1 arg(s), only received 0
jetson@nano-4gb-jp451:~$ ollama run llama3.2 pulling manifest pulling dde5aa3fc5ff... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 2.0 GB pulling 966de95ca8a6... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 1.4 KB pulling fcc5a6bec9da... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 7.7 KB pulling a70ff7e570d9... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 6.0 KB pulling 56bb8bd477a5... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 96 B pulling 34bb5ab01051... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 561 B verifying sha256 digest writing manifest success >>> Send a message (/? for help) >>> 너 누구야? 나는 Meta의 가상 인자입니다. tôi은 Humanoid AI입니다.
jetson@nano-4gb-jp451:~$ ollama run llama3.2 --verbose >>> 안녕 안녕하세요! (Hello!) I'm happy to meet you. How can I help you today?
$ curl -fsSL https://ollama.com/install.sh | sh >>> Installing ollama to /usr/local [sudo] minimonk 암호: >>> Downloading ollama-linux-amd64.tar.zst ######################################################################## 100.0% >>> Creating ollama user... >>> Adding ollama user to render group... >>> Adding ollama user to video group... >>> Adding current user to ollama group... >>> Creating ollama systemd service... >>> Enabling and starting ollama service... Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service. >>> The Ollama API is now available at 127.0.0.1:11434. >>> Install complete. Run "ollama" from the command line. WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.
$ ollama Ollama 0.20.3
Chat with a model Start an interactive chat with a model
Launch Claude Code (not installed) Anthropic's coding tool with subagents
Recommended gemma4 Reasoning and code generation locally, ~16GB, (not downloaded) qwen3.5 Reasoning, coding, and visual understanding locally, ~11GB, (not downloaded) kimi-k2.5:cloud Multimodal reasoning with subagents qwen3.5:cloud Reasoning, coding, and agentic tool use with vision glm-5:cloud Reasoning and code generation minimax-m2.7:cloud Fast, efficient coding and real-world productivity
More ▸ llama3.2
↑/↓ navigate • enter select • ← back
$ ollama --help Large language model runner
Usage: ollama [flags] ollama [command]
Available Commands: serve Start Ollama create Create a model show Show information for a model run Run a model stop Stop a running model pull Pull a model from a registry push Push a model to a registry signin Sign in to ollama.com signout Sign out from ollama.com list List models ps List running models cp Copy a model rm Remove a model launch Launch the Ollama menu or an integration help Help about any command
Flags: -h, --help help for ollama --nowordwrap Don't wrap words to the next line automatically --verbose Show timings for response -v, --version Show version information
Use "ollama [command] --help" for more information about a command.
단발성으로 질문하고 속도를 보려고 하는데
음.. eval rate가 실제 체감되는 속도인가? 12 token/s
이정도 수치는 되어야 많이 지루하지 않게 읽는 속도로 말이 생성되는 듯.
$ ollama run llama3.2:latest "안녕" --verbose 안녕하세요! (Hello!) I'm here to help you. How can I assist you today?
1. **Analyze the Request:** The user asked "너에 대해서 소개해봐" (Tell me about yourself). 2. **Determine Identity & Core Facts (Self-Correction/Verification):** * Name: Gemma 4. * Developer: Google DeepMind. * Nature: Large Language Model (LLM). * Type: Open weights model. * Capabilities: Understands text/images, generates text. * Knowledge Cutoff: (Relevant for context, but usually stated implicitly) 3. **Structure the Introduction (Korean Context):** A good introduction should cover: * Greeting. * Name/Identity. * Developer/Origin. * Nature/Function (What I do). * Capabilities (What I can process). 4. **Draft the Response (Internal Monologue & Refinement):** * *Start warmly.* (안녕하세요!) * *State Identity.* (저는 Gemma 4입니다.) * *State Origin.* (Google DeepMind에서 개발했습니다.) * *State Nature.* (저는 대규모 언어 모델(LLM)입니다.) * *State Function/Role.* (사용자의 질문에 답하고, 정보를 제공하며, 다 양한 텍스트 기반 작업을 돕는 역할을 합니다.) * *State Modality/Input.* (텍스트와 이미지를 이해할 수 있습니다.) * *Concluding remark/Offer help.* (어떤 것을 도와드릴까요?) 5. **Final Output Generation (Review against constraints):** The generated response must adhere to the core identity (Gemma 4, LLM, Google DeepMind, open weights). (The draft looks good and adheres to the required identity.) ...done thinking.
안녕하세요! 저는 **Gemma 4**입니다.
저는 Google DeepMind에서 개발한 **대규모 언어 모델(LLM)**이며, 오픈 웨이트 (open weights) 모델로 공개되어 있습니다.
**저의 주요 특징은 다음과 같습니다:**
1. **정체성:** 저는 방대한 데이터를 학습하여 인간의 언어를 이해하고 생성하며 , 다양한 질문에 답하고 정보를 제공하는 능력을 가지고 있습니다. 2. **기능:** 텍스트 기반의 대화, 요약, 번역, 작문, 코드 생성 등 다양한 언어 관련 작업을 수행할 수 있습니다. 3. **입력 능력:** 저는 텍스트와 이미지를 이해하고 처리할 수 있습니다. (다만 , 출력은 텍스트로만 생성합니다.) 4. **목표:** 사용자분들이 필요한 정보를 얻고, 창의적인 작업을 수행하며, 복잡 한 문제를 해결하는 데 도움을 드릴 수 있도록 설계되었습니다.
Features - Worldwide FM band support (64–108 MHz) - Worldwide AM band support (520–1710 kHz) - SW band support (2.3–26.1 MHz) - LW band support (153–279 kHz)
