openwebui 설치 시도

음.. 장렬히 실패 ㅋㅋ

[링크 : https://blog.oriang.net/69]

 

응 안 돼 돌아가~ 구글 ai 답변으로는 파이썬 3.11이 필요하다고

$ pip3 install open-webui Defaulting to user installation because normal site-packages is not writeable ERROR: Could not find a version that satisfies the requirement open-webui (from versions: none) ERROR: No matching distribution found for open-webui $ python3 --version Python 3.10.12

[링크 : https://docs.openwebui.com/getting-started/quick-start/]

    [링크 : https://docs.openwebui.com/getting-started/]

 

귀찮으니 docker로 하는데 실행된다고 바로 접속되는게 아니라 좀 기다려야 하네

좌측 하단에 계정 눌러서 Settings 들어가고

 

좌측 하단에 작게 Admin Settings.. 어우 -_-

아무튼 Admin 설정으로 가야지 api 연결할 수 있다.

 

관리자 메뉴에서 connections 가면 이제 api 들이 보이는데

 

http://localhost:8080/v1 해도 되고. 아무튼 로컬에서는 llama-swap 으로 돌리는 중

 

api.openai.com은 일단 끄고 save

 

그러니까 llama-swap에서 설정된 모델들이 쭈욱 끌려나온다.

Areana model 하면 여러개 모델 싸워보게 하나본데 메모리 부족하니 일단 패스

 

위에서 인텔의 역사 인터넷 검색하라는데 그건 안된다고 하고

자기가 가진 정보로 답변하고 나서 다른거 하다가 뒤늦게(!) follow up 이라는게 뜬다. 왜 gpu가 계속 먹고 있나 했네..

 

클릭하면 바로 질문으로 넘어간다.

 

google PSE(programmable Search Engine)을 사용하면 인터넷 검색이 가능하다고 한다. 기본값으로는 안되겠군.

[링크 : https://wikidocs.net/307842]