태그: 로컬 LLM
해당 태그가 달린 모든 글 "로컬 LLM".
`--parameters`라는 플래그는 없다
Ollama를 로컬에서 API로 띄우는 절차를 11절로 정리한 가이드다. 설치와 CLI는 그대로 쓸 수 있는데, 정작 호스팅에 관한 세 절이 각각 틀렸다. 그리고 여러 클라이언트가 붙을 때 가장 먼저 걸리는 설정이 가이드에 없다.
huggingface-cli는 없어졌고, SSL 오류의 답은 따로 있다
Hugging Face 모델을 통째로 받는 세 가지 방법을 정리한 글을 확인했다. 그중 둘이 쓰는 명령이 v1.0에서 제거됐고, SSL 오류에 git을 권한 건 맞지만 이유가 글에 적힌 것과 다르다.
Ollama 응답이 길었던 건 답변이 길어서가 아니다
Ollama API를 훑은 메모를 공식 문서와 대조했다. 답변이 너무 길다던 것의 원인은 stream 하나인데, 원문은 세 가지를 한꺼번에 바꿔서 원인이 셋으로 나뉘어 있었다.