讓 Ollama 的模型乖乖住到你想要的地方(Ubuntu 24.04)
在 ubuntu 24.04 上執行 ollama 很簡單按此,若需要修改預設模型存放地方,卻是有點困難,有必要將暫時解決方式記錄起來.
首先我們需了解兩個變數:OLLAMA_HOST,OLLAMA_MODELS 。
第一個變數預設值為 127.0.0.1:11434 這樣只能內部測試,若需要提供外部使用,需改為 0.0.0.0:11434 。
第二個變數用來變更下載的大語言模型路徑,這也是本篇文章重點。
我參考了這篇文章,實測多次真的無法在 ubuntu 24.04 下,使用 systemctl enale ollama 方式,套用以上修改過兩個變數,只能退而求其次,改成 shell script 的方式手動執行。

建立 startOllama.sh ,並新增以下內容
#!/bin/bash
export OLLAMA_HOST="0.0.0.0:11434"
export OLLAMA_MODELS="大語言模型目錄"
/usr/local/bin/ollama serve &
我會想要改的原因,是因為原本使用 docker 安裝 ollama ,但我發現常常不工作,只好直接安裝執行;但又想說哪一天 docker ollama 變正常了,因此保留原本 docker 裡面的大語言模型目錄,才需要改變預設目錄,這樣就能左右逢源解決困擾.