Ollama在Linux环境下的安装 或 升级 - qNFCpの屋
qNFCpの屋

Ollama安装

Linux 安装命令 (升级步骤相同)

curl -fsSL https://ollama.com/install.sh | sh

注:Linux下无法实现自动更新,更新需重新使用安装命令并重新配置开放访问。

修改服务配置文件

1' 修改service文件

sudo nano /etc/systemd/system/ollama.service

2' 追加下列内容至[Service]中

Environment="OLLAMA_HOST=0.0.0.0:11434" # 允许外部访问 
Environment="OLLAMA_NUM_PARALLEL=6" # 并行处理请求的数量
Environment="OLLAMA_MAX_LOADED_MODELS=3" # 同时加载的模型数量
Environment="OLLAMA_EXPERIMENT=client2 ollama serve" # 实验性于v0.6.6: 使用新的模型拉取引擎
#Environment="OLLAMA_KEEP_ALIVE=5m" # 模型最短保留时间

3' 重载配置文件

sudo systemctl daemon-reload

4' 重启ollama

sudo systemctl restart ollama
暂无评论

添加新评论

Title - Artist
0:00