目 录CONTENT

文章目录

Ollama 大模型安装

BKUN
2024-11-09 / 0 评论 / 0 点赞 / 226 阅读 / 358 字

一、安装Ollama大模型启动器
1、浏览器打开 Ollama ,点击 Download
image
2、下载后双击进入,点击install安装,等待安装完成
3、安装完成后 Win+R,输入cmd进入,输入ollama 并回车,显示如下页面则 Ollama 安装成功
image

二、安装大模型
1.修改环境变量,安装大模型到D盘(默认是C盘)。Win+i进入设置,搜索【查看高级系统设置】,进入【环境变量】
变量名: OLLAMA_MODELS
变量值: D:\Ollama\models
image
2、重启:在右下角找到羊驼图标,右键或者单机,在弹出的下拉框选择【Quit Ollama】,然后Win+R打开cmd,输入ollama回车即可。等以后下载了大模型后,直接【ollama run 模型名字】即可打开模型。
image
3.点击进入Models,选择需要的大模型,这里以阿里大模型(qwen)为例,点击进入
image
image
4、在cmd粘贴并回车,等待下载
image
5、验证
image

三、配置UI界面
1、安装docker
2、执行命令

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui --restart always ghcr.io/open-webui/open-webui:main
image
3、安装完毕后,安装包较大,需等待一段时间。
localhost:3000即可打开网址
image

0

评论区