安装步骤:
1、通过Ollama进行部署 ,支持多平台!Windows / Mac /Linux 都可以运行 【点击下载】
并在 Windows 上打开 WSL 功能:
2、安装Docker Desktop :【点击前往】
然后本地安装webUI
(1)在CPU下运行:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
(2)支持GPU运行:
docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
安装完成通过本地地址:http://127.0.0.1:3000 进行访问,然后在里面下载安装Llama 3.2 模型
Llama 3.2 11B 本地部署教程:【点击前往】 注意:11B模型 需要22G以上的显存才能运行
当然如果你不想本地部署安装,或者显卡不支持,也可以直接在线体验 !
Llama 3.2 11B在线使用:【点击前往】 支持图片识别功能
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END