本地部署 Qwen2.5-VL 最强的开源视觉大模型!完全免费,相当的给力!!

Qwen2.5-VL 是 Qwen 推出的全新旗舰视觉语言模型,较其前身 Qwen2-VL 有了重大飞跃。该模型不仅能够掌握花、鸟、鱼和昆虫等常见物体的识别,还能分析图像中的复杂文本、图表、图标、图形和布局,为多模态 AI 树立了新标准。

59c929c75e20250214024742

此外,Qwen2.5-VL 被设计为高度代理,并且能够进行动态推理和工具指导——无论是在计算机还是手机上使用。

图片[2]-本地部署 Qwen2.5-VL 最强的开源视觉大模型!完全免费,相当的给力!!-零度博客

该模型的高级功能包括能够理解长度超过一小时的视频、精确定位其中的特定事件,并通过生成边界框或点来准确定位图像中的对象。它还为坐标和属性提供稳定的 JSON 输出,确保需要结构化数据的任务的准确性。

此外,Qwen2.5-VL 支持扫描文档(如发票、表格和表格)的结构化输出,这对金融和商业等行业非常有益。

Qwen2.5 VL 基准和比较。

旗舰模型 Qwen2.5-VL-72B-Instruct 在各种基准测试中均表现出色,展现了其处理各种领域和任务的多功能性。它的表现优于Gemini 2 Flash、GPT-4o和Claude 3.5 Sonnet等领先模型,巩固了其作为顶级视觉语言模型的地位。

本地部署 Qwen2.5-VL :

电脑上先安装好 GitPython 环境,没有的可以自行先去安装, 我用的是Python 3.10.6 版本【点击下载

1.首先克隆 Qwen2.5-VL GitHub 存储库并导航到项目目录:

git clone https://github.com/QwenLM/Qwen2.5-VL

cd Qwen2.5-VL

2.使用以下命令安装 Web 应用程序所需的依赖项:

pip install -r requirements_web_demo.txt

3. 为确保与 GPU 兼容,请安装支持 CUDA 的最新版本的 PyTorch、TorchVision 和 TorchAudio。即使已经安装了 PyTorch,您在运行 Web 应用程序时也可能会遇到问题,因此最好更新:

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

4. 更新 Gradio 和 Gradio Client 以避免连接和 UI 相关的错误,因为旧版本可能会导致问题:

pip install -U gradio gradio_client

5.下方是模型的下载安装,总共有3个选项:

较小的 3B 模型,建议在 GPU 内存有限的笔记本电脑(例如 8GB VRAM)上使用。

python web_demo_mm.py --checkpoint-path "Qwen/Qwen2.5-VL-3B-Instruct"

显存高于8G的可以选择7B模型,性能更强、效果更好!

python web_demo_mm.py --checkpoint-path "Qwen/Qwen2.5-VL-7B-Instruct"

如果是土豪,手里有专业级别的GPU,那么可以直接上72B的最大模型,性能直冲天花板!

python web_demo_mm.py --checkpoint-path "Qwen/Qwen2.5-VL-72B-Instruct"

我们可以看到,它首先下载了模型,然后加载了处理器和模型,

图片[4]-本地部署 Qwen2.5-VL 最强的开源视觉大模型!完全免费,相当的给力!!-零度博客

现在只需在浏览器上打开本地链接 http://127.0.0.1:7860 就可以正常使用!

图片[5]-本地部署 Qwen2.5-VL 最强的开源视觉大模型!完全免费,相当的给力!!-零度博客

6. 您可以上传带有文本和多个图形的图像,并让模型对其进行解释。即使是较小的 3B 模型也表现出令人印象深刻的性能,可以识别图像中的复杂细节。

图片[6]-本地部署 Qwen2.5-VL 最强的开源视觉大模型!完全免费,相当的给力!!-零度博客

当然如果你的电脑硬件不支持,那么可以直接使用官方的免费平台来使用,当然免费平台是共享GPU,有额度限制。唯一的好处可以直接免费使用 Qwen 2.5 VL 最强的78B模型! Qwen 2.5 VL 免费官方平台点击前往

下方是我的实测效果,非常给力:

图片[7]-本地部署 Qwen2.5-VL 最强的开源视觉大模型!完全免费,相当的给力!!-零度博客

Qwen2.5-VL 3个完整开源版本已经托管在hugging face上,需要的可以自行去下载

开源模型:【点击前往

1396ab257720250214024437

 

如果关闭后下次打开的话,只需通过下方的命令即可重新启动:

注意替换自己的模型

cd Qwen2.5-VL
python web_demo_mm.py --checkpoint-path "Qwen/Qwen2.5-VL-7B-Instruct"
THE END
喜欢就支持一下吧
点赞1621 分享
相关推荐
6600XT 免驱黑苹果 10900K  EFI文件-零度博客

6600XT 免驱黑苹果 10900K EFI文件

EFI文件下载:【 点击下载】 OpenCore 版本:0.7.2 详细的安装教程:https://www.freedidi.com/2116.html    
admin的头像-零度博客admin
1.6W+2251
OpenVPN客户端下载+免费节点-零度博客

OpenVPN客户端下载+免费节点

1.OpenVPN 客户端下载: 【点击下载】 2.免费VPN节点:【点击前往-VPNBOOK】  
admin的头像-零度博客admin
2.1W+2253
从网上删除自己个人信息所需要的网站-零度博客

从网上删除自己个人信息所需要的网站

1.YourDigitalRights:https://yourdigitalrights.org 2.Google搜索移除工具:【点击前往】 3.Justdelete:【点击前往】 4.have I been pwned:【点击前往】 5.Facebook 账号永久删除:【点击前...
admin的头像-零度博客admin
1.6W+2251
如何优化电脑?学会这3招,让你的电脑速度飞快的跑起来!| 系统优化必备技巧-零度博客

如何优化电脑?学会这3招,让你的电脑速度飞快的跑起来!| 系统优化必备技巧

掌握这3个电脑优化方法,让你告别电脑卡顿,启动慢,速度慢的问题。 SSD固态硬盘是刚需,如果要彻底解决电脑配置低的问题,优先考虑就是更换掉原有的机械硬盘,这样可以让电脑的性能有质的飞跃...
Windows 11( 23H2)极限精简版!居然只要3G磁盘空间,拯救你的老旧电脑就靠它,超级流畅!! | 零度解说-零度博客

Windows 11( 23H2)极限精简版!居然只要3G磁盘空间,拯救你的老旧电脑就靠它,超级流畅!! | 零度解说

https://youtu.be/FkDXMz21RLU?si=hchL00geWgAOs2q3 ================= Windows 11 (23H2)精简版下载:https://www.freedidi.com/10748.html VM虚拟机下载:https://www.freedidi.com/6937.ht...
罗福莉是Deepseek核心开发人员吗? 有疑问可以直接问各大主流AI-零度博客

罗福莉是Deepseek核心开发人员吗? 有疑问可以直接问各大主流AI

今天发布有关罗福莉的相关视频,看到部分观众在质疑她的成分,其实有疑问是对的,但是在怀疑的同时需要自身去探索正确答案,不要轻易相信哪些小道消息!有什么问题直接问各大主流的AI就可以了,...
2020年谁最有钱?全球顶级亿万富翁大揭晓!马云还在全球首富前十位吗?-零度博客
Dark Reader 强制暗黑模式-零度博客

Dark Reader 强制暗黑模式

  适用于所有网站的暗色主题。关爱眼睛,就使用 Dark Reader 进行日常浏览。 这是一个护眼扩展程序,通过实时生成黑暗主题,为每一个网站启用夜间模式。 Dark Reader 反转明亮的颜色,使网...
admin的头像-零度博客admin
2.1W+2177
这6款绝对可以堪称神器的PC软件!-零度博客

这6款绝对可以堪称神器的PC软件!

  1.Spacedesk 投屏: https://www.spacedesk.net 2.AllDup 去重软件: http://www.alldup.de 3.Ditto 剪贴板增强工具: https://ditto-cp.sourceforge.io 4.TestDisk U盘数据恢复工具: ...
admin的头像-零度博客admin
1.3W+6540