当前位置: 首页 > news >正文

DeepSeek-OCR 本地部署实践(适合新手、windows环境)

上效果:

image

image

结论:windows官方示例仅可转换图片,linux下官方示例可转图片和PDF文件

原因是转换PDF的代码用到了vllm,vllm仅可在linux系统下部署使用。(仅官方示例,如果自己编写代码进行PDF转图片,并处理多张图片的上下文语义,那么就没差别了)

deepseek-ocr 官方库提供了 transformers和vllm两种推理解析方式,transformers仅提供了图片识别的示例,vllm提供了图片识别和pdf识别两种示例。vllm仅可在linux系统下部署使用。

如果只需要图片识别,windows和linux两种系统都可以。如果需要pdf识别,则需要使用linux系统部署。

我的电脑环境:

windows 11、显卡 5060

deepseek-ocr官方代码库:https://github.com/deepseek-ai/DeepSeek-OCR

需要安装的内容:

git、python、Anaconda、cuda、pytorch(torch、torchvision、torchaudio、numpy)

我电脑使用的版本如下

image

环境安装中因为CUDA版本不匹配,模型识别不了,反复切换过几次cuda、troch、flash_attn的版本。

这些软件的版本需要根据个人电脑显卡型号确定,一定要根据自己的电脑配置情况下载匹配版本,下边会详细介绍。

 

安装部署过程

1、安装git:

为了拉取deepseek-ocr的项目代码(如果电脑已经安装跳过,安装系统可以使用的版本即可)

https://git-scm.com/install/windows

从官网下载对应电脑程序,一步步安装即可。

2.获取deepseek-ocr 代码仓库

从电脑上想安装deepseek-ocr的文件夹下输入cmd

image

在打开的命令窗口中,输入 git clone https://github.com/deepseek-ai/DeepSeek-OCR.git

3.安装python 3.12.9

deepseek-ocr 推荐的python版本是3.12.9,建议安装此版本

https://www.python.org/downloads/windows/

下载自己电脑适合的版本

image

注意:下边两个复选框要勾上再点 安装或 install ,之后一步步安装即可。

image

不会安装的可以 参考:https://blog.csdn.net/biancheng_syz/article/details/139995035

安装完成后在命令框中 输入 python --version,返回如下结果即可。

image

4.安装 Anaconda

可以从官网或镜像网站中下载

官网:https://www.anaconda.com/download

镜像地址:https://repo.anaconda.com/archive/

image

一步步安装即可,此处记得勾选下

image

安装完成后在环境变量中增加配置

image

image

image

image

 

增加以上4项内容,D:\softInstall\Anaconda是我的安装目录,需要换成你自己的安装目录,配置完成后cmd 输入conda --version,返回如下信息即安装成功

image

5.安装CUDA (一定要注意版本、一定要注意版本

deepseek推荐使用11.8,不用必须11.8,之上即可。

image

安装之前 cmd 进入命令行,检查驱动和cuda支持版本

image

我的是12.8,进入cuda官网下载https://developer.nvidia.com/cuda-toolkit-archive

根据自己电脑型号选好

image

image

选择对应版本下载后,一路下一步安装即可,安装完成后,cmd, 输入 nvcc -V,返回版本信息即可

image

6.安装PyTorch(一定要注意版本、一定要注意版本

deepseek-ocr自己环境使用的 2.6.0,我这使用的 2.7.0,因为适配cuda12.8版本的最低的 pytorch就是2.7.0

pytorch版本需要需要根据前边安装的cuda和python的版本进行安装匹配规则解释

cu128 代表 cuda版本是12.8,cp312 代表 python版本 3.12.X win就是windows;

image

pytorch 可以使用命令下载安装,也可以下载文件后本地安装,我使用的下载后本地安装

下载地址

https://download.pytorch.org/whl/nightly/cu128 其中128为显卡版本号

image

进入对应文件目录,按照上边说的匹配规则查找对应文件下载到本机。

进入下载完成的文件夹目录,在目录中输入cmd,

image

 

打开命令行后依次输入命令安装,install 后为下载的文件名 注意改成自己的

pip install torch-2.7.0+cu128-cp312-cp312-win_amd64.whl

pip install torchaudio-2.7.0+cu128-cp312-cp312-win_amd64.whl

pip install torchvision-0.22.0+cu128-cp312-cp312-win_amd64.whl

pip install numpy-2.3.3-cp312-cp312-win_amd64.whl

 

7.创建deepseek-ocr项目并激活

进入第一步拉取的deepseek-ocr项目目录下 输入cmd,打开命令窗口

image

conda create -n deepseek-ocr python=3.12.9 -y

conda activate deepseek-ocr

执行成功效果如下

image

如果第一次执行activate,需要先执行下 conda init 后再执行 conda activate deepseek-ocr 即可。

8、安装依赖文件

继续在上边项目命令窗口中执行 pip install-r requirements.txt ,安装项目依赖的一些文件

9.安装flash-attn

此文件也要注意版本,很多人安装不上就是卡在这一步了。

问题1:在线安装成功率低

在线安装可以使用类似命令:pip install flash-attn==2.7.4 --no-build-isolation

我采用的方式是下载到本地再安装。

官网推荐使用的2.7.3跟我的cuda12.8,PyTorch 2.7.0不匹配,所以按照规则,去下载使用自己的版本

此处window环境下编译的版本不好找,废了半天劲找到了这个宝藏地址,注意cu、torch、cp版本号,分别需要与cuda、PyTorch、python的版本保持一致

https://github.com/kingbri1/flash-attention/releases

image

问题2:文件下载到本地时 名称中的+号会丢失变为空白 需修改下文件名补充上

image

下载完成后,在对应目录cmd打开命令窗口安装flash_attn,执行

pip install flash_attn-2.7.4.post1+cu128torch2.7.0cxx11abiFALSE-cp312-cp312-win_amd64.whl

提示success 的一段提示即代表安装成功

10.下载模型文件到本地

ModelScope下载地址:https://modelscope.cn/models/deepseek-ai/DeepSeek-OCR/summary

按照提示下载模型到本地即可

image


11、更改deepseek-ocr中模型文件目录,和要解析的输入输出文件目录

这就是开头提到的windows局限的地方,

linux下边 可以在安装上vllm模型,按照这种方式 对pdf进行识别解析。

https://github.com/vllm-project/vllm/releases/tag/v0.8.5

image

windows下暂不支持,如多直接使用官方示例在DeepSeek-OCR-hf下仅可对图片进行识别,未提供直接可用的PDF识别示意代码。可以自己写代码处理PDF转换(后续上示例)。

image

image

12.上才艺

image

image

 

输入目录种的文档:

image

一个解析识别后的图片示意、一个markdown的文件,一个图片文件夹

 

image

image

效果还是挺好的,识别速度、准确率都不错。后边做分析和项目实战再做分享。

 

 

 

 

 

 

 

 

 

http://www.hskmm.com/?act=detail&tid=38461

相关文章:

  • 10月24日日记
  • 2025.10.24总结 - A
  • 事务的隔离级别 - Higurashi
  • 2025年AI优化:AI优化公司技术实力哪家好
  • 总账系统核心设计 - 智慧园区
  • 每日反思(2025_10_24)
  • 10月24号
  • 10月阅读笔记(3)
  • python操作pdf的库
  • 使用Python将iOS快照从KTX格式转换为PNG
  • 我有一个好主意,既然我之前写了一个AI Vtuber
  • 第二十天
  • AI优化服务商:AI优化公司技术实力榜单
  • AI优化服务商:推荐AI优化排名TOP头部公司
  • 2025最新平台,快手刷站自助下单_新站如何用快手刷站服务?
  • 免费刷快手粉双击网站,刷粉真的安全吗
  • 北京AI优化:AI优化企业排行榜与深度解析
  • 10.24作业
  • 2025年承压水箱厂家权威推荐榜:专业制造工艺与耐用性能深度解析,工业级承压水箱/定制承压水箱/高效承压水箱优质供应商精选
  • 玩转单片机之智能车小露——七彩LED呼吸灯
  • 上海市计算机学会2025.10月赛丙组T5
  • 2025年微信编辑器年度测评:8款工具横评,谁才是内容创作者的效率神助攻?
  • windows 发现音量按键调值不够顺畅
  • CUDA C++ 入门:矩阵乘法
  • 在C语言中,定义常量的方法有哪几种?
  • docker 艹哥笔记
  • 4090显卡安装DCNv2
  • 在windows 上用GPIO定义几个按键
  • 第二十三篇
  • OUC第一周WP