欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 房产 > 建筑 > 零基础入门:MinerU 和 PyTorch、CUDA的关系

零基础入门:MinerU 和 PyTorch、CUDA的关系

2025/5/23 12:22:11 来源:https://blog.csdn.net/OpenDataLab/article/details/148147158  浏览:    关键词:零基础入门:MinerU 和 PyTorch、CUDA的关系

💡一句话总结:MinerU 是一个用 PyTorch 跑模型的程序,PyTorch 支持多种加速方式(如 CUDA、MPS),让它跑得快就需要依赖这些加速工具。

PyTorch官网安装教程(可根据系统情况选择不同版本:https://pytorch.org/get-started/locally/)

一张图看清楚它们的关系:

图片

01  先解释一些名词在 MinerU 中的作用:

🔧 PyTorch:是跑深度学习模型的库,有 CPU 和 GPU 版本,简称 torch。MinerU 用它跑公式、OCR、表格等模型,✅ 必须安装。

⚙ torchvision:是 PyTorch 的辅助库,用于图像处理、模型加载等。MinerU 在图像类模型或视觉任务中会用到,✅ 建议安装。

💻 NVIDIA 显卡驱动(Driver):是控制和管理 NVIDIA 显卡硬件的软件层,它是 CUDA 与 GPU 正常通信的基础。如果使用 NVIDIA GPU,✅ 必须安装。

💾 CUDA-Toolkit:是 NVIDIA 提供的一整套 GPU 编程工具,包含 CUDA、cuDNN、编译器等,能提供开发和运行 GPU 应用的完整支持,避免手动配置底层。若用 pip 安装 PyTorch,❌ 可不单独安装。

💿 CUDA:是 NVIDIA 显卡的加速平台,依赖显卡驱动,必须配合 NVIDIA 显卡使用。它能让 PyTorch 用 NVIDIA GPU 跑得更快,使用 NVIDIA GPU 时必须安装,❌ CPU 用户则不需要。

📦 Anaconda:是 Python 科学计算平台,集成大量依赖库,便于管理环境。用它安装 PyTorch 等依赖更方便,也可避免系统冲突,❌ 推荐新手或团队开发使用。

🔖 MPS:是 Apple macOS M 系列芯片的 Metal 加速接口,Mac 上用来调用 Apple 芯片 GPU,❌ 只在 macOS 上使用。

🚀小科普:CUDA 主要适用于安装了 NVIDIA 显卡的 Linux 和 Windows 系统;MacOS 用 MPS 加速。

02  只想 MinerU 运行(不求快):

MinerU 运行依赖 PyTorchtorchvision,你可以只装 PyTorch torchvision 的CPU 版本

pip install torch torchvision  # 用 CPU 跑,速度慢,但简单

然后再安装 MinerU,详见:https://github.com/opendatalab/MinerU/blob/master

接下来就可以使用 MinerU 解析 pdf 文件了。

03  想要 MinerU 加速运行:

要根据你所使用的平台和硬件选择合适的方式:

1. Windows(装有 NVIDIA 显卡)的加速方式:

注意!需要您的显卡是2017年后生产的带有 Tensor Core 的显存 6 GB以上,可进行以下流程,并测试CUDA 推理加速效果:

● 安装 NVIDIA 显卡驱动:它们通常包括了支持 CUDA 的相关软件包

● 安装 CUDA Toolkit:(需要安装符合 Pytorch 要求的 CUDA 版本,MinerU 目前支持Pytorch的版本为 11.8/12.4/12.6/12.8)

- CUDA 11.8 下载地址:https://developer.nvidia.com/cuda-11-8-0-download-archive

- CUDA 12.4 下载地址:https://developer.nvidia.com/cuda-12-4-0-download-archive

- CUDA 12.6 下载地址:https://developer.nvidia.com/cuda-12-6-0-download-archive

- CUDA 12.8 下载地址:https://developer.nvidia.com/cuda-12-8-0-download-archive

● 安装 Python 与 Anaconda (如果已安装,可以跳过本步骤)

● 安装 MinerU,详见:https://github.com/opendatalab/MinerU/blob/master

● 覆盖安装支持 CUDA 的 PyTorch 和 torchvision (请根据CUDA版本选择合适的index-url,具体可参考torch官网)

pip install --force-reinstall torch torchvision --index-url https://download.pytorch.org/whl/cu124

● 修改配置文件:将【用户目录】中配置文件 magic-pdf.json 中 device-mode 的值改为 "cuda"

{    // other config    "device-mode": "cuda"}

2. Ubuntu 22.04 LTS加速方式:

● 检测是否已安装 NVIDIA 显卡驱动

nvidia-smi

如果看到类似如下的信息,说明已经安装了nvidia驱动,可以跳过下一条安装步骤(⚠️CUDA Version 显示的版本号应 >= 12.4,如显示的版本号小于12.4,请升级驱动)

+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.133.07             Driver Version: 572.83         CUDA Version: 12.8   |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                     TCC/WDDM  | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 3060 Ti   WDDM  | 00000000:01:00.0  On |                  N/A |
|  0%   51C    P8              12W / 200W |   1489MiB /  8192MiB |      5%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+

● 安装 NVIDIA 显卡驱动

如没有驱动,则通过如下命令安装专有驱动​​​​​​​

sudo apt-get updatesudo apt-get install nvidia-driver-570-server

安装完成后,重启电脑

reboot

● 安装  Anaconda(如果已安装Anaconda  ,可以跳过本步骤)

wget -U NoSuchBrowser/1.0 https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2024.06-1-Linux-x86_64.sh
bash Anaconda3-2024.06-1-Linux-x86_64.sh

    最后一步输入   yes  ,关闭终端重新打开。

    ● 安装 MinerU

    ● 修改配置文件:修改【用户目录】中配置文件 magic-pdf.json 中 device-mode 的值​​​​​​​

    {    // other config    "device-mode": "cuda"}

    3. MacOS(M 系列芯片)的加速方式:

    ● 安装 Anaconda

    ● 安装 MinerU,详见:https://github.com/opendatalab/MinerU/blob/master

    ● 修改配置文件:MacOS 支持 MPS 加速(苹果自家的加速后端),只需要安装 MinerU 后,在 magic-pdf.json 配置文件中将 device-mode 参数设置为 "mps" 来启用 MPS 加速​​​​​​​

    {    // other config    "device-mode": "mps"}

    04  🧩总结

    ● PyTorch 是 MinerU 运行必须安装的核心库

    ● CUDA、MPS 是 MinerU 的加速方式,因平台和硬件不同而异

    ● MinerU​​​​​​​ 间接利用这些加速方式来提速模型运行

    版权声明:

    本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

    我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com

    热搜词