掘金 人工智能 1小时前
RapidOCR集成PP-OCRv5_det mobile模型记录
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章记录了RapidOCR集成PP-OCRv5_mobile_det的全过程,涵盖模型转换、精度测试等关键步骤。通过PaddleX和ONNXRuntime两种方式验证模型,对比PP-OCRv4和PP-OCRv5性能,并提出在不同场景下的模型选择建议。最终,RapidOCR实现了对PP-OCRv5的支持,并在魔搭平台托管了模型。

🚀文章首先基于PaddleX框架验证PP-OCRv5_mobile_det模型,确保模型能正确识别文本,并展示了预期结果。

🔄随后,文章介绍了将PP-OCRv5_mobile_det模型转换为ONNX格式的详细步骤,利用PaddleX提供的工具进行转换,并验证转换的成功性。

💡接着,文章验证了ONNX模型在RapidOCR中的推理效果,通过对比PP-OCRv4和PP-OCRv5的配置差异,确认了现有代码的兼容性。

📊文章还进行了模型精度测试,使用TextDetMetric和测试集对不同模型和推理框架进行评估,并对比了PP-OCRv4和PP-OCRv5的性能差异。

🛠️最后,文章介绍了如何将模型集成到RapidOCR中,包括模型托管到魔搭平台、修改代码适配和添加单元测试,最终RapidOCR实现了对PP-OCRv5的支持。

该文章主要摘取记录RapidOCR集成PP-OCRv5_mobile_det记录,涉及模型转换,模型精度测试等步骤。原文请前往官方博客:

rapidai.github.io/RapidOCRDoc…

引言

来自PaddleOCR官方文档

PP-OCRv5 是PP-OCR新一代文字识别解决方案,该方案聚焦于多场景、多文字类型的文字识别。在文字类型方面,PP-OCRv5支持简体中文、中文拼音、繁体中文、英文、日文5大主流文字类型,在场景方面,PP-OCRv5升级了中英复杂手写体、竖排文本、生僻字等多种挑战性场景的识别能力。在内部多场景复杂评估集上,PP-OCRv5较PP-OCRv4端到端提升13个百分点。

以下代码运行环境

1. 模型跑通

该步骤主要先基于PaddleX可以正确使用PP-OCRv5_mobile_det模型得到正确结果。

该部分主要参考文档:docs

安装paddlex:

pip install "paddlex[ocr]==3.0.0"

测试PP-OCRv5_mobile_det模型能否正常识别:

运行以下代码时,模型会自动下载到 /Users/用户名/.paddlex/official_models 下。

测试图:link

from paddlex import create_model# mobilemodel = create_model(model_name="PP-OCRv5_mobile_det")# servermodel = create_model(model_name="PP-OCRv5_server_det")output = model.predict(input="images/general_ocr_001.png", batch_size=1)for res in output:    res.print()    res.save_to_img(save_path="./output/")    res.save_to_json(save_path="./output/res.json")

预期结果如下,表明成功运行:

2. 模型转换

该部分主要参考文档: docs

转换PP-OCRv5_mobile_det

PaddleX官方集成了paddle2onnx的转换代码:

paddlex --install paddle2onnxpip install onnx==1.16.0paddlex --paddle2onnx --paddle_model_dir models/official_models/PP-OCRv5_mobile_det --onnx_model_dir models/PP-OCRv5_mobile_det

输出日志如下,表明转换成功:

Input dir: models/official_models/PP-OCRv5_mobile_detOutput dir: models/PP-OCRv5_mobile_detPaddle2ONNX conversion starting...[Paddle2ONNX] Start parsing the Paddle model file...[Paddle2ONNX] Use opset_version = 14 for ONNX export.[Paddle2ONNX] PaddlePaddle model is exported as ONNX format now.2025-05-26 21:53:00 [INFO]      Try to perform constant folding on the ONNX model with Polygraphy.[W] 'colored' module is not installed, will not use colors when logging. To enable colors, please install the 'colored' module: python3 -m pip install colored[I] Folding Constants | Pass 1[I]     Total Nodes | Original:   925, After Folding:   502 |   423 Nodes Folded[I] Folding Constants | Pass 2[I]     Total Nodes | Original:   502, After Folding:   502 |     0 Nodes Folded2025-05-26 21:53:08 [INFO]      ONNX model saved in models/PP-OCRv5_mobile_det/inference.onnx.Paddle2ONNX conversion succeededCopied models/official_models/PP-OCRv5_mobile_det/inference.yml to models/PP-OCRv5_mobile_det/inference.ymlDone

3. 模型推理验证

验证PP-OCRv5_mobile_det模型

该部分主要是在RapidOCR项目中测试能否直接使用onnx模型。要点主要是确定模型前后处理是否兼容。从PaddleOCR config文件中比较PP-OCRv4PP-OCRv5 mobile det文件差异:

从上图中可以看出,配置基本一模一样,因此现有rapidocr前后推理代码可以直接使用。

from rapidocr import RapidOCRmodel_path = "models/PP-OCRv5_mobile_det/inference.onnx"engine = RapidOCR(params={"Det.model_path": model_path})img_url = "https://img1.baidu.com/it/u=3619974146,1266987475&fm=253&fmt=auto&app=138&f=JPEG?w=500&h=516"result = engine(img_url)print(result)result.vis("vis_result.jpg")

4. 模型精度测试

测试集text_det_test_dataset包括卡证类、文档类和自然场景三大类。其中卡证类有82张,文档类有75张,自然场景类有55张。缺少手写体、繁体、日文、古籍文本、拼音、艺术字等数据。因此,该基于该测评集的结果仅供参考。

欢迎有兴趣的小伙伴,可以和我们一起共建更加全面的测评集。

该部分主要使用TextDetMetric和测试集text_det_test_dataset来评测。

相关测试步骤请参见TextDetMetric的README,一步一步来就行。我这里简单给出关键代码:

其中,计算 pred.txt 代码如下:(仅列出了Exp1的代码,Exp2和Exp3的代码请前往官方博客阅读)

(Exp1)RapidOCR框架+ONNXRuntime格式模型:

import cv2import numpy as npfrom datasets import load_datasetfrom tqdm import tqdmfrom rapidocr import EngineType, ModelType, OCRVersion, RapidOCRengine = RapidOCR(    params={        "Det.ocr_version": OCRVersion.PPOCRV5,        "Det.engine_type": EngineType.ONNXRUNTIME,        "Det.model_type": ModelType.MOBILE,    })dataset = load_dataset("SWHL/text_det_test_dataset")test_data = dataset["test"]content = []for i, one_data in enumerate(tqdm(test_data)):    img = np.array(one_data.get("image"))    img = cv2.cvtColor(img, cv2.COLOR_RGB2BGR)    ocr_results = engine(img, use_det=True, use_cls=False, use_rec=False)    dt_boxes = ocr_results.boxes    dt_boxes = [] if dt_boxes is None else dt_boxes.tolist()    elapse = ocr_results.elapse    gt_boxes = [v["points"] for v in one_data["shapes"]]    content.append(f"{dt_boxes}\t{gt_boxes}\t{elapse}")with open("pred.txt", "w", encoding="utf-8") as f:    for v in content:        f.write(f"{v}\n")

计算指标代码:

from text_det_metric import TextDetMetricmetric = TextDetMetric()pred_path = "pred.txt"metric = metric(pred_path)print(metric)

指标汇总如下(以下指标均为CPU下计算所得):

Exp模型推理框架模型格式Precision↑Recall↑H-mean↑Elapse↓
1PP-OCRv5_mobile_detPaddleXPaddlePaddle0.78640.80180.79400.1956
2PP-OCRv5_mobile_detRapidOCRPaddlePaddle0.78610.82660.80580.5328
3PP-OCRv5_mobile_detRapidOCRONNXRuntime0.78610.82660.80580.1653
4PP-OCRv4_mobile_detRapidOCRONNXRuntime0.83010.86590.8476-
5PP-OCRv5_server_detPaddleXPaddlePaddle0.83470.85830.84632.1450
6PP-OCRv5_server_detRapidOCRPaddlePaddle
7PP-OCRv5_server_detRapidOCRONNXRuntime0.73940.84420.78832.0628
8PP-OCRv4_server_detRapidOCRONNXRuntime0.79220.81280.7691-

从以上结果来看,可以得到以下结论:

    Exp1和Exp2相比,H-mean差异不大,说明文本检测 前后处理代码可以共用

    Exp2和Exp3相比,mobile模型转换为ONNX格式后,指标几乎一致,说明 模型转换前后,误差较小,推理速度也有提升

    Exp3和Exp4相比,mobile整体指标弱于PP-OCRv4的。因为测评集集中在中英文的印刷体,手写体少些,因此仅供参考。

    Exp6直接跑,会报以下错误,暂时没有找到原因。如有知道的小伙伴,欢迎留言告知。

    5%|████████▏                                                                                                                                                     | 11/212 [00:42<13:11,  3.94s/it][1]    61275 bus error  python t.py/Users/xxxxx/miniconda3/envs/py310/lib/python3.10/multiprocessing/resource_tracker.py:224: UserWarning: resource_tracker: There appear to be 1 leaked semaphore objects to clean up at shutdownwarnings.warn('resource_tracker: There appear to be %d '

    因为Exp6暂时没有找到原因,粗略将Exp5和Exp7相比,可以看到PP-OCRv5 server模型转换为ONNX格式后,H-mean下降了5.8% ,但是转换方式和mobile的相同,具体原因需要进一步排查。如有知道的小伙伴,欢迎留言告知。

    Exp7和Exp8相比,PP-OCRv5 server模型提升很大(H-mean提升7.72%)。不排除用到了测评集数据。

最终建议:

上述表格中基于ONNXRuntime的结果已经更新到开源OCR模型对比中。

5. 集成到rapidocr中

该部分主要包括将托管模型到魔搭、更改rapidocr代码适配等。

托管模型到魔搭

该部分主要是涉及模型上传到对应位置,并合理命名。注意上传完成后,需要打Tag,避免后续rapidocr whl包中找不到模型下载路径。

我这里已经上传到了魔搭上,详细链接参见:link

更改rapidocr代码适配

该部分主要涉及到更改default_models.yamlpaddle.py的代码来适配。

同时,需要添加对应的单元测试,在保证之前单测成功的同时,新的针对性该模型的单测也能通过。

我这里已经做完了,小伙伴们感兴趣可以去看看源码。

写在最后

至此,该部分集成工作就基本完成了。这部分代码会集成到rapidocr==3.0.0中。版本号之所以从v2.1.0到v3.0.0,原因是:语义化版本号。

我在集成过程中,发现v2.1.0中字段不太合理,做了一些改进,动了外部API,因此只能升大版本号。请大家在使用过程中,注意查看最新文档→ docs

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

RapidOCR PP-OCRv5 模型转换 ONNX OCR
相关文章