掘金 人工智能 2024年07月09日
java加载YOLOV10模型
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

本文介绍了在使用YOLOV10过程中遇到的一些问题及解决办法,包括模型加载、版本支持、参数调整等方面。

😮在使用YOLOV10时,想用java加载推理模型,起初想用opencv处理,但发现YOLOV10的某些节点不支持,如TopK节点,且模型裁剪的图片加载不出,删除节点后会报其他错。

🎉发现onnxruntime有java版本,YOLO的模型可转ONNX,测试后可行。但使用中存在一些问题,如ultralytics的依赖应用问题,torch的GPU版本默认安装CPU版本等。

🤔训练过程中会出现页面文件太小、显存不够等问题,可通过改小workers参数默认值,调整batchsize、imgsz来解决。以及在使用onnxruntime时,存在图片和模型输入的缩放问题,还有win平台下dll版本不支持的问题及解决办法。

前言

前段时间学习了下YOLOV10就是按照网上的教程搭建个环境搞了个demo。因为本职是搞java的想用java加载推理模型,当时想到的就是利用opencv处理,但后来发现YOLOV10这个版本有些节点(TopK这个节点因为我对模型不是太了解暂且叫节点吧)不支持,前面的版本是支持的例如YOLOV8的。

这里有个issue刚好它那个模型裁剪的图片我这里是加载不出来的,我把那个节点删了后面会报些其他错,我不知道他怎么处理的,有懂的可以评论留言。

opencv最新的版本是4.10,可能5.0的正式版本出来可能会直接支持的,想尝鲜的也可以自己编译。

前几天的时候我突然发现了一个宝库onnxruntime有java版本,YOLO的模型可以转ONNX啊于是试了下果然可以。

YOLOV10

    模型文件和工程文件测试模型或者训练自己模型的可以试下因为里面的ultralytics如果是单独下载的话需要指定当前的目录。但是我用pycharm有个问题就是应用不到这个依赖(我得解决办法是把下载的这个文件目录复制一份放到python的lib库里面),当然最新的ultralytics不知道是否已经支持了YOLOV10了可以试下。还有个问题就是torch的GPU版本默认是安装的CPU的,需要到[torch官网](https://pytorch.org/get-started/locally/)自己下载个合适的GPU版本下面是,查看版本的。
pythonimport torchprint(torch.__version__)print(torch.cuda.is_available())
    训练过程中报错:页面文件太小,无法完成操作

将train.py文件中的workers参数的默认值改小,为0或者1试试

    显存不够的out of memory 可以适当调整下batchsize、imgsz

java使用onnxruntime

    POM加载依赖就可以了,(想试下的可以直接用上面下载的YOLOV10模型转换下就可以了)
<!-- https://mvnrepository.com/artifact/com.microsoft.onnxruntime/onnxruntime --><dependency>    <groupId>com.microsoft.onnxruntime</groupId>    <artifactId>onnxruntime</artifactId>    <version>1.18.0</version></dependency>

2.关于使用网上找下吧

onnxruntime注意问题

    原图片和模型的输入要求有个缩放的问题返回的坐标点xywh2xyxy,我用的YOLOV10的返回的是xyxy。但我不知道onnxruntime是否可以直接设置,还是模型本身就有设置。字面意思:xywh返回的是中心点的坐标和宽高,xyxy对角线的坐标点问题是win平台下的onnxruntime.dll版本问题报一个错:the given version [14] is not supported, only version 1 to 10 is supported in this build.上面的问题可以在github上下载最新的onnxruntime.dll注意系统。关于上面的问题main方法做测试的时候可能没问题,但是跑服务的时候springboot有问题。网上的方法大部分是放到同级目录如果是tomcat的话放到bin目录下面,但我觉得还是直接主动加载最新的dll可控靠谱。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

YOLOV10 模型加载 问题解决 onnxruntime 版本支持
相关文章