Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

编译后模型运行报错,应用程序无法正常启动 #28

Open
ZHIZIHUABU opened this issue Sep 4, 2023 · 7 comments
Open

编译后模型运行报错,应用程序无法正常启动 #28

ZHIZIHUABU opened this issue Sep 4, 2023 · 7 comments

Comments

@ZHIZIHUABU
Copy link

No description provided.

@ZHIZIHUABU
Copy link
Author

onnxruntime-gpu1.14.1, opencv==4.7.0

@OroChippw
Copy link
Owner

onnxruntime-gpu1.14.1, opencv==4.7.0

请问一下能提供报错信息吗,我使用的是CPU版本的onnxruntime,如果使用GPU版本可能要在Ort::SessionOptions初始化的地方加上AppendExecutionProvider_CUDA(OrtCUDAProviderOptions)才行,这个版本的代码是没有提供GPU的方式运行的喔

@ZHIZIHUABU
Copy link
Author

onnxruntime-gpu1.14.1, opencv==4.7.0

请问一下能提供报错信息吗,我使用的是CPU版本的onnxruntime,如果使用GPU版本可能要在Ort::SessionOptions初始化的地方加上AppendExecutionProvider_CUDA(OrtCUDAProviderOptions)才行,这个版本的代码是没有提供GPU的方式运行的喔
刚才的问题解决了,我也替换位cpu版本,然后运行时在加载模型时报错,发现模型路径有些问题,我在运行时进入了if _WIN32分支,导致encoder_modelpath读取字符串错误。
Snipaste_2023-09-04_16-09-54

@OroChippw
Copy link
Owner

您提供的路径是否含有中文?换成全英文的路径是否还会出现这个问题呢

@ZHIZIHUABU
Copy link
Author

十分感谢,模型已经跑通了,但是推理速度还是比较慢的,我想问一下模型的encoder部分输入尺寸可以修改吗,会带来除图像尺寸缩小外的额外精度损失吗?因为导出onnx时输入需要和训练时保持一致。

@OroChippw
Copy link
Owner

十分感谢,模型已经跑通了,但是推理速度还是比较慢的,我想问一下模型的encoder部分输入尺寸可以修改吗,会带来除图像尺寸缩小外的额外精度损失吗?因为导出onnx时输入需要和训练时保持一致。

对于速度这个问题也是我一直想要改进的部分,如果您能实现一个onnxruntime-gpu的版本,很欢迎你发起PR(后续我抽出时间也会尝试去实现,因为开发及应用环境一直是CPU环境所以之前有所欠虑),encoder的输入尺寸这里是对着官方的原本输入大小写的,修改会导致精度损失,除非有足够的计算资源进行重新训练,具体可以尝试看看PaddleSeg里面对SAM的复现
最后再次感谢您的关注😊

@OroChippw OroChippw reopened this Nov 15, 2023
@lee0v0
Copy link

lee0v0 commented Dec 17, 2023

onnxruntime-gpu1.14.1, opencv==4.7.0

请问一下能提供报错信息吗,我使用的是CPU版本的onnxruntime,如果使用GPU版本可能要在Ort::SessionOptions初始化的地方加上AppendExecutionProvider_CUDA(OrtCUDAProviderOptions)才行,这个版本的代码是没有提供GPU的方式运行的喔
刚才的问题解决了,我也替换位cpu版本,然后运行时在加载模型时报错,发现模型路径有些问题,我在运行时进入了if _WIN32分支,导致encoder_modelpath读取字符串错误。
Snipaste_2023-09-04_16-09-54

请问这个“encoder_modelpath读取字符串错误”是如何解决的 ???

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants