PaddleOCR gpu加速 多进程 多线程 速度测试（花费了我六七个小时）

[freemedom]

multiprocessing.Pool
ThreadPoolExecutor

[freemedom]

测试电脑，笔记本，windows系统，cpu 8845h，gpu 4060
首先，默认情况下，use_gpu=True，1秒大概1-5个（根据图片中的文字个数，图片的大小，格式而变化）

使用多线程，无论是把ocr = PaddleOCR(use_angle_cls=True, lang="ch", show_log=True, use_gpu=True)设成1个还是多个，速度变化不大，都大概是比默认情况快2倍。并且提升线程数量无法占用满全部cpu核，大概只能占用30%-50%，大概是因为GIL。 参考#10433
每个线程使用各自的ocr = PaddleOCR(use_angle_cls=True, lang="ch", show_log=True, use_gpu=True)还是公共的，对速度并没有什么影响，反而显存还占用多了

使用多进程，4进程，比默认情况快大概3倍，6进程快大概5倍，只要cpu、内存、显存，没占满，速度应该可以不断增加

[freemedom]

https://github.com/PaddlePaddle/FastDeploy/blob/develop/tutorials/multi_thread/python/pipeline/multi_thread_process_ocr.py
https://github.com/PaddlePaddle/FastDeploy/blob/develop/tutorials/multi_thread/README_CN.md

[freemedom]

PaddlePaddle/Paddle#56193

[freemedom]

看起来multiprocessing和PaddleOCR在linux上有一些问题，不过我自测在windows上是没问题的。
PaddlePaddle/PaddleDetection#2241
#3070
#8738
#9544

[freemedom]

关于use_mp这个参数，经过我一番搜索发现，似乎对于常规python代码调用完全没用。代码里都搜不到对它的处理

[freemedom]

https://github.com/PaddlePaddle/PaddleOCR/blob/b1b50fc1fd3d2c4615d2a7e80021ba7de432c598/tools/end2end/readme.md