NCNN性能

[westpilgrim]

编译成功了，人脸识别，小米2手机，比CAFFE版本快三分之一。有点失望。

[westpilgrim]

速度有点不稳定，快的时候快两倍，慢的时候和CAFFE差不多

[zsffq999]

你用的是什么网络？速度是多少？

[westpilgrim]

MTCNN+LIGHT CNN
平均两三百毫秒，最快一百多毫秒，最慢五百多毫秒。
CAFFE平均是三四百毫秒

[panda-lab]

@westpilgrim mtcnn 图像多大分辨率？

[guozhongluo]

@westpilgrim 你的MTCNN部分在手机上的速度是多少？

[westpilgrim]

@lsy17096535 320*240
@guozhongluo 没测，就测了个整体速度。比对一对图片，在CAFFE版本中MTCNN占一半时间，所以估计是50-80毫秒了。

[kismde]

@westpilgrim ，我是新手，学习了教程之后，可以用opencv读取一张rgb图片（2维），然后用ncnn::Mat::from_pixels_resize转换到ncnn::Mat（变成3维），即可将其feed给ncnn模型。但是如何将读取的多张rgb图片，转成ncnn::Mat，并feed给ncnn模型？

[echofeng]

mtcnn耗时是不固定的，除了Pnet是全卷积，Rnet和Onet的耗时和候选框数量有关。用整体耗时来评估ncnn性能不太客观。

[westpilgrim]

@wangkgege 只能循环，NCNN不支持BATCHSIZE>1
@echofeng 每次循环都是相同的图，循环了一百次，打印每次比对时间

[kismde]

@westpilgrim 谢谢，这下我能确认了。

[zsffq999]

@westpilgrim 我的实现也差不多，在小米2上light cnn C用时300ms，seetaface检测用200ms

[kismde]

@westpilgrim ，你的mtcnn的LNet是从caffe model转成ncnn model的吧？但是，我的prototxt文件中含有Slice层，能转成功，但调用ncnn版的LNet时，报错了。相关信息如下：
layer {
name: "slicer_data"
type: "Slice"
bottom: "data"
top: "data241"
top: "data242"
top: "data243"
top: "data244"
top: "data245"
slice_param {
slice_point: 3
slice_point: 6
slice_point: 9
slice_point: 12
axis: 1
}
}
错误信息：
layer data241 not exists
layer index -1 not exists
custom layer data241 not exists
custom layer index -1 not exists
这里也有相似的状况：https://github.com/Tencent/ncnn/issues/68。
但我觉得不能解决问题，向你请教一下。

[wonderzy]

@westpilgrim

MTCNN+LIGHT CNN
平均两三百毫秒，最快一百多毫秒，最慢五百多毫秒。
CAFFE平均是三四百毫秒

请问你有开线程吗

[westpilgrim]

@wonderzy 开的，用默认的线程数

[kismde]

@westpilgrim ，您好，我将caffe版的mtcnn的pnet模型使用ncnn转换了，然后对比了pnet模型的ncnn版与caffe版的输出，发现二者不同。我把实验过程和代码记录了下来。因为看到您成功运行了ncnn版mtcnn模型，能否请您指导一下？

[westpilgrim]

@wangkgege 把输入ncnn::Mat in也打印一下，看是不是一样

[wonderzy]

@westpilgrim ncnn::Extractor ex = net.create_extractor();
ex.set_light_mode(true);
ex.set_num_threads(4);

hi, 你有没有试过把线程换成1对比一下性能

[westpilgrim]

@wonderzy 没，现在这个速度可以用了

[kismde]

@westpilgrim 谢谢，现在没问题了。

[guozhongluo]

@wangkgege 你做了什么调整，现在没问题了

[kismde]

@guozhongluo 没做调整，只是按照另一大神的写法来做的。代码在这里https://github.com/ElegantGod/ncnn

[jjjjohnson]

@westpilgrim 我想测试一下MTCNN 在安卓端的性能 不知可否指导一下怎么把MTCNN移植到安卓的？谢谢

[iChiaGuo]

@westpilgrim NCNN 运行在iPhone手机上一段时间烫手，有什么好的优化方案吗？