相同的模型在不同的平台，表现差异巨大

[minushuang]

同样的ncnn模型，在pc上结果正常，移动端掉点太多。

如下表格，第四行的括号中的值表示，相对于ncnn-fp16模型在pc上的表现的掉点情况，以及相对于pt模型的掉点情况。

请问作者大大，这正常吗？什么原因导致android和pc有如此大的差距？

[nihui]

https://github.com/Tencent/ncnn/wiki/FAQ-ncnn-produce-wrong-result
参考这个wiki检查下

[minushuang]

我优化了一版精度更高的模型，但pt和ncnn-pc和ncnn-android的mAP还是有一些差距。

模型	class1-ap	class2-ap	mAP
pt	89.97%	72%	80.9%
ncnn-pc	88.2%%	64.6%	76.4%
ncnn-android	84.2%	61.3%	72.8%

check了一下wiki文档，暂时没发现问题，且pc上的c++和android上的c++预处理、后处理、推理代码都是一致的，很难理解为什么从pc上到android会存在gap？

这样的gap正常吗？

[nihui]

https://github.com/Tencent/ncnn/wiki/FAQ-ncnn-produce-wrong-result#image-decoding
https://github.com/Tencent/ncnn/wiki/FAQ-ncnn-produce-wrong-result#disable-fp16

检查图片格式用无损的bmp/png，禁用fp16推理

[minushuang]

感谢大佬及时回复，我看了下，输入图片大部分是jpg/png，后续会用png/bmp测一遍看下效果。

再请问下，如果都是同样的jpg图片，同样的推理引擎，在pc和android的推理结果是否应该是一样的呢？

[minushuang]

重新review了一下，现在ncnn-pc基本无精度损失（c++，python都测试过，精度损失在1%以内），但迁移到android还是损失七八个点左右。

我将pc和android端的mat分别保存下来，发现两者在经过下面这行代码之后，输出的mat开始有差异。

ncnn::Mat in_net = ncnn::Mat::from_pixels_resize(img.data, ncnn::Mat::PIXEL_BGR2RGB, img_w, img_h, w, h);

如下，截取了一部分，总的差异比例在0.23%，即千分之二左右。

all data is 537600
NO.525043 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525140 row not equal. pc: 0 0 0, android: 0 0 2
NO.525141 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525142 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525819 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525849 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525855 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525921 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525922 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525923 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525924 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525925 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.525949 row not equal. pc: 0 0 0, android: 0 0 199
NO.525951 row not equal. pc: 0 0 0, android: 0 0 -417197
NO.525952 row not equal. pc: 0 0 0, android: 0 0 -1606
NO.525954 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.526624 row not equal. pc: 0 0 0, android: 0 0 3380302
NO.526625 row not equal. pc: 0 0 0, android: 0 0 217396576
NO.526628 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.526630 row not equal. pc: 0 0 0, android: 0 0 -27239742
NO.526631 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.526656 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.526668 row not equal. pc: 0 0 0, android: 0 0 2367962
NO.526730 row not equal. pc: 0 0 0, android: 0 0 2
NO.526733 row not equal. pc: 0 0 0, android: 0 0 -25443
NO.526734 row not equal. pc: 0 0 0, android: 0 0 -1590
NO.526758 row not equal. pc: 0 0 0, android: 0 0 12864
NO.526760 row not equal. pc: 0 0 0, android: 0 0 -2147483648
NO.526761 row not equal. pc: 0 0 0, android: 0 0 -2147483648
NO.526762 row not equal. pc: 0 0 0, android: 0 0 -2147483648
NO.526763 row not equal. pc: 0 0 0, android: 0 0 -2147483648
NO.527273 row not equal. pc: 0 0 0, android: 0 0 2459335
NO.527274 row not equal. pc: 0 0 0, android: 0 0 2147483647
NO.527275 row not equal. pc: 0 0 0, android: 0 0 2147483647

[minushuang]

from_pixels_resize时使用的快速指令集导致的，将if __ARM_NEON分支注释掉之后，from_pixels_resize输出的内容一致了。

另外，也尝试在编译ncnn时，指定-DANDROID_ARM_NEON=OFF关闭NEON，armv7可以生效，armv8不生效。

[nihui]

#5390
请测试下这个pr是否能解决你遇到的问题

[minushuang]

#5390 请测试下这个pr是否能解决你遇到的问题

可以，from_pixel_resize的输出pc和移动端能够保持一致了。模型的输出精度仍然有丢失。

[nihui]

#5393

还有这个pr修复了softmax fp16的运算错误，可以测试下

[minushuang]

#5393

还有这个pr修复了softmax fp16的运算错误，可以测试下

好的，我测下看看。
不过我在对比模型的output mat的差异时，其实是关闭了fp16的计算的，且这个output没有经过softmax😊

[minushuang]

已测，最终的mAP变化不大，从75.67%--->75.66%