Skip to content

Latest commit

 

History

History
199 lines (121 loc) · 8.21 KB

demo.md

File metadata and controls

199 lines (121 loc) · 8.21 KB

Demo 代码介绍

English Version

一、iOS Demo 介绍

Demo运行步骤

  1. 下载Demo模型

    cd <path_to_tnn>/model
sh download_model.sh

    PS: 如因网络问题脚本无法下载模型，请根据脚本中的信息手动创建对应文件夹并自行下载

  2. 打开TNNExamples工程

    进入目录<path_to_tnn>/examples/ios/，双击打开TNNExamples工程。

  3. 设置开发者账号

    如下图点击TNNExamples工程，找到工程设置Signing & Capabilities，点击Team选项卡选择Add an Account...

    在如下界面输入Apple ID账号和密码，添加完成后回到Signing & Capabilities界面，并在Team选项卡中选中添加的账号。如果没有Apple ID也可以通过Create Apple ID选项根据相关提示进行申请。

    PS：申请Apple ID无需付费，可以即时通过，通过后才可在真机上运行APP调试

  4. 真机运行

    4.1 修改Bundle Identitifier

    如图在现有Bundle Identifier后随机添加后缀（限数字和字母），避免个人账户遇到签名冲突。

4.2 验证授权

首次运行先利用快捷键Command + Shift + K对工程进行清理，再执行快捷键Command + R运行。如果是首次登陆Apple ID，Xcode会弹框报如下错误，需要在iOS设备上根据提示进行授权验证。一般来说手机上的授权路径为：设置 -> 通用 -> 描述文件与设备管理 -> Apple Development选项 -> 点击信任

4.3 运行结果

首次运行先利用快捷键Command + Shift + K对工程进行清理，再执行快捷键Command + R运行。默认界面为人脸检测，可以点击右上角编辑按钮切换图像分类等不同功能。

PS：

a) 由于GPU和CPU加速原理不同，具体模型的GPU性能不一定比CPU高，与具体机型、模型结构以及工程实现有关。欢迎大家参与到TNN开发中，共同进步。

b) TNNSDKSample.h中的宏TNN_SDK_USE_NCNN_MODEL默认为0，运行TNN模型，可以设置为1来运行ncnn模型。

c) 如遇到Unable to install...错误提示，请在真机设备上删除已有的TNNExamples，重新运行安装。

d) 真机运行时，如果遇到CodeSign错误Command CodeSign failed with a nonzero exit code，可参看issue20 iOS Demo运行步骤说明

Demo运行效果

  1. 人脸检测

    模型来源：https://github.com/Linzaer/Ultra-Light-Fast-Generic-Face-Detector-1MB

    效果示例：iPhone 7, ARM 单线程 6.3206ms

  1. 图像分类

    模型来源：https://github.com/forresti/SqueezeNet

    效果示例：iPhone 7, ARM 单线程 13.83ms

二、Android Demo 介绍

运行环境要求

  1. Android Studio 3.5 或以上
  2. NDK version >= 16

运行步骤

  1. 下载Demo模型

    cd <path_to_tnn>/model
sh download_model.sh

    PS:

    如因网络问题脚本无法下载模型，请根据脚本中的信息手动创建对应文件夹并自行下载.

    想要使用NPU运行demo需要需首先下载NPU ddk。详情参考: FAQ: 创建华为NPU编译环境。

  2. 打开TNNExamples工程

    进入目录<path_to_tnn>/examples/android/，双击打开TNNExamples工程。

    PS ：

    1). 想要使用NPU, 打开工程后，需要手动设置打开NPU： 在<path_to_tnn>/examples/android/demo/CMakeList.txt中, 更新指令为如下，使用华为NPU。

         set(TNN_HUAWEI_NPU_ENABLE ON CACHE BOOL "" FORCE)

    2). 第一次运行如果遇到 <path_to_tnn>/examples/android/src/main/jni/thirdparty/hiai_ddk/include/graphPermission Denied 的情况， Clean Project 再重新运行。

    3). 当前只有rom版本 >= 100.320.xxx.xxxx的华为机型支持IR构建事例模型。参考：FAQ: 更新到最新的ROM支持NPU。

    4). 运行demo需要需首先下载NPU DDK。参考: FAQ: 创建华为NPU编译环境。

运行效果

  1. 人脸检测-图片

    模型来源：https://github.com/Linzaer/Ultra-Light-Fast-Generic-Face-Detector-1MB

    效果示例：华为P30, ARM 单线程 32.2359ms

    效果示例： 华为P30, 华为NPU rom 100.320.010.022 9.04ms

  2. 人脸检测-视频 模型来源：https://github.com/Linzaer/Ultra-Light-Fast-Generic-Face-Detector-1MB

    效果示例：华为P30, ARM 单线程 122.296ms

    效果示例： 华为P30, 华为NPU rom 100.320.010.022 28ms

  3. 图像分类

    模型来源：https://github.com/forresti/SqueezeNet

    效果示例：华为P30, ARM 单线程 81.4047ms

    效果示例： 华为P30, NPU rom 100.320.010.022 2.48ms

三、Armlinux Demo 介绍

功能

  • 展示TNN基础接口的调用方法，快速在linux环境下运行模型。

编译

  • 修改build_aarch64.sh 或build_armhf.sh，以aarch64为例，需要配置编译选项： CC=aarch64-linux-gnu-gcc CXX=aarch64-linux-gnu-g++ TNN_LIB_PATH=../../scripts/build_aarch64_linux/
  • 执行build_aarch64.sh
  • 1.执行图像分类demo:
    ./demo_arm_linux_imageclassify ../../../model/SqueezeNet/squeezenet_v1.1.tnnproto ../../../model/SqueezeNet/squeezenet_v1.1.tnnmodel
  • 2.执行人脸检测demo:
    ./demo_arm_linux_facedetector ../../../model/face_detector/version-slim-320_simplified.tnnproto ../../../model/face_detector/version-slim-320_simplified.tnnmodel

函数流程

图像分类函数流程

  • 创建predictor
    auto predictor = std::make_shared();
  • 初始化predictor
    CHECK_TNN_STATUS(predictor->Init(option));
  • 创建输入mat
    auto image_mat = std::make_shared<TNN_NS::Mat>(TNN_NS::DEVICE_ARM, TNN_NS::N8UC3, nchw, data);
  • 执行predictor
    CHECK_TNN_STATUS(predictor->Predict(std::make_shared(image_mat), sdk_output));

人脸检测函数流程

  • 创建predictor
    auto predictor = std::make_shared();
  • 初始化predictor
    CHECK_TNN_STATUS(predictor->Init(option));
  • 创建输入mat
    auto image_mat = std::make_shared<TNN_NS::Mat>(TNN_NS::DEVICE_ARM, TNN_NS::N8UC3, nchw, data);
  • 执行predictor
    CHECK_TNN_STATUS(predictor->Predict(std::make_shared(image_mat), sdk_output));
  • 人脸标记
    TNN_NS::Rectangle((void *)ifm_buf, image_orig_height, image_orig_width, face.x1, face.y1, face.x2, face.y2, scale_x, scale_y);

四、NCNN 模型使用及接口介绍