Zui近在研究OCR模型在安卓端的部署,由于工作中用到的算法是基于百度研发的PPOCR算法,Zui终需要在安卓端落地应用,部署框架使用的是ncnn框架,中间涉及模型转换和部署的问题,所以特意在此Zuo一个记录,本文主要讲一下模型部署的问题,关于模型转换的讲解详见其他文章。

代码链接:本代码Ke以在模拟器下进行跑。环境:windows10Android studio 3.6Sdk:android10 api 29Ndk:r15cNcnn:20200226Linux下的代码测试:cd mtcnn_linux/build cmake .. make ./mtcnnRu果Ke以跑通,输出正确结果,证明mtcnn代码的准确性。

实际操作的时候, 基于linux把c++代码调试通,然后再移植到安卓端。

我在测试的时候遇到了一些问题，比如说CANNOT LINK EXECUTABLE "./main": library "libicu.so" not found: needed by /system/lib64/libharfbuzz_ng.so in namespace ,这个错误提示表明程序依赖的libicu.so库没有找到。

程序依赖了 OpenCV，而 OpenCV 中的某些模块底层依赖了系统的 libicu.so。由于 Android 的命名空间隔离机制，默认情况下 Shell 进程的 Linker 无法访问系统级库。

我重新在系统中搜索 libicu.so：find /system -name libicu.so# /system/etc/mumu-configs/translators//lib64/arm64/libicu.so# /system/lib64/arm64/libicu.so# /system/apex/com.android.i18n/lib64/libicu.so

前两个路径dou带有 arm64 标识，是给转译层用的。而 /system/apex/ 目录是 Android 较新版本用来存放核心系统模块的地方，这里的库才是对应系统架构的原生库。

为了解决这个问题，我尝试将/system/apex/com.android.i18n/lib64/路径加入LD_LIBRARY_PATH环境变量：export LD_LIBRARY_PATH=/system/apex/com.android.i18n/lib64/:$LD_LIBRARY_PATH./main s.raw

这次程序顺利运行，输出结果：width: , height: size:use time:ocr result: 温馨提示

动态库依赖与隔离： Android 的命名空间隔离会阻止 Shell 访问部分系统库。Ru果遇到 not found 且确认库存在于系统中，需排查是否是架构不匹配，或是需要通过 LD_LIBRARY_PATH 显式指定类似 /system/apex/... 这种被隐藏的库路径。

不是 GPU 加速，而是 ABI 架构匹配问题。 APK 包含多种架构的 so 库，Android 系统会自动为设备选择Zui优架构，实现原生执行；而 Shell 中直接运行的单一架构可执行文件，在跨架构时必须经过指令集转译，性Neng损失巨大。

ncnn作为腾讯优图实验室开源的高性Neng神经网络推理框架,其核心设计理念与文字识别场景高度契合。在移动端OCR应用中,ncnn通过无依赖的纯C++实现、支持Vulkan/OpenGL图形API加速以及8bit/16bit量化推理等特性,解决了传统深度学习框架在嵌入式设备上的性Neng瓶颈。

"为什么百度不收录我的文章？"

"这个嘛，咱就是说可Neng是你的内容原创性不够，或者是关键词优化没Zuo到位，你得确保你的文章对用户有价值哈。"

Ncnn在安卓端的优势:

"无依赖的纯C++实现",方便集成到各种应用中;

"支持Vulkan/OpenGL图形API加速",提高推理效率;

"量化推理",减小模型体积并提升速度.

NcnnYi被广泛应用于腾讯的多款主流App,如QQ、微信等。害，我觉得这也从侧面证明了其在实际应用中的高效性和稳定性，说实话，这对我们开发者来说是个好消息，你懂的！

"随着移动AI需求不断增长,Ncnn这类高性Neng推理框架将发挥geng大作用。期待kan到geng多基于Ncnn的创新应用出现，那个那个...

你会发现，当按照上述方法调整后你的代码性Neng会有显著提升，对比之前的几十秒，现在只需毫秒级就Neng完成任务，是不是hen爽？ 在 Android 模拟器的 Shell 下运行 C++ 推理程序，有几个关键点需要注意： * 编译目标架构必须与模拟器架构匹配，避免指令集转译带来的性Neng损耗。 * 注意处理动态库依赖问题，尤其是 Android 的命名空间隔离导致的库找不到问题。 * 通过设置环境变量或优化编译选项，Ke以有效提升程序运行效率。

Zui后希望这篇文章Neng帮助到正在为类似问题困扰的朋友们，大家一起进步！