13. Mobility Technologies Co., Ltd.
● Qualcomm Adreno <= 540でVkImageを優先する
○ ハードウェア texture fetchで大幅に高速化
○ Adreno640 +を含むその他にはVkBufferを優先
● Blacklist / Whitelist for old-buggy driver
○ vendor id + driver version + vulkan api versionでフィルタリング
○ Androidシステムのアップグレード、特に8.1以降では、ドライバーの品質が向上
プラットフォーム固有のトリック
reference: https://www.bilibili.com/video/BV1fQ4y1Z7Yx/
14. Mobility Technologies Co., Ltd.
● Swiftshader as the vulkan driver on CPU
○ Make sure the vulkan code produces is expected
Vulkan continuous integration
refernce
https://github.com/Tencent/ncnn
15. Mobility Technologies Co., Ltd.
● ncnn benchmark on Apple M1 Silicon(ms) (less is better)
ncnnベンチマーク
reference: https://www.bilibili.com/video/BV1fQ4y1Z7Yx/
16. Mobility Technologies Co., Ltd.
● ncnn benchmark compared with other inference engines
ncnnベンチマーク
Small model、Threads x 1 Large model、Threads x 1
reference: https://www.zhihu.com/question/400143354