Skip to content

tnn内存占用大于onnxruntime,同时内存占用没有波动,一直稳定在30M #1991

@coreeey

Description

@coreeey

1. 环境(environment)

  • Build OS and Version: Ubuntu
  • RunTime OS Version: Linux
  • RunTime DEVICE: METAL

2. Github版本

  • branch:mian
  • commit(optional):

3. 编译方式(compile method)
CMake完整编译参数(full cmake arguments)为默认参数

5. 详细描述bug 情况 (Describe the bug)
在进行文本分类任务时,我这里将onnxruntime推理后端修改为了TNN,希望可以减少一些内存占用。但是将onnxruntime修改为TNN后,内存占用不降反增了。我这里模型大小约为3M,使用onnxruntime时,内存占用均值为22M,峰值为28M,但是切换为TNN后,内存占用稳定在30M,几乎看不到波动,请问这可能是什么原因导致的呢?能提供一些意见吗?

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type
    No fields configured for issues without a type.

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions