Skip to content

使用多卡推理加速 #58

@scnu-yyyyjx

Description

@scnu-yyyyjx

您好,感谢您开源这么好的工作!

采用您的工作生成时序一致的深度结果时,需要消耗的时间有点多,请问能否通过多卡并行推理来进行加速?
我查看了模型的代码,发现推理时相邻两个窗口,后一个窗口需要用到前一个窗口的去噪结果来进行噪声初始化,这样的逻辑是否支持多卡并行?

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions