Skip to content

Dify plugin sdk streaming output method interrupt when calling chaflow #191

@flanders002

Description

@flanders002

使用应用市场的一个插件调用chatflow,这个chatflow有多个直接回复的输出节点;现在遇到一个问题,前一个流式响应总是会被截断,然后等到下一个节点的输出开始后前一个节点的剩余内容才会返回;如图:

Image

在本地调试插件,发现后台已经把完整的输出打印出来,但是前台的流式响应一直卡着:

Image

而且查看前端run接口返回,可以发现明显的流式输出截断情况,接口的data json结构不完整,处于截断状态,直到随着下一个耗时较久的llm节点完成而返回:

Image

这个插件的实现逻辑是流式调用chatflow的url,然后使用sdk的create_stream_variable_message方法返回。

Image

所以这个create_stream_variable_message内部是否有一些异常机制,导致了中断情况?

Metadata

Metadata

Assignees

No one assigned

    Labels

    bugSomething isn't working

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions