VLLM 部署问题

[rainskyfyy]

能否提供一个vllm部署的命令示例，类似：
vllm serve stepfun-ai/Step-Audio-EditX-AWQ-4bit
--port 8001
--enable-auto-tool-choice
--tool-call-parser step3p5
--gpu-memory-utilization 0.4
--trust-remote-code

[rainskyfyy]

注意到你们已经支持了vllm：
#43 (comment)

[fanyang960206-byte]

注意到你们已经支持了vllm： #43 (comment)

你好，我想问下我没看到调用示例，也没看到定制的vllm版本的链接。那我要怎么配置环境并用vllm启动模型呢