调用玄武 CLI 的 模型 API 时，工具调用（tool calling / function calling）功能失败

[oOMickey]

使用玄武 CLI 的 OpenAI 兼容 API 时，工具调用（tool calling / function calling）功能失败，错误信息：
400 "auto" tool choice requires --enable-auto-tool-choice and --tool-call-parser to be set

复现步骤

1. 启动模型服务：xw run qwen3-32b
2. 使用cherry studio或openclaw调用 API 端点：http://localhost:11581/v1/chat/completions
3. 发送包含 tool_choice: "auto" 或 functions 参数的请求
4. 返回 400 错误

预期行为

工具调用功能应该能够正常工作，与标准 VLLM 加上 --enable-auto-tool-choice --tool-call-parser qwen 参数后的行为一致。

环境信息

• 操作系统：OpenEuler
• 硬件：Ascend 910B
• 玄武 CLI 版本：[xw version 查看]
• 模型：qwen3-32b
• 推理引擎：vllm-ascend

补充说明

后端需要启用 --enable-auto-tool-choice 和 --tool-call-parser 参数才能支持工具调用。请考虑添加配置选项来启用这些功能，或者在文档中说明如何在玄武 CLI 中配置工具调用。

建议

1. 在 xw serve 命令中添加 --enable-auto-tool-choice 和 --tool-call-parser 参数支持
2. 或者在配置文件中添加工具调用相关的配置项
3. 更新文档，说明如何启用和使用工具调用功能

[sepao]

感谢您的反馈，我们将尽快定位并修复

[LiangWnn]

该问题使用两步法可以解决
先启动容器 再在容器里面启动VLLM服务
以 minimax-m2.1-w4a8为例子
容器启动命令如下：
docker run -d --name minimax-m2.1-w4a8-manual --privileged --ipc=host --shm-size=64g --restart=unless-stopped -p 8000:8000 -v /root/.xw/data/models/:/mnt/model --device /dev/davinci0 --device /dev/davinci1 --device /dev/davinci2 --device /dev/davinci3 --device /dev/davinci4 --device /dev/davinci5 --device /dev/davinci6 --device /dev/davinci7 --device /dev/davinci_manager --device /dev/devmm_svm --device /dev/hisi_hdc -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi -v /usr/local/dcmi:/usr/local/dcmi -v /usr/local/Ascend/driver:/usr/local/Ascend/driver -v /usr/local/Ascend/driver/lib64:/usr/local/Ascend/driver/lib64 -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info -v /etc/ascend_install.info:/etc/ascend_install.info -e ASCEND_RT_VISIBLE_DEVICES=0,1,2,3,4,5,6,7 harbor.tsingmao.com/xw-cli/vllm-ascend:v0.14.0rc1-arm64 tail -f /dev/null
模型启动命令如下：
nohup /usr/local/python3.11.14/bin/python3.11 /usr/local/python3.11.14/bin/vllm serve /mnt/model/minimax-m2.1-w4a8/latest --trust-remote-code --served-model-name minimax-m2.1-w4a8 -tp 8 --port 8000 --max-model-len 163840 --gpu-memory-utilization 0.92 --quantization ascend --enable-auto-tool-choice --tool-call-parser minimax_m2 --dtype auto --enable-chunked-prefill --max-num-batched-tokens 32768 --max-num-seqs 32 > /root/vllm_server.log 2>&1 &
建议先使用xw安装好镜像后证明电脑可运行模型后再使用XW下载好的容器来启动