himarket 支持配置模型是否深度思考

[lexburner]

API Product 管理

需支持配置模型是否支持深度思考

HiChat

在前端 HiChat 对话中，如果 API Product 支持深度思考，则需要透出深度思考开关

多模型对比时，隐藏深度思考开关（即使选择的多个模型都支持深度思考)

实现思路

“深度思考”并非 OpenAI 协议标准参数，higress 也未支持屏蔽差异，每个模型厂商的实现都不太一样，具体实现方式还需要讨论

qwen：

completion = client.chat.completions.create(
    model="qwen-max", 
    messages=[{"role": "user", "content": "你是谁"}],    
    # 由于 enable_thinking 非 OpenAI 标准参数，需要通过 extra_body 传入
    extra_body={"enable_thinking":True},
    stream=True,
    stream_options={
        "include_usage": True
    }
)

deepseek:

response = client.chat.completions.create(
  model="deepseek-chat",
  extra_body={"thinking": {"type": "enabled"}}
)

[lexburner]

经过代码分析，这个需求涉及前后端多个模块的改造。以下是详细的实现方案：

📋 需求分析

需要在 API Product 管理中增加"深度思考"配置，并在 HiChat 前端透出开关。由于不同厂商实现差异大（qwen 用 enable_thinking，deepseek 用 thinking），需要设计一个统一的抽象层。

🏗️ 实现方案

1. 数据模型层 (已完成 ✅)

ModelFeature 已包含 enableThinking 字段：

// himarket-dal/src/main/java/com/alibaba/himarket/support/product/ModelFeature.java
private Boolean enableThinking;

2. API Product 管理后台

文件: himarket-admin 的模型配置页面

需要增加：

• 模型特性配置表单中添加「深度思考支持」开关
• 保存到 Product.feature.modelFeature.enableThinking

3. 后端服务层

文件: himarket-server/src/main/java/com/alibaba/himarket/service/hichat/service/OpenAILlmService.java

在 composeRequest 方法中，根据模型配置添加深度思考参数：

@Override
protected LlmChatRequest composeRequest(InvokeModelParam param) {
    LlmChatRequest request = super.composeRequest(param);
    ProductResult product = param.getProduct();
    ModelFeature modelFeature = getOrDefaultModelFeature(product);
    
    // 添加深度思考参数
    if (BooleanUtil.isTrue(param.getEnableThinking()) && 
        BooleanUtil.isTrue(modelFeature.getEnableThinking())) {
        
        String model = modelFeature.getModel();
        Map<String, Object> thinkingParams = new HashMap<>();
        
        // 根据模型厂商适配不同参数格式
        if (model.contains("qwen")) {
            thinkingParams.put("enable_thinking", true);
        } else if (model.contains("deepseek")) {
            thinkingParams.put("thinking", Map.of("type", "enabled"));
        }
        
        request.setBodyParams(thinkingParams);
    }
    
    return request;
}

文件: himarket-server/src/main/java/com/alibaba/himarket/service/hichat/support/InvokeModelParam.java

需要新增字段：

private Boolean enableThinking;

4. 前端 HiChat 层

文件: himarket-web/himarket-frontend/src/components/chat/InputBox.tsx

新增深度思考开关（类似联网搜索的实现）：

interface InputBoxProps {
  // ... 现有 props
  showThinking: boolean;
  thinkingEnabled: boolean;
  onThinkingEnable: (enabled: boolean) => void;
}

// 在工具按钮区域添加
{showThinking && (
  <ToolButton
    onClick={() => onThinkingEnable(!thinkingEnabled)}
    enabled={thinkingEnabled}
  >
    <ThinkingIcon className={`w-4 h-4 ${thinkingEnabled ? "fill-colorPrimary" : "fill-subTitle"}`} />
    <span className="text-sm text-subTitle">深度思考</span>
  </ToolButton>
)}

文件: himarket-web/himarket-frontend/src/components/chat/Area.tsx

1. 添加状态管理：

const [enableThinking, setEnableThinking] = useState(false);

const showThinking = useMemo(() => {
  if (modelConversations.length === 0) {
    return selectedModel?.feature?.modelFeature?.enableThinking || false;
  }
  return modelConversations.some(v => {
    return modelMap.get(v.id)?.feature?.modelFeature?.enableThinking || false;
  });
}, [modelConversations, modelMap, selectedModel]);

2. 多模型对比时隐藏深度思考开关：

// 在 InputBox 的 props 中
showThinking={!isCompareMode && showThinking}

文件: himarket-web/himarket-frontend/src/pages/Chat.tsx

在 handleSendMessage 中传递 enableThinking 参数：

const messagePayload = {
  // ... 现有字段
  enableThinking: enableThinking,
};

5. 后端 API 层

文件: himarket-server 的 Chat Controller

在接收消息的请求体中增加 enableThinking 字段，并传递给 InvokeModelParam。

🎯 关键实现点

1. 模型厂商适配：在 OpenAILlmService 中通过模型名称前缀判断厂商类型，映射到对应的参数格式

2. 多模型对比隐藏：在 Area.tsx 中通过 isCompareMode 控制开关显示/隐藏

3. 思考内容展示：ChatEvent.EventType.THINKING 已定义，前端可接收并展示思考过程

4. 配置优先级：用户开关 > 模型默认配置

📁 涉及文件清单

后端：

• ModelFeature.java (已有 enableThinking 字段)
• OpenAILlmService.java (添加参数转换逻辑)
• AbstractLlmService.java (getOrDefaultModelFeature 已存在)
• InvokeModelParam.java (新增 enableThinking 字段)

前端：

• InputBox.tsx (添加深度思考开关 UI)
• Area.tsx (添加状态管理和显示逻辑)
• Chat.tsx (传递参数到 API)

管理后台：

• 模型配置表单页面 (添加 enableThinking 配置项)

---

如需进一步细化某个模块的实现，可以继续讨论。