可以用 router_chain 做分類問題的ＡＩ

[leechiuhui]

• 可以用 router_chain 做分類問題的ＡＩ：分類是 自學問題 數學問題 英文問題 日文問題 程式問題 交友問題 情緒問題
• 混合專家模型（Mixture of Experts，MoE）：

在機器學習領域，「MoE」指的是一種模型架構，它結合了多個「專家」子模型，每個子模型專注於處理特定的任務。
這種架構可以提高模型的效率和效能，特別是在處理複雜的任務時。
簡單的說，就是讓更擅長的模型去處理更專業的問題。

def route(info):
if 'mathematics' in info['key_topic'].lower():
return math_prompt
elif 'physics' in info['key_topic'].lower():
return physics_prompt
else:
return general_prompt

Mathematics

math_template = '''你是一位非常聰明的數學教授，很擅長回答數學問題。
你能夠將難題分解成各個小問題部分，回答小問題後將它們組合起來回答更廣泛的問題。

問題如下:
{param_ques}'''
math_prompt = PromptTemplate.from_template(math_template)

Physics

physics_template = '''你是一位非常聰明的物理學教授，很擅長回答物理問題。
你擅長以簡潔易懂的方式回答有關物理的問題。當你不知道某個問題的答案時，你就承認你不知道。

問題如下:
{param_ques}'''
physics_prompt = PromptTemplate.from_template(physics_template)

General Assistant

general_template = '''你是一個聰明的全能助手，請盡可能準確地回答問題。

問題如下:
{param_ques}'''
general_prompt = PromptTemplate.from_template(general_template)

好的，小朋友，我們來一步一步看看這段程式碼在做什麼。想像一下，這是一個可以回答你各種問題的機器人，但它需要知道你要問的是什麼樣的問題，才能用正確的方式回答。

**1. `def route(info):`**

* 這就像是機器人的大腦，它叫做 `route`。`info` 就像是你要問的問題的「資訊」。

**2. 檢查問題的類型：**

* `if 'mathematics' in info['key_topic'].lower():`
    * 這部分是說，機器人會檢查你的問題是不是關於「數學」的。如果你的問題裡有「數學」這個詞，它就會知道你要問數學問題。
* `elif 'physics' in info['key_topic'].lower():`
    * `elif` 的意思是「否則如果」。如果你的問題不是數學問題，機器人就會檢查是不是關於「物理」的。
* `else:`
    * `else` 的意思是「否則」。如果你的問題既不是數學也不是物理，機器人就會用一般的方式回答。

**3. 不同的回答方式：**

* `return math_prompt`
    * 如果機器人判斷是數學問題，它就會用「數學教授」的方式回答。
* `return physics_prompt`
    * 如果是物理問題，它就會用「物理教授」的方式回答。
* `return general_prompt`
    * 如果是一般問題，它就會用「全能助手」的方式回答。

**4. 不同的回答模板：**

* `math_template`，`physics_template`，`general_template`
    * 這些就像是機器人的「回答稿」。
    * `math_template` 讓機器人像數學教授一樣回答問題。
    * `physics_template` 讓機器人像物理教授一樣回答問題。
    * `general_template` 讓機器人像一個全能助手一樣回答問題。
    * `{param_ques}`就像是問問題時的填空，你問的問題將會被放進這個填空當中。

**簡單來說：**

這個機器人會根據你的問題內容，選擇用不同的「專家」方式來回答。如果你問數學問題，它就變成數學教授；如果你問物理問題，它就變成物理教授；如果你問其他問題，它就變成一個什麼都知道的助手。

from langchain.chains.router import MultiPromptChain
from langchain.chat_models import ChatOpenAI
from langchain.chains import ConversationChain
from langchain.chains.llm import LLMChain
from langchain.prompts import PromptTemplate
from langchain.chains.router.llm_router import (
    LLMRouterChain,
    RouterOutputParser
)
from langchain.chains.router.multi_prompt_prompt import (
    MULTI_PROMPT_ROUTER_TEMPLATE
)

# 定義光學專家模板
optics_prompt_tpl = PromptTemplate.from_template(
    '你是一位光學專家，擅長解答與光學相關的問題。'
    '請根據下列問題提供詳細且準確的解答：\n{input}'
)

# 定義材料科學專家模板
materials_prompt_tpl = PromptTemplate.from_template(
    '你是一位材料科學專家，擅長解答與材料相關的問題。'
    '請根據下列問題提供詳細且準確的解答：\n{input}'
)

# 定義製程工程專家模板
process_prompt_tpl = PromptTemplate.from_template(
    '你是一位製程工程專家，擅長解答與製程相關的問題。'
    '請根據下列問題提供詳細且準確的解答：\n{input}'
)

# 定義模板訊息列表
prompt_infos = [
    {
        'name': 'optics',
        'description': '光學相關問題',
        'prompt_template': optics_prompt_tpl,
    },
    {
        'name': 'materials',
        'description': '材料相關問題',
        'prompt_template': materials_prompt_tpl,
    },
    {
        'name': 'process',
        'description': '製程相關問題',
        'prompt_template': process_prompt_tpl,
    },
]

# 定義 LLM
llm = ChatOpenAI(
    model_name='gpt-3.5-turbo',
    temperature=0.1,
)

# 創建專家系統中的子鏈（destination_chains）
destination_chains = {}
for p_info in prompt_infos:
    name = p_info['name']
    prompt = p_info['prompt_template']
    chain = LLMChain(llm=llm, prompt=prompt)
    destination_chains[name] = chain

# 創建 Router Chain
destinations = [f'{p["name"]}: {p["description"]}' for p in prompt_infos]
destinations_str = "\n".join(destinations)

router_template = MULTI_PROMPT_ROUTER_TEMPLATE.format(
    destinations=destinations_str
)
router_prompt = PromptTemplate(
    template=router_template,
    input_variables=['input'],
    output_parser=RouterOutputParser(),
)
router_chain = LLMRouterChain.from_llm(llm, router_prompt)

# 創建 Default Chain 用於處理未知問題
default_chain = ConversationChain(llm=llm, output_key='text')

# 創建 MultiPromptChain
chain = MultiPromptChain(
    router_chain=router_chain,
    destination_chains=destination_chains,
    default_chain=default_chain,
    verbose=True,
)

# 測試範例
print(chain.invoke("光學縮放比例對於影像解析度的影響是什麼？"))
print(chain.invoke("光阻 AZ-2020 的化學穩定性如何？"))
print(chain.invoke("如何優化光罩製作的光學對位步驟？"))
print(chain.invoke("請問台積電的股票代號是多少？"))