LangChain实战技巧之六:一起玩转config(上篇)——ConfigurableField

发布于:2024-06-23 ⋅ 阅读:(173) ⋅ 点赞:(0)

简介

    Config 包含两大类内容,

  • ConfigurableField 可配置的字段
  • configurable_alternatives 可配置的替代方案

    分别使用两篇文章来给大家介绍,本篇先介绍ConfigurableField

常规介绍

   一些资料会这样介绍

model_spec = model.configurable_fields(
                model_name=ConfigurableField(
                    id="model_name",
                    description="指定一个你想要使用的model"
                    )
                )
model_spec.invoke(input="你好啊,我是你的好朋友 —— Song榆钱儿", config={"configurable": {"model_name": "qwen-plus"}})

输出结果

content='你好,Song榆钱儿!很高兴和你成为好朋友。有什么我可以帮助你的吗?' response_metadata={'model_name': 'qwen-plus', 'finish_reason': 'stop', 'request_id': '57cfe500-0520-9ac6-8c5c-50c077539cbc', 'token_usage': {'input_tokens': 21, 'output_tokens': 19, 'total_tokens': 40}} id='run-9fc162a7-4089-4f81-a792-2c17206ef9b0-0'

然后告诉你,可以配置一个model_name作为config参数,在invoke时可以把具体的model_name传递进来,例如:qwen-plus

进阶用法

通常一些资料没告诉你的是,可以有哪些可配置的Field 这里我给大家介绍...授之以渔

model.__fields__.keys()

输出结果

dict_keys(['name', 'cache', 'verbose', 'callbacks', 'tags', 'metadata', 'custom_get_token_ids', 'callback_manager', 'client', 'model_name', 'model_kwargs', 'top_p', 'dashscope_api_key', 'streaming', 'max_retries'])

想用哪个用哪个:)

当然,可以直接用__fields__,这样就把整个dict(每个Field和含义内容都打印出来)

那这个配置除了参数化,还有何用处。。。

应用场景

  • prompt场景

我们看下prompt,提示词config能做些什么 以messages为例,它可以帮助组合成新的提示词 代码如下:

# 先准备两个
prompt_add_1 = ChatPromptTemplate.from_messages([
                        ("human", "你好"),
                        ("ai", "你好,有什么可以帮助你的吗?")
                    ]
                )
  

prompt_add_2 = ChatPromptTemplate.from_messages([
                        ("human", "1+1等于几?"),
                        ("ai", "1+1的计算结果等于2")
                    ]
                )
# 接下来,我们看看怎么用它们
prompt_spec = prompt.configurable_fields(
                        messages=ConfigurableField(
                        id="messages",
                        description="消息列表"
                    )
                )

# 见证奇迹的时刻
prompt_spec.invoke({}, config={"configurable": {"messages": [prompt_add_1, prompt_add_2]}})

输出结果

messages=[HumanMessage(content='你好'), AIMessage(content='你好,有什么可以帮助你的吗?'), HumanMessage(content='1+1等于几?'), AIMessage(content='1+1的计算结果等于2')]

细心的小伙伴会发现,上述的方式与这种方式 一毛一样

# 换种方式组合,只不过不用config
prompt = ChatPromptTemplate.from_messages([prompt_add_1, prompt_add_2])
prompt.invoke({})
  • chain场景

看看chain有哪些可config的field

chain.__fields__.keys()

输出

dict_keys(['name', 'first', 'middle', 'last'])

"name"和First"都很简单,下面分别以“middle”、“last”为例

# 定义一个可config的model
model_spec = model.configurable_fields(
                        model_name=ConfigurableField(
                        id="model_name",
                        description="指定一个你想要使用的model"
                    )
                )

# 一会儿要用到的函数
def change_me(promptvalue):
    return promptvalue.to_string().replace("Song榆钱儿", "Songjg")

# 一个简单的chain
chain = prompt | model_spec

# 将chain做成可config的...
chain = chain.configurable_fields(middle=ConfigurableField(id="process", description="这是啥?"))

# 来吧,看实验
chain.invoke(input="你好啊,我是你的好朋友 —— Song榆钱儿", config={"configurable": {"process": [RunnableLambda(change_me)]}})

  
  
# 不仅有middle,还有last
chain = chain.configurable_fields(middle=ConfigurableField(id="deal", description="这是啥?"),
last=ConfigurableField(id="model_spec", description="这是啥?"))

chain.invoke(input="你好啊,我是你的好朋友 —— Song榆钱儿", config={"configurable": {"deal": [RunnableLambda(changeme)],
"model_name": "qwen-plus"}}))

输出结果

content='你好,Songjg!很高兴再次与你交流。有什么我可以帮助你的吗?' response_metadata={'model_name': 'qwen-turbo', 'finish_reason': 'stop', 'request_id': 'dc0bca5d-e0ce-9fc9-b5e5-c76987f09390', 'token_usage': {'input_tokens': 23, 'output_tokens': 18, 'total_tokens': 41}} id='run-a5a4f67f-7a9c-440b-b969-0ac1ffe8b812-0'
Human: 你好啊,我是你的好朋友 —— Song榆钱儿
content='你好,Songjg!很高兴再次见到你。有什么我可以帮助你的吗?' response_metadata={'model_name': 'qwen-plus', 'finish_reason': 'stop', 'request_id': 'c3ff953d-a72f-9de9-be74-7150a1f3dce3', 'token_usage': {'input_tokens': 23, 'output_tokens': 17, 'total_tokens': 40}} id='run-055dcf5b-433f-486a-9beb-5f3d3947b098-0'
  • Agent场景

agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True, handle_parsing_errors=True,callbacks=None, callback_manager=None, return_intermediate_steps=True)

agent_executor.__fields__.keys()

看看有什么

dict_keys(['name', 'memory', 'callbacks', 'verbose', 'tags', 'metadata', 'callback_manager', 'agent', 'tools', 'return_intermediate_steps', 'max_iterations', 'max_execution_time', 'early_stopping_method', 'handle_parsing_errors', 'trim_intermediate_steps'])

基本上都是AgentExecutor简单的参数,“偷懒”就不挨个介绍,请各位看官自行实验: )

One more thing

RunnableWithMessageHistory(
        ……………………
        history_factory_config=[ConfigurableFieldSpec(
                                    id="Songjg",
                                    annotation=str,
                                    name="Song榆钱儿",
                                    description="我的名字",
                                    default="",
                                    is_shared=True
                                    )
                                ]

这个是一种应用比较广泛的,消息历史相关的Runnable,可定义config传参变量,关于它的详细内容以后再给大家介绍...


网站公告

今日签到

点亮在社区的每一天
去签到