城市焦点商城网站建设案例揭阳做网站

城市焦点商城网站建设案例,揭阳做网站,先买域名不建设网站吗,产品包装设计网在大模型与智能体日常使用场景层出不穷的今天#xff0c;作为一名不断学习的信息化数字化从业者#xff0c;我们可以实践一下AI Agent基本开发流程#xff0c;理论联系实践#xff0c;加深我们对AI Agent的了解。 Chaiys同学基于一个实际业务场景详细描述了AI Agent的开发…在大模型与智能体日常使用场景层出不穷的今天作为一名不断学习的信息化数字化从业者我们可以实践一下AI Agent基本开发流程理论联系实践加深我们对AI Agent的了解。Chaiys同学基于一个实际业务场景详细描述了AI Agent的开发实践案例可以用于熟悉RAG、工具调用、ReAct等概念可以体验LangChain和QwenAgent等AI Agent主流开发框架。一、开发实践基于LangChain框架上述高考信息查询的实现我们的流程语义匹配表元数据–大模型根据提示词生成SQL–查询数据–大模型根据查询的数据分析只是利用了大模型基本能力和接口手写了一段流程实现下面我们使用LangChain框架做进一步优化同时体验一下qwen3:32b的大模型效果。1.1. 什么是LangChainLangChain 是一个开源框架主要用来 让大语言模型LLM能够更好地和外部世界交互从而不只是“对话生成器”而是变成可以调用工具、处理数据、接入知识库、执行任务的“智能体”。核心目标大模型虽然很强但有两个局限知识受限只能使用训练时的数据无法实时查询最新信息。功能受限不能直接调用数据库、API、文件系统等外部工具。LangChain 就是为了解决这两个问题它提供了一套组件和机制让 LLM 可以被 组合、扩展并与外部系统交互。LangChain主要功能Prompt 管理提供更灵活的 Prompt 模板系统可以动态构建提示适应不同任务。链式调用Chains允许把多个步骤串起来比如先调用模型生成 SQL → 再执行数据库查询 → 把结果返回给模型继续总结。工具调用Tools / Agents让模型学会决定什么时候调用外部工具比如调用 搜索引擎 获取最新新闻调用 Python 代码执行器 做数学运算调用 数据库接口 查询公司内部数据知识检索Retrieval / RAG集成向量数据库如 Pinecone、Weaviate、Chroma把企业文档或本地知识库接入让 LLM 可以基于外部知识回答问题。1.2. 顺序链SequentialChain调用在LangChain框架中SequentialChain 是一种固定顺序执行的链式结构。多个 Chain 按照预定义的顺序依次执行前一个的输出作为后一个的输入。所有步骤是预先设计好的。没有动态决策能力。核心特点步骤明确如“语义检索 → 生成/执行SQL → 查数分析”。输入输出清晰每个 Chain 接收上一个的输出。支持 SimpleSequentialChain单输入输出和更复杂的 MultipleChain。使用 SequentialChain 步骤拆分将流程拆分为三个明确的步骤获取表结构 → 生成/执行 SQL → 分析结果使用 TransformChain 处理自定义函数操作使用 LLMChain 处理需要 LLM 参与的步骤保留原有功能保持原有的服务初始化QueryService、SemanticService 等保持相同的流式输出回调配置维持原有的命令行参数处理逻辑流程清晰明确第一步通过语义服务获取表结构第二步生成 SQL 并执行查询第三步对查询结果进行分析并生成中文分析1.2.1. 代码实践具体开发实现如下(agent_service_seq.py)import sysimport refrom langchain.chains import LLMChain, SequentialChain, TransformChainfrom langchain.prompts import PromptTemplatefrom langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandlerfrom langchain_ollama import OllamaLLMfrom api_service import QueryService, SemanticServce, AnalysisService# 初始化服务queryService QueryService()semanticService SemanticServce()analysisService AnalysisService()# 初始化 Ollamallm OllamaLLM( modelqwen3:32b, callbacks[StreamingStdOutCallbackHandler()],)# 第一步语义匹配表结构defget_table_schema(inputs: dict) - dict: user_query inputs[user_query] table semanticService.hybrid_search(user_query, 1) table_list [t[table_info] for t in table] return {table_schema: table_list}deffind_sql(str): # 只提取SQL语句内容不包括标记 pattern rsql\s*([\s\S]*?)\s*;?\s* match re.search(pattern, str, re.DOTALL) ifmatch: sql_content match.group(1).strip() return sql_content return;# 第二步生成并执行 SQLdefexecute_sql(inputs: dict) - dict: table_schema inputs[table_schema] user_query inputs[user_query] # 生成 SQL 的提示模板 sql_prompt PromptTemplate( input_variables[table_schema, user_query], template基于以下表结构{table_schema}\n请根据用户查询生成SQL语句{user_query}markdown格式返回最终SQL ) sql_chain LLMChain(llmllm, promptsql_prompt) generated_sql sql_chain.run({ table_schema: table_schema, user_query: user_query }) # 提取 SQL generated_sql find_sql(generated_sql) # 执行 SQL sql_result queryService.query_with_column(generated_sql) return {sql_result: sql_result, generated_sql: generated_sql}# 第三步分析结果analysis_prompt PromptTemplate( input_variables[user_query, sql_result, generated_sql, table_schema], template用户查询{user_query}\n生成的SQL{generated_sql}\n查询结果{sql_result}\n请用中文分析结果)analysis_chain LLMChain( llmllm, promptanalysis_prompt, output_keyanalysis_result)# 构建顺序链overall_chain SequentialChain( chains[ TransformChain( input_variables[user_query], output_variables[table_schema], transformget_table_schema ), TransformChain( input_variables[user_query, table_schema], output_variables[sql_result, generated_sql], transformexecute_sql ), analysis_chain ], input_variables[user_query], output_variables[analysis_result], verboseTrue)# metadata initdefinit(): print(开始执行方法init)# 新的顺序链调用defchat(user_query): print(执行方法chat) result overall_chain({user_query: user_query}) print(result[analysis_result])if __name__ __main__: args sys.argv[1:] ifnot args: print(请提供参数init或者chatuser_query) elif args[0] init: init() elif args[0] chat: print(fuser_query{args[1]}) chat(args[1]) else: print(f未知参数: {args[0]})1.2.2. 测试结果问题2016年考生人数有多少运行python agent_service_seq chat ‘2016年考生人数有多少’,输出结果如下plaintextEntering new SequentialChain chain…调用大模型llama2向量化2016年考生人数有多少自然语言混合检索字段成功匹配到的元数据信息[{‘id’: ‘IH221JgBJAZjJoUFbd3E’, ‘table_info’: ‘{“表名”: “college_entrance_examination”, “表备注”: “考生人数与复读人数信息表包含字段高考年份(主键)、考生…省略若干字段信息…”}]}’]}]/Users/chaiys/Software/Work/ai-all/CollegeEntrance/agent_service_seq.py:49: LangChainDeprecationWarning: The methodChain.runwas deprecated in langchain 0.1.0 and will be removed in 1.0. Use :meth:~invokeinstead. generated_sql sql_chain.run({plaintext 需要注意字段名和表名是否正确以及条件是否正确。确认无误后就可以生成最终的SQL了。 sqlSELECT candidates_count FROM college_entrance_examination WHERE examination_year 2016; 执行SQLSELECT candidates_count FROM college_entrance_examination WHERE examination_year 2016 Finished chain. plaintext 根据查询结果2016年中国高考考生人数为940万人。需要注意的是这个数据可能已经过官方统计调整实际人数可能因统计口径或数据来源存在细微差异。建议结合当年教育部发布的权威数据进行交叉验证。我们看到SequentialChain和第二章的手写智能体流程一致链式调用工具先是调用语义检索工具匹配到元数据然后构造SQL最后调用数据查询工具查询到2016年的考生人数数据输出正确1.3. 当流程不再固定SequentialChain 的局限性上一节中我们实践了 SequentialChain的使用优化了手写Workflow流程它允许我们将多个独立的 Chain 按照预设的顺序依次执行每个步骤的输出作为下一步的输入。这种方式非常适合处理流程固定、逻辑清晰的任务例如2016年考生人数有多少先语义检索元数据再生成/执行SQL查询数据最后分析输出。然而在真实的应用场景中任务往往更加复杂且不可预测。我们可能需要根据中间结果动态决定下一步的操作比如当我们问到’2016年考生人数和录取人数分别有多少’时由于我们的RAG语义检索元数据只匹配到其中一个考生人数表或者一个录取人数表(因为元数据检索只返回一个最匹配的结构但是考生人数和录取人数存在于两个表中)LangChain顺序链调用实际问答输出结果大致是根据2016年数据全国普通高校录取总人数为772万人其中本科录取405万人专科录取367万人。注当前数据表中未包含考生人数字段仅能提供录取人数信息考生人数可能需要通过其他数据源获取很明显只返回了录取人数遗漏了考生人数。我们需要智能体可以正确的理解我们的问题并对复杂提问进行拆分多轮查询汇总结果。即复杂问题简单化简单问题流程化。由此我们引出Agent看看如何处理与解决复杂问题1.4 动态决策Agent智能体调用Agent是一种能够根据用户输入动态决定“下一步做什么”的智能组件。它使用语言模型LLM作为“大脑”通过推理选择工具Tools来完成任务。特点Agent 不是固定的流程而是动态决策。它会根据当前状态决定调用哪个工具、是否需要进一步推理等。核心组成LLM大语言模型作为决策引擎。Tools工具可调用的函数或 API如搜索、计算、数据库查询等。Agent Executor执行 Agent 决策循环控制流程。1.4.1. Agent如何知道调用哪个工具核心机制Prompt 驱动的决策LangChain 的 Agent 并不是靠硬编码规则来选择工具而是依赖 精心设计的 Prompt让大模型自己“推理”出下一步动作。这个 Prompt 通常包含以下关键信息核心工具列表每个工具的名称、功能描述、参数格式JSON Schema当前对话历史用户说了什么之前做了哪些操作Agent的思考格式规定输入输出格式工作流程 LangChain Agent 的运行是一个循环过程称为 ReAct 模式Reason Act1.4.2. 什么是ReActReActReasoning and Action核心思想就是通过思维链的方式引导模型将复杂问题进行拆分一步一步地进行推理Reasoning和行动Action同时还引入了观察Observation环节在每次执行Action之后都会先观察Observation当前现状然后再进行下一步的推理Reason。工作流程输入数据接收用户输入或环境数据。推理阶段分析输入数据生成决策和计划。行动阶段根据决策执行具体操作。观察阶段监控操作结果收集反馈数据。循环迭代根据反馈数据调整推理和行动持续优化结果。可以看到这种分析流程正是我们解决复杂问题所需要的当我们问到’2016年考生人数和录取人数分别有多少’因为考生人数在一个表(这里我们用表模拟不同数据来源)录取人数在另一个表而我们的小助手根据语义匹配每次只能返回一个表结构只能查询一个考生人数或者一个录取人数无法得到多个值。这里就需要Agent自动分解问题与多轮查询汇总结果找到最终答案1.4.3. 总体架构使用LangChain Agent改造我们上述顺序链SequentialChain调用模式最终架构如下1.4.4. 代码实践这里我们使用Agent实现告诉Agent我们需要拆分问题多次迭代。优化具体代码如下(agent_service_react.py)import sysfrom langchain.agents import Toolfrom langchain.agents import initialize_agent, AgentTypefrom langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandlerfrom langchain.prompts import PromptTemplatefrom langchain_ollama import OllamaLLMfrom api_service import QueryService, SemanticServce, AnalysisService# 初始化服务queryService QueryService()semanticService SemanticServce()analysisService AnalysisService()# 初始化 Ollamallm OllamaLLM( modelqwen3:32b, callbacks[StreamingStdOutCallbackHandler()])# 自定义工具defmatch_metadata(user_query: str) - str: 语义匹配表结构可多次调用 table semanticService.hybrid_search(user_query, 1) table_list [t[table_info] for t in table] returnf{table_list}defexecute_sql(query: str) - str: 执行SQL查询 return queryService.query_with_column(query)# 创建工具semantic_tool Tool( namematch_metadata, funcmatch_metadata, description根据输入文本语义匹配表结构每次返回一个最相关的表结构。对于需要多表查询的问题需要多次调用此工具。)sql_tool Tool( nameexecute_sql, funcexecute_sql, description执行SQL查询并返回结果。输入应为标准SQL语句。注意可能需要执行多个SQL查询来获取不同表中的数据。)# 初始化Agentagent initialize_agent( tools[semantic_tool, sql_tool], llmllm, agentAgentType.STRUCTURED_CHAT_ZERO_SHOT_REACT_DESCRIPTION, verboseTrue, handle_parsing_errorsTrue, max_iterations10, # 增加最大迭代次数以支持多步查询 early_stopping_methodgenerate)defchat(user_query): print(执行方法chat) # 更明确的指令 enhanced_query f 问题{user_query} 请特别注意这个问题可能需要从多个表中查询数据。 1. 首先确定需要查询哪些数据 2. 使用match_metadata工具分别匹配包含这些数据的表结构 3. 对每个表生成相应的SQL查询语句 4. 执行查询并汇总结果 5. 最后计算并给出答案 请确保逐步执行不要跳过任何步骤。 try: result agent.run(enhanced_query) print(f\n最终结果: {result}) except Exception as e: print(f执行过程中出错: {str(e)}) # 这里可以添加重试或更详细的错误处理逻辑if __name__ __main__: args sys.argv[1:] ifnot args: print(请提供参数init或者chatuser_query) elif args[0] init: print(开始执行方法init) # 这里可以添加初始化逻辑 elif args[0] chat: print(fuser_query{args[1]}) chat(args[1]) else: print(f未知参数: {args[0]})通过Agent动态决策我们使用提示词告诉大模型我们的问题属于复杂问题可能需要从多个表中查询数据让Agent决策是否需要拆分与迭代查询。1.4.5. 测试结果问题2016年考生人数和录取人数分别有多少输出结果 Entering new AgentExecutor chain...think好的我现在要解决用户的问题“2016年考生人数和录取人数分别有多少”首先我需要确定需要查询哪些数据。考生人数和录取人数可能分别存储在不同的表中或者同一个表里的不同字段。因此第一步是使用match_metadata工具来找到相关的表结构。首先我应该调用match_metadata工具输入“考生人数”来找到可能包含该信息的表。然后再调用一次match_metadata输入“录取人数”来找到对应的表。假设系统返回了两个不同的表比如enrollment和admission那么接下来需要为每个表生成SQL查询语句筛选出2016年的数据。对于考生人数可能需要查询enrollment表中的总人数而录取人数可能在admission表中。执行这两个SQL查询后获取到相应的数据然后汇总结果确保两个数据都是2016年的最后将结果返回给用户。需要注意的是如果表中没有年份字段可能需要进一步确认数据的时间范围。但根据问题中的年份假设表结构中有year字段可以正确筛选数据。/thinkThought: 需要确定“考生人数”和“录取人数”分别存储在哪些表中首先调用match_metadata工具匹配相关表结构。Action:{action: match_metadata,action_input: 考生人数}调用大模型llama2向量化考生人数自然语言混合检索字段成功匹配到的元数据信息[{id: IH221JgBJAZjJoUFbd3E, table_info: {表名: college_entrance_examination, 表备注: 考生人数与复读人数信息表包含字段高考年份(主键)、考生人数(万人)、复读人数(万人)...省略若干字段信息...}]}, semantic_score: 0.6878319, keyword_score: 2.2218122, combined_score: 1.14802599, highlight: [{表名: college_entrance_examination, 表备注: em考生人数/em与复读em人数/em信息表包含字段...省略...}]}]}]Observation: [{表名: college_entrance_examination, 表备注: 考生人数与复读人数信息表包含字段高考...省略若干字段信息...}]}] plaintext Thought: 已找到考生人数对应的表college_entrance_examination需要继续匹配录取人数对应的表结构。Action:{ action: match_metadata, action_input: 录取人数} plaintext 调用大模型llama2向量化录取人数自然语言混合检索字段成功匹配到的元数据信息[{id: H3221JgBJAZjJoUFbd02, table_info: {表名: college_entrance_admission, 表备注: 录取人数与普通高校数信息表包含字段录取年份(主键)、录取人数(万人)、招生高校数、本科...省略若干字段信息...}]}, semantic_score: 0.6326351, keyword_score: 1.9648268, combined_score: 1.03229261, highlight: [{表名: college_entrance_admission, 表备注: em录取人数/em与普通高校数信息表包含字段录取年份(主键)、em录取人数/em(万人)、招生高校...省略若干字段信息...}]}]}]Observation: [{表名: college_entrance_admission, 表备注: 录取人数与普通高校数信息表包含字段录取年份(主键)、录取人数(万人)、招生...省略若干字段信息...}]}] plaintext Thought: 已获取两个表的结构现在需要分别生成SQL查询语句并执行。首先查询college_entrance_examination表中2016年的考生人数再查询college_entrance_admission表中2016年的录取人数。Action:{action: execute_sql,action_input: SELECT candidates_count FROM college_entrance_examination WHERE examination_year 2016}think执行SQLSELECT candidates_count FROM college_entrance_examination WHERE examination_year 2016Observation: [{candidates_count: 940.0}]Thought:think好的现在用户的问题是要找出2016年的考生人数和录取人数。我之前已经通过match_metadata工具找到了两个相关的表一个是college_entrance_examination包含考生人数另一个是college_entrance_admission包含录取人数。接下来我需要分别对这两个表执行SQL查询。首先针对考生人数我执行了SELECT candidates_count FROM college_entrance_examination WHERE examination_year 2016结果返回了940.0万。这一步看起来没问题数据正确。接下来我需要查询录取人数也就是在college_entrance_admission表中查找admission_count条件是admission_year 2016。这时候应该执行相应的SQL语句。根据之前的工具调用结果这个表的结构中有admission_year和admission_count字段所以SQL语句应该是正确的。现在需要执行第二个SQL查询然后根据结果给出最终答案。确保两次查询的结果都是2016年的数据然后正确汇总。/think{action: execute_sql,action_input: SELECT admission_count FROM college_entrance_admission WHERE admission_year 2016}执行SQLSELECT admission_count FROM college_entrance_admission WHERE admission_year 2016Observation: [{admission_count: 772.0}]Thought:thinkOkay, let me go through the steps here. The user asked for the number of candidates and admissions in2016. I first used the match_metadata tool to find the relevant tables. For candidates, it was the college_entrance_examination table, andfor admissions, it was college_entrance_admission. Then I executed SQL queries on both tables for the year 2016. The first query gave 940.0 candidates, and the second gave 772.0 admissions. Now I need to present these numbers as the final answer. I should make sure the units are correct, which are in ten thousands as per the table remarks. So the answer should state 940.0 million candidates and772.0 million admissions. Ill format it clearly to match the users request./thinkAction:{action: Final Answer,action_input: 2016年考生人数为940.0万人录取人数为772.0万人。} Finished chain.最终结果: 2016年考生人数为940.0万人录取人数为772.0万人。可以看到Agent通过ReAct工作流程迭代根据提示词自我决策拆分问题为考生人数和录取人数然后分别调用语义检索、查询数据工具得出中间结果最终汇总分析输出正确结果1.5. 执行者到决策者SequentialChain VS Agent通过前文的实践我们可以感受到SequentialChain和Agent的区别SequentialChain像一个执行者按照既定流程去执行Agent像一个决策者动态决策执行维度SequentialChainAgent流程控制预设、静态动态、模型驱动工具调用固定顺序按需选择适用场景确定性任务开放性复杂问题本文说明本文因为太长所以分成三篇文章这是第二篇还有最后一篇是基于QwenAgent框架的实践欢迎继续追剧。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】