怎样建立一个自己的网站免费凡科建站官网怎么样

怎样建立一个自己的网站免费,凡科建站官网怎么样,wordpress花园主题,36kr网站用什么做的BrowserUse11-源码-LLM模块 LLM模块 模块一#xff1a;当前文件夹核心内容梳理 1.1 核心知识极简概括 统一的大语言模型接口抽象#xff1a;通过 BaseChatModel 协议定义统一接口#xff0c;封装各大厂商 API 差异#xff0c;实现无缝切换和统一调用。多厂商模型集成与适…BrowserUse11-源码-LLM模块LLM模块模块一当前文件夹核心内容梳理1.1 核心知识极简概括统一的大语言模型接口抽象通过 BaseChatModel 协议定义统一接口封装各大厂商 API 差异实现无缝切换和统一调用。多厂商模型集成与适配集成 OpenAI、Anthropic、Google、Azure、Mistral 等主流厂商模型通过定制化适配器解决各厂商 API 差异和特殊要求。结构化输出与模式优化提供结构化输出支持通过 SchemaOptimizer 优化模型 schema确保各种模型都能正确处理 Pydantic 模型定义。健壮的错误处理与重试机制内置网络超时、API 限流、服务不可用等异常处理机制通过指数退避策略保证请求稳定性。消息序列化与内容处理定义统一的消息类型和序列化机制支持文本、图像、工具调用等复杂内容类型屏蔽不同厂商的序列化差异。1.2 子知识扩展统一的大语言模型接口抽象输入输出接口接受 BaseMessage 列表和可选的输出格式类型返回 ChatInvokeCompletion 对象包含结果和用量信息。异常处理定义统一的异常类型如 ModelProviderError 和 ModelRateLimitError便于上层统一处理。配置覆盖关系通过环境变量、构造参数等方式灵活配置模型参数构造参数优先级高于环境变量。动态加载通过__getattr__实现模型实例的懒加载减少启动时间和内存占用。协议验证使用 Pydantic 的 Protocol 特性确保实现类符合接口规范。多厂商模型集成与适配输入输出每种模型实现都接受特定于该厂商的参数如 API 密钥、基础 URL 等但对外暴露统一的 ainvoke 接口。异常处理处理各厂商特有的错误码和错误信息格式转化为统一的内部异常。配置覆盖关系优先使用构造函数传入的参数其次从环境变量获取最后使用默认值。厂商特殊要求如 Anthropic 的缓存机制、Google 的 Gemini schema 优化、Mistral 的模式关键字移除等。认证机制支持 API Key、Bearer Token、OCI 认证等多种认证方式。结构化输出与模式优化输入输出接受 Pydantic 模型类型作为输出格式参数返回验证后的模型实例。异常处理处理模型返回不符合 schema 的情况提供解析失败的详细错误信息。配置覆盖关系通过 SchemaOptimizer 参数控制优化策略如是否移除 minItems 等。schema 优化策略展开 $ref 引用、移除不支持的关键字、确保与严格模式兼容。厂商适配针对不同厂商的 schema 要求进行专门优化如 Gemini、Mistral 等。健壮的错误处理与重试机制输入输出在网络请求失败时自动重试达到最大重试次数后抛出异常。异常处理区分可重试异常如超时、限流和不可重试异常如认证失败。配置覆盖关系通过构造参数控制最大重试次数、基础延迟、最大延迟等。重试策略采用指数退避算法添加随机抖动避免惊群效应。日志记录详细记录重试过程便于问题排查和性能分析。消息序列化与内容处理输入输出将内部 BaseMessage 对象序列化为目标模型 API 所需格式。异常处理处理序列化过程中可能出现的数据类型不匹配等问题。配置覆盖关系支持不同类型内容文本、图像、工具调用的序列化配置。内容类型支持支持文本、图像 URL、Base64 图像、工具调用等多种内容类型。厂商适配针对不同厂商的消息格式要求进行适配如 Anthropic、OpenAI 等。1.3 知识点详细说明统一的大语言模型接口抽象LLM 模块的核心设计理念是通过抽象接口统一不同厂商的大语言模型调用方式。这种设计使得上层应用可以无缝切换不同的模型提供商而无需修改业务逻辑。接口设计与实现BaseChatModel 协议定义了所有模型必须实现的方法和属性provider 属性返回模型提供商名称name 属性返回模型名称ainvoke 方法异步调用模型的主要接口«protocol»BaseChatModelstr providerstr nameainvoke(messages, output_format)ChatOpenAIstr modelstr api_keyainvoke(messages, output_format)ChatAnthropicstr modelstr api_keyainvoke(messages, output_format)ChatGooglestr modelstr api_keyainvoke(messages, output_format)消息类型系统模块定义了一套统一的消息类型系统包括 UserMessage、SystemMessage 和 AssistantMessage支持文本、图像、工具调用等复杂内容。响应与用量统计ChatInvokeCompletion 类封装了模型调用的完整响应包括生成内容和用量统计信息。ChatInvokeUsage 类提供了详细的 token 使用情况。多厂商模型集成与适配模块集成了多个主流大语言模型提供商每种实现都需要处理各自 API 的特殊要求。主要模型实现OpenAI 系列包括 OpenAI、Azure OpenAI通过 ChatOpenAI 和 ChatAzureOpenAI 实现。Anthropic 系列通过 ChatAnthropic 实现支持缓存机制。Google 系列通过 ChatGoogle 实现针对 Gemini 模型进行了优化。Mistral 系列通过 ChatMistral 实现处理了特定的 schema 限制。BrowserUse 专属模型通过 ChatBrowserUse 实现连接到 BrowserUse 云服务。厂商适配策略每种实现都采用了相似的架构模式继承自标准库的异步 HTTP 客户端通过序列化器处理消息格式转换实现重试和错误处理机制支持结构化输出结构化输出与模式优化结构化输出是现代大语言模型的重要特性允许模型直接返回符合特定 schema 的 JSON 数据。Schema 优化器SchemaOptimizer 类负责优化 Pydantic 模型生成的 JSON schema确保其能在各种模型中正确工作引用展开将 schema 中的$ref引用展开避免某些模型不支持引用关键字清理移除特定模型不支持的关键字如minLength、maxLength等严格模式兼容确保 schema 符合 OpenAI 严格模式要求多模型适配不同模型对 schema 的支持程度不同模块通过专门的优化方法处理OpenAI/GPT 系列支持完整的 JSON schemaAnthropic/Claude 系列需要特殊的引用处理Google/Gemini 系列需要保留 explicit required 数组Mistral 系列需要移除特定的关键字健壮的错误处理与重试机制网络请求天然具有不稳定性模块内置了完善的错误处理和重试机制。重试策略采用指数退避算法进行重试基础延迟时间乘以 2 的尝试次数次方添加随机抖动避免惊群效应设置最大延迟时间防止无限增长错误分类处理是否可重试错误认证错误限流错误否是HTTP请求请求成功?返回结果错误类型指数退避重试抛出异常重试或抛出异常超过最大重试次数?抛出异常异常类型体系定义了层次化的异常类型ModelProviderError基础模型提供商错误ModelRateLimitError限流错误消息序列化与内容处理为了在不同模型间传递复杂的内容模块实现了统一的消息序列化机制。内容类型支持支持多种内容类型纯文本内容图像内容URL 或 Base64 编码工具调用信息拒绝消息序列化器架构每种模型实现都配有专门的序列化器如OpenAIMessageSerializer处理 OpenAI 格式AnthropicMessageSerializer处理 Anthropic 格式GoogleMessageSerializer处理 Google 格式厂商差异化处理不同厂商对消息格式有不同的要求Anthropic 需要将系统消息作为用户消息的一部分Google 需要特殊处理图像内容Mistral 需要将工具调用转换为特定格式模块二核心代码逻辑2.1 核心类/方法速查表类/方法名定位文件:行号输入输出使用场景示例1句话调试提示如断点打在哪BaseChatModelbase.py:16消息列表和输出格式 → 结构化响应定义所有LLM实现必须遵循的接口协议在协议方法定义处查看接口规范ChatOpenAIopenai/chat.py:33OpenAI API参数 → 结构化响应使用OpenAI的GPT系列模型进行推理在 _make_request 方法前后打断点观察请求和响应ChatAnthropicanthropic/chat.py:50Anthropic API参数 → 结构化响应使用Anthropic的Claude系列模型进行推理在 serialize_messages 方法中查看消息序列化过程ChatGooglegoogle/chat.py:37Google API参数 → 结构化响应使用Google的Gemini系列模型进行推理在 _fix_gemini_schema 方法中查看schema优化过程ChatBrowserUsebrowser_use/chat.py:33BrowserUse云API参数 → 结构化响应使用BrowserUse优化的云模型进行推理在 ainvoke 方法中查看重试逻辑SchemaOptimizerschema.py:12Pydantic模型 → 优化的JSON Schema为不同模型优化输出格式定义在 create_optimized_json_schema 方法中查看优化过程2.2 最小复现示例伪代码# ① 依赖注入frombrowser_use.llmimportChatOpenAI,UserMessage,SystemMessagefrompydanticimportBaseModel# 定义输出格式classResponseModel(BaseModel):answer:strconfidence:float# 创建模型实例llmChatOpenAI(modelgpt-4.1-mini,api_keyyour-api-key# 或通过环境变量OPENAI_API_KEY设置)# ② 关键调用messages[SystemMessage(content你是一个有用的助手),UserMessage(content什么是人工智能请用一句话回答。)]# 发起异步调用importasyncio responseasyncio.run(llm.ainvoke(messages,output_formatResponseModel))# ③ 断言验证assertresponse.completion.answerisnotNoneassert0response.completion.confidence1assertresponse.usage.prompt_tokens0print(f答案:{response.completion.answer})print(f置信度:{response.completion.confidence})print(f提示词token数:{response.usage.prompt_tokens})