响应式网站模板的优势淮北公司做网站

响应式网站模板的优势,淮北公司做网站,网站建设公司 南宁,wordpress导入sql失败谷歌在第三天发布了《上下文工程#xff1a;会话与记忆》(Context Engineering: Sessions Memory) 白皮书。文中开篇指出#xff0c;LLM模型本身是无状态的 (stateless)。如果要构建有状态的#xff08;stateful#xff09;和个性化的 AI#xff0c;关键在于上下文工…谷歌在第三天发布了《上下文工程会话与记忆》(Context Engineering: Sessions Memory) 白皮书。文中开篇指出LLM模型本身是无状态的 (stateless)。如果要构建有状态的stateful和个性化的 AI关键在于上下文工程。具体来讲LLM 的所有推理和意识都局限于单个 API 调用中提供的信息即“上下文窗口”为了让 AI智能体Agent能够记住用户、学习偏好并个性化交互开发者必须在每一次对话中动态地构建和管理这个上下文。这个动态组装和管理信息的过程就被称为上下文工程 (Context Engineering)。与Prompt Engineering的区别在于提示工程专注于制作最优的、通常是静态的系统指令。上下文工程则是一个动态的过程它负责为 LLM 动态组装和管理整个有效载荷 (payload)包括指令、工具、外部数据以及最重要的——历史和记忆。这份白皮书为我们提供了一张宝贵的架构蓝图。它警告说一味追求更大的上下文窗口并不能解决根本问题——它只会带来更高的成本、更慢的延迟以及一种被称为“上下文腐烂” (context rot)的现象即模型在过长信息中的注意力会逐渐下降。真正的解决方案是构建一个智能系统。这份文档将这个系统清晰地解构为两个协同工作的核心基石并引入了一个贯穿始终的绝妙比喻会话 (Session)是临时的“工作台” (Workbench)。记忆 (Memory)是持久的“文件柜” (Filing Cabinet)。本文将深入解读这份白皮书的精髓详细拆解构建一个真正“有记性”的智能系统所需的两大基石以及它们之间复杂的协同机制。关于之前的内容感兴趣您可以看下《谷歌的两个5天课程都讲了什么介绍一下这9N份白皮书 最新》基石一会话 (Sessions)“会话”是上下文工程的基础是智能体的“工作台”。定义一个会话封装了单次、连续对话的即时对话历史和工作记忆。它与特定用户绑定但一个用户可以拥有多个“断开连接”的会话。这个“工作台”上放着两样东西事件 (Events)即按时间顺序排列的对话历史。这是不可变的日志包含了用户的输入、智能体的回复、工具的调用和工具的输出。状态 (State)一个结构化的“工作记忆”或“暂存器” (scratchpad)。这是可变的用于存放当前对话的临时数据例如购物车中的商品。“工作台”的困境混乱与过载这个工作台模式在生产环境中会迅速遇到三个严峻的挑战上下文窗口限制工作台的空间上下文窗口是有限的。对话历史一旦超出限制API 调用就会失败。成本与延迟工作台上的东西越多token 越多处理它的成本API 费用就越高速度延迟也越慢。质量上下文腐烂工作台上的东西太杂乱智能体的注意力就会下降性能变差这就是“上下文腐烂” (context rot)。文档将此比作一个精明的旅行者打包行李箱你不能把所有东西都塞进去成本高、混乱也不能丢掉必需品丢失关键信息。解决方案压缩 (Compaction)为了解决这个问题我们必须在每次交互时对“会话”历史进行压缩 (Compaction)。简单策略保留最近 N 轮也称为“滑动窗口”简单地丢弃旧信息。基于令牌的截断从最近的对话开始往回计算直到达到 token 限制如 4000 个 token。高级策略递归摘要 (Recursive Summarization)这才是通向“记忆”的桥梁。系统使用 LLM 将对话中较早的部分替换为一个AI生成的摘要。这个摘要本身就是一种原始的“记忆”。会话的生产级挑战隔离与互操作性在将“会话”推向生产环境时白皮书强调了两个必须解决的非功能性需求安全与隐私这是不可协商的。严格隔离系统必须通过 ACLs访问控制列表强制执行确保一个用户永远不能访问另一个用户的会话数据。PII 删减最佳实践是在会话数据被写入存储之前就使用 Model Armor 这样的工具自动编辑掉所有 PII个人身份信息。多智能体互操作性 (Interoperability)问题在一个多智能体系统中不同的智能体框架如谷歌的 ADK 或 LangGraph使用各自私有的、不兼容的对象来定义“会话”。后果这导致了架构孤岛ADK 智能体无法原生理解 LangGraph 智能体的会话历史。解决方案这迫使我们寻找一个更高阶的解决方案将共享知识抽象到一个“与框架无关的数据层” (framework-agnostic data layer)。这个与框架无关的、用于持久化和共享知识的通用层就是“记忆”。基石二记忆 (Memory)如果说“会话”是临时的“工作台”那么“记忆”就是精心组织的“文件柜”。定义记忆是从对话或数据源中提取的、有意义的信息快照。它不是原始的逐字稿而是跨多个会话持久化的、浓缩的知识。“会话”是“记忆”的主要数据来源。当一个项目在“工作台”会话上完成后你不会把整个凌乱的工作台塞进存储。相反你会“创建记忆”——丢弃草稿只把最终的、关键的文件归档到“文件柜”记忆中。记忆的核心价值它与 RAG 的根本区别这是整篇白皮书中最重要的概念区分之一。记忆和 RAG检索增强生成都为 LLM 提供外部知识但它们服务于完全不同且互补的目标。文档再次使用了一个绝妙的比喻RAG (检索增强生成)是智能体的“研究图书管理员” (Research Librarian)。目标注入外部的、事实性的、共享的知识如 PDF、文档、网页。角色RAG 使智能体成为事实专家。记忆 (Memory)是智能体的“私人助理” (Personal Assistant)。目标创建个性化的、有状态的体验。其数据源是与用户的动态对话。角色记忆使智能体成为用户专家。一个真正智能的Agent既需要“图书管理员”RAG来了解世界也需要“私人助理”记忆来了解你。记忆的详细分类构建“文件柜”的蓝图白皮书从多个维度对记忆进行了详细的解构为我们提供了构建记忆系统的完整分类法按信息类型 (Information Type)陈述性记忆 (Declarative)“知道什么” (Knowing what)。这是关于事实、数据和事件的知识例如“用户的座位偏好是靠窗”。程序性记忆 (Procedural)“知道如何” (Knowing how)。这是关于技能和工作流的知识例如“预订航班的正确工具调用顺序”。按组织模式 (Organization Patterns)集合 (Collections)一组独立的、自然语言的记忆事实“用户喜欢A”“用户住在B”。结构化用户画像 (Structured User Profile)像一张不断更新的“联系人卡片”存储核心事实{seat_preference: window}。滚动摘要 (Rolling Summary)一个单一的、不断演变的自然语言摘要代表整个用户关系。按存储架构 (Storage Architectures)向量数据库最常见的用于语义相似性搜索查找概念上相关的记忆。知识图谱存储实体和它们之间的关系查找结构化连接的记忆。按范围 (Scope)用户级 (User-Level)最常见的用于实现跨会话的个性化。会话级 (Session-Level)主要用于对话压缩记忆只与该特定会话相关。应用级 (Application-level)所有用户共享的全局上下文常用于存储程序性记忆即智能体的“操作手册”。记忆的生命周期一个 LLM 驱动的 ETL 管道这部分是白皮书的技术核心。它揭示了“记忆管理器” (Memory Manager)不是一个被动的数据库而是一个主动的、由 LLM 驱动的 ETL (Extract, Transform, Load) 管道。这个自动化的 ETL 流程正是记忆管理器的核心价值所在。步骤一提取 (Extraction) —— 从噪音中分离信号目标回答“这段对话中什么信息才算有意义值得被记住”。挑战这是一个过滤过程旨在从对话“噪音”如寒暄、废话中分离出“信号”如事实、偏好、目标。方法记忆管理器使用一个 LLM并通过“主题定义” (topic definitions) 来指导它。技术实现模式/模板 (Schema)强制 LLM 输出结构化的 JSON。自然语言用自然语言描述主题例如“提取用户对咖啡店氛围的反馈”。小样本提示 (Few-shot)提供输入对话和理想输出记忆的示例让 LLM 从中学习模式。步骤二整合 (Consolidation) —— 文件柜的“自我策展”这是整个生命周期中最复杂、最智能的阶段。目标在将新信息存入文件柜之前必须进行策展以解决信息重复、信息冲突和信息演变的问题。为什么必须否则文件柜会迅速变得混乱和不可信。例如冲突用户今天说 “我喜欢靠窗座位”而记忆中有一条“用户喜欢靠走道座位”。演变记忆中是“用户对营销感兴趣”新信息是“用户正在领导一个 Q4 获客项目”。流程 (Workflow)检索获取与“新提取的记忆”相似的“已存在的记忆”。分析LLM 同时分析“已存在的记忆”和“新提取的记忆”。决策LLM 决定执行哪个操作UPDATE (更新)用新信息修改或扩充旧记忆。CREATE (创建)如果信息是全新的。DELETE / INVALIDATE (删除/失效)如果旧记忆被新信息明确推翻。存储执行数据库事务。关键机制记忆溯源 (Memory Provenance) —— 建立信任为了让“整合”阶段能智能地解决冲突系统必须知道每条记忆的可信度。问题经典的“垃圾输入垃圾输出”在 LLM 时代变成了“垃圾输入自信的垃圾输出”。解决方案追踪每条记忆的来源 (Provenance)并建立一个“信任层级” (Hierarchy of Trust)。信任排序高信任引导数据 (Bootstrapped Data)。例如从公司 CRM 系统预加载的用户数据。中信任显式用户输入。例如用户明确说“记住我的生日是 10 月 26 日”。低信任隐式推断。例如从“我下周要为我的周年纪念日买礼物”中推断出周年纪念日。应用在整合时用于解决冲突。当 CRM 数据高信任与对话推断低信任冲突时系统应优先信任 CRM 数据。在推理时将“置信度分数”连同记忆一起注入提示词。这样 LLM自己就能判断该在多大程度上依赖这条记忆。生产中的记忆架构、检索与推理白皮书最后详细阐述了在生产环境中实现记忆系统的架构决策。写入路径 (Generation)异步是铁律核心原则记忆生成提取和整合是一个昂贵的操作涉及 LLM 调用和数据库写入。架构它绝不能阻塞用户体验。因此记忆生成必须始终作为异步后台进程运行。流程智能体立即响应用户然后“推送”对话数据到记忆管理器后者在后台排队处理。读取路径 (Retrieval)何时以及如何检索寻找什么一个好的检索策略不只看相关性。它必须是一个混合分数平衡了相关性 (Relevance)与当前话题的语义相似度。新近度 (Recency)记忆是何时创建的。重要性 (Importance)这个记忆有多关键。何时检索两大模式主动式检索 (Proactive Retrieval)在每轮对话开始前自动检索记忆。优点上下文始终可用。缺点如果这轮对话不需要记忆就会浪费延迟。反应式检索 (Reactive Retrieval) / “记忆即工具”智能体LLM在对话中自己决定何时需要信息并主动调用一个load_memory工具来查询。优点更高效只在需要时才产生延迟。缺点需要额外的 LLM 调用“思考”步骤来决定是否使用工具。推理 (Inference)记忆放在上下文的哪里方式一放入系统指令 (System Instructions)。优点适合放用户画像等“全局”信息。上下文和对话历史被清晰分开。缺点有“过度影响”的风险LLM 可能强行将所有话题与该记忆关联。且无法与“反应式”检索即工具兼容。方式二放入对话历史 (Conversation History)。优点这是“反应式”工具调用的自然结果工具的输出本就是历史的一部分。缺点有“对话注入”风险LLM 可能误认为这条记忆是用户或它自己说过的某句话。终极挑战安全与未来最后这份文档以严谨的态度探讨了生产系统必须面对的残酷现实。评估 (Evaluation) 一个记忆系统必须在三个层面被评估生成质量 (Precision/Recall)智能体是否记住了“正确”的事情检索性能 (RecallK, Latency)智能体能否“快速”找到它需要的东西端到端任务成功率记忆到底有没有用使用一个 LLM “裁判” (judge) 来评判最终结果。安全 (Security) —— 首要原则严格隔离 (Strict Isolation)这是首要规则。一个用户的智能体绝对不能访问另一个用户的记忆。PII 删减必须在数据持久化之前完成。记忆投毒 (Memory Poisoning)这是最大的威胁之一。系统必须有防护措施如 Model Armor防止恶意用户通过提示注入 (Prompt Injection)来故意污染或篡改智能体的长期记忆。结论谷歌的这份《上下文工程会话与记忆》白皮书清晰地定义了实现“有状态” AI 的两大核心组件临时的“工作台”会话和持久的“文件柜”记忆。它不仅提供了蓝图更深入到了 ETL 管道、信任层级、异步架构和安全模型的实现细节中。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包✅AI大模型学习路线图✅Agent行业报告✅100集大模型视频教程✅大模型书籍PDF✅DeepSeek教程✅AI产品经理入门资料如果你也想通过学大模型技术去帮助自己升职和加薪可以扫描下方链接​​为什么我要说现在普通人就业/升职加薪的首选是AI大模型人工智能技术的爆发式增长正以不可逆转之势重塑就业市场版图。从DeepSeek等国产大模型引发的科技圈热议到全国两会关于AI产业发展的政策聚焦再到招聘会上排起的长队AI的热度已从技术领域渗透到就业市场的每一个角落。智联招聘的最新数据给出了最直观的印证2025年2月AI领域求职人数同比增幅突破200%远超其他行业平均水平整个人工智能行业的求职增速达到33.4%位居各行业榜首其中人工智能工程师岗位的求职热度更是飙升69.6%。AI产业的快速扩张也让人才供需矛盾愈发突出。麦肯锡报告明确预测到2030年中国AI专业人才需求将达600万人人才缺口可能高达400万人这一缺口不仅存在于核心技术领域更蔓延至产业应用的各个环节。​​资料包有什么①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图还有视频解说全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤ 这些资料真的有用吗?这份资料由我和鲁为民博士共同整理鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。所有的视频教程由智泊AI老师录制且资料与智泊AI共享相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念‌通过动态追踪大模型开发、数据标注伦理等前沿技术趋势‌构建起前沿课程智能实训精准就业的高效培养体系。课堂上不光教理论还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事‌​​​​如果说你是以下人群中的其中一类都可以来智泊AI学习人工智能找到高薪工作一次小小的“投资”换来的是终身受益应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能 ‌突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】