企业官网建设流程全解析

网站建设 中企动力长沙,专业做企业活动的趴网站,凡客诚品售后服务官方,自己做一个微信小程序需要多少钱Youtu-LLM是1.96B参数的小型大语言模型#xff0c;通过创新的预训练方法使小模型具备原生Agent能力。文章详细阐述了其分词器设计、稠密MLA架构、预训练数据工程#xff08;包括通用数据、Agent轨迹、数学轨迹、代码轨迹等#xff09;以及多阶段预训练流程。实验表明#x…Youtu-LLM是1.96B参数的小型大语言模型通过创新的预训练方法使小模型具备原生Agent能力。文章详细阐述了其分词器设计、稠密MLA架构、预训练数据工程包括通用数据、Agent轨迹、数学轨迹、代码轨迹等以及多阶段预训练流程。实验表明Youtu-LLM在智能体基准测试上达到同尺寸模型最优效果甚至在某些方面可与更大模型相媲美为轻量级大模型实现复杂Agent能力提供了新思路。动机小尺寸如 2B 级别LLM 通常难以完成 Agent 任务一方面是因为这类任务并非简单的一次性问答而是需要完成任务拆解、工具理解、工具选择、参数填充、反思优化等一系列动作难度较大另一方面是很多系统把Agent能力作为“补丁”在后训练或外部框架上引入这导致模型很可能仅仅学会了浅层的“模式”而忽略深层的“知识”于是作者提出 Youtu-LLM这是一个从零开始预训练的 1.96B 小模型它把 agent 导向的信号及早、系统地注入成为具备“原生 Agent”能力的小尺寸模型。为了提供预训练所需的大规模语料作者也设计了一系列的相关数据构造流程论文标题Youtu-LLM: Unlocking the Native Agentic Potential for Lightweight Large Language Models论文地址https://arxiv.org/pdf/2512.24618代码/模型https://github.com/TencentCloudADP/youtu-tip/youtu-llmhttps://huggingface.co/collections/tencent/youtu模型架构分词器设计为了应对相关场景下强烈的推理需求Youtu-LLM 基于英伟达提出的 SuperBPE 设计分词器其核心原理是允许把跨越空格的多个字符视为一个 token从而更高效地处理固定搭配表述e.g, by the way。再通过两阶段训练的方式依次提高分词模型对普通子词、跨空格“超词”的理解能力在此基础上作者采用了以下措施来进一步改善分词效果将中文字符、日语假名、韩文以及中日韩文独有的标点符号归位独立的四类 token不允许互相或与其他文本合并英文使用 GPT-4o 的预分词规则比如允许 s 等后缀数字仅保留 0-9 这十个 token以 o200k 中文词表为基础过滤筛选出 101k 个基础词补充某些领域特异的中文术语平衡领域影响增加针对代码、数学、技术内容的专用 token实验证明由此构建的分词器达到了更大的文本压缩率与 Qwen 相比在通用预训练数据上5%推理数据上10%并且在下游任务上也获得了更好的效果稠密 MLA考虑到端侧场景下 MoE 与 Dense 架构相比并未展现显著的速度优势因为它需要更频繁的输入输出操作Youtu-LLM 选择了稠密架构同时使用 MLA 来压缩 KV-Cache提高小参数模型的表达能力。小尺寸模型上 GQA 与 MLA 效果对比主流小尺寸模型的架构对比预训练数据工程通用预训练数据作者收集了包含高质量网页、百科知识、STEM语料数学物理化学等理工科资料、源代码在内的基础语料然后额外合成了针对 STEM、源码的解释文档再挑选其中高质量数据做上采样最终得到了 10.64T token 的通用预训练数据为了解决质量不均和领域覆盖偏差手动制定了一套质量评估与领域划分标准编程、数学、医疗、金融等 46 个子领域让 DeepSeek R1 模型来打标并人工抽检只有当模型标签与人工标注一致性超过 95% 时才纳入训练集。这一过程需要迭代多次为了减轻人工标注负担作者还基于 Qwen3-1.7B 训练了一个分类评分模型用于代替人工做全量数据筛选。最后再基于各种启发式方法对语料做进一步过滤包括重复检测、毒性分析等Agentic 轨迹带思维链带轨迹数据很好采集但作者认为普通的 Agent 轨迹数据中存在大量冗余思考和重复表达可能会损害逻辑连贯性与自然语言流畅性。于是作者将原始推理数据分解、重构为“Agentic-CoT”格式即按照 Analysis → Plan → Action → Reflection → Summary 组织的结构化思维过程数学轨迹数学推理任务具有难度范围广、客观可验证的特点常被用于在后训练中提高模型的推理能力。作者将此类数据也纳入了预训练流水线通过构造大量清晰、高质量的数学推理轨迹让模型具备稳定、可解释的数学推理能力作者首先基于经典的【规划–动作–反思】流程构建了一套数学智能体框架用于收集数学问题推理轨迹架构如下在【执行】与【反思】模块中智能体可以选择执行 11 项原子能力包括使用这一框架处理数学问题对执行轨迹与最终结果做自动化筛选便可获得高质量的轨迹数据代码轨迹Youtu-LLM 在两个粒度上构造代码轨迹数据。首先是针对代码智能体的核心原子能力收集“专项训练”数据包括搜索定位: 根据模糊的日志或描述在代码仓库中定位特定内容代码补全: 在仓库级上下文信息下补全关键代码片段代码修复: 基于局部故障文件和特定问题描述生成精确的修改或补丁测试验证: 评估执行轨迹的正确性定位故障点环境理解: 解释或预测执行结果。参考 CWMMeta提出的“代码世界模型”一系列代码 Mid-training 任务与数据合成函数和仓库级数据自我反思: 根据环境反馈修正生成的代码然后在端到端场景下构造“实战演练”数据。任务层面上基于 SWE-gym一个高度集成面向软件工程任务的沙盒环境和 SWE-rebench与 SWE-gym 配套的动态测试基准提供的环境与数据应用 SWE-Smith自动生成代码缺陷与修复数据的流程做扩充得到了大量端到端编码任务为了消除特定 Agent 风格的影响使用多种脚手架生成这些任务的解决轨迹上下文层面上Youtu-LLM 不仅仅是在具备完整、可执行镜像环境的项目上构造任务还基于大量缺乏可执行镜像的长尾仓库构造相对简单的静态评估任务如故障定位和重构极大地扩展了数据量动作层面上作者首先确定了两项决定任务成败的“关键动作”代码修改与测试。然后在成功的轨迹中找出这些关键动作并由 LLM 生成多条分支不同改法或不同角度的测试从而得到了更多样化的轨迹数据避免过度模仿单一的成功轨迹让模型失去潜力在失败的轨迹中找到首个关键动作并扩展一条修正测试分支然后截断后续内容此操作的目的是保留失败轨迹开头可能存在的高价值“困难状态”同时多给一次探索机会并且严格排除了不被验证的错误步骤让失败轨迹也产生价值不至于白白丢弃深度研究轨迹智能体做深度研究DR时需要在复杂环境中进行多轮检索、验证、整合与总结目前这类过程数据很稀缺所以作者还设计了一套流程来构造大规模 DR 行为链条数据DR 任务可以被划分为两大类封闭式任务例如多跳问答通常有明确可验证的答案以及开放式任务例如生成一份全面的研究报告。封闭式任务构造的流水线为从知识密度高的种子语料库中百科、题库、教材、论文等提取多跳问答对经过质量评估后用多种现有的 DR 框架构造查询轨迹并且通过增加扰动比如扰乱检索结果等来提高任务多样性与难度对于失败的查询轨迹添加一个轨迹分析段落来检查并记录错误原因作为一种反思语料对于开放式 DR 任务作者设计了两种数据合成路径。第一种是正向合成简单说就是本着收集过程数据的目的去调用 DR 框架首先基于百科术语、教材论文中的知识或课题、财务报告中的信息来构造分析类问题然后要求 DR 框架在研究过程中必须做更充分的反思重试以提高结果准确性、过程丰富度最后使用整理过的检索结果执行大纲检索并要求风格保持一致另一种是逆向合成基于带参考标识的报告类文档论文、法律文书等反向构造动作轨迹并且通过与实际引用参考资料的一致性来评估动作质量除了完整的轨迹数据作者还构造了专用于训练 DR 所需原子能力的数据具体包括工具解析基于真实的 API 调用结果让 LLM 改写输入输出并分析“做了什么、能得出什么结论”训练解析、总结和规划下一步的能力轨迹理解对完整轨迹做“回顾总结”提炼关键决策点、解释为什么这样做、评估有效性并提出可优化点把隐含方法论显式化阅读理解构造上下文问题答案三元组再向上下文引入无关干扰项提升在噪声中抓重点的能力工具调用轨迹上述几种轨迹数据构造过程中实际上已经包含了大量的工具调用但工具的多样性尚需提高所以作者最后还额外收集了更多不限领域的工具集来合成更多样化的轨迹数据基于现有的工具收集方法Toucan-1.5M、FunReason-MT整理了数千种 API、MCP、protocal 工具并保留了工具的依赖关系如表格搜索 → 表内查询 → 表格修改形成工具图然后通过随机游走生成工具调用链再用两个 LLM 分别扮演 User 与 Assistant 模拟生成调用轨迹并在其中引入模糊声明、重复请求、拼写错误等噪声最后再使用一个 Expert LLM 将其总结成规划数据模型训练多阶段预训练作者实现了包含四个阶段的预训练流程每个阶段主要是数据配比存在区别整体上按照【打牢通识】-【猛练理工和代码】-【长文本能力强化】-【Agent 能力引入】的思路设计实验中作者也观察到先做完通用长上下文训练再训轨迹收益更大因为长上下文模型更能抓住跨段依赖信息监督微调前一章节介绍了 Youtu-LLM 宏大的数据收集与合成流程但它们都是用于预训练任务模型在 next token 预测中领悟 Agent 场景相关知识但模型依然需要监督微调来获得指令遵循能力为此作者进一步收集了包括数学、代码、科学推理、agent任务、通用问答、写作、role-play、多轮对话、安全在内的多领域指令数据基于强教师模型生成 CoT 与回答再通过规则规律、模型筛选、测试集去重32-gram exact matching 方法构造高质量样本微调也分为推理 SFT 和通用 SFT 两个阶段这一划分是为了巩固模型已有的潜在推理能力一开始仅专注于没有风格约束干扰的逻辑推理任务精心挑选了一批逻辑密集的数据集数学、代码、科学推理、agent任务 4:3:2:1做监督训练然后再扩展到全量的指令数据集上做第二阶段训练在此过程中还把一部分样本的推理内容去掉作为非思考数据训练模型快速回答能力由特殊 token 控制思考模式强化学习Youtu-LLM 在数学、代码、复杂指令、安全四个领域上构造了一个大规模数据集并尽量让奖励能被验证数学问题都设计了方便验证的模式指令比如回答必须以xxx格式呈现编码问题通过一个仿真执行环境来做验证同时也要求模型完成模拟执行任务预测输出结果复杂指令方面收集了 100 多条多样化的基础指令涵盖文本理解、角色扮演和创意写作等任务其中简单任务使用规则验证字数、段落结构复杂任务指定了参考答案与评分细则然后用 LLM 产生反馈信号安全方面训练了一个专门的奖励模型作为引导RL 很容易翻车的一点是训练时产生梯度的模型和实际采样用的模型存在行为分布差异容易导致优化很噪、甚至崩掉。为此作者使用了两项关键的工程改进用 FP16 而不是 BF16采用 BF16 精度时上述 RL 采样偏差问题会变得更严重训练与推理间概率分布差会随着迭代次数一同增加一致性采样如果策略模型与采样模型在某条样本下的概率分布散度高于阈值则丢弃这条样本不用它来产生梯度过滤后的样本再经过重要性采样来纠正剩余的小偏差在数学和编码任务上采用了这两项改进的训练方法效果更好实验结果智能体基准测试上Youtu-LLM-2B 模型达到了同尺寸模型最优效果并与 Qwen3-4B模型相当多领域通用能力测试上Youtu-Base 模型整体强于其他同类型模型长文本能力尤为突出Youtu-LLM-2B-instruct 模型整体强于同尺寸其他模型弱于 Qwen3-4B如何系统的学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。一直在更新更多的大模型学习和面试资料已经上传带到CSDN的官方了有需要的朋友可以扫描下方二维码免费领取【保证100%免费】01.大模型风口已至月薪30K的AI岗正在批量诞生2025年大模型应用呈现爆发式增长根据工信部最新数据国内大模型相关岗位缺口达47万初级工程师平均薪资28K数据来源BOSS直聘报告70%企业存在能用模型不会调优的痛点真实案例某二本机械专业学员通过4个月系统学习成功拿到某AI医疗公司大模型优化岗offer薪资直接翻3倍02.大模型 AI 学习和面试资料1️⃣ 提示词工程把ChatGPT从玩具变成生产工具2️⃣ RAG系统让大模型精准输出行业知识3️⃣ 智能体开发用AutoGPT打造24小时数字员工熬了三个大夜整理的《AI进化工具包》送你✔️ 大厂内部LLM落地手册含58个真实案例✔️ 提示词设计模板库覆盖12大应用场景✔️ 私藏学习路径图0基础到项目实战仅需90天第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】