Suny的文章

要点 GitHub 集成：学习如何通过 /install-github-app 命令，将 Claude Code 作为一款 GitHub App 安装到仓库中，使其具备监听和响应仓库事件的能力。 自动化代码审查 (PR Review)：了解集成后生成的 GitHub Actions 工作流，如何让 Claude 机器人自动为新的 Pull Request 提供代码分析、质量检查和安全建议。 远程

要点 自定义命令：学习在 .claude/commands/目录下创建自定义的 Markdown 命令，通过 $ARGUMENTS 变量接收参数，实现工作流自动化。 Git Worktree 的核心价值：理解 git worktree 如何允许我们在同一个仓库中同时检出多个工作目录，为并行开发提供物理隔离，从根本上避免文件覆盖问题。 并行开发工作流：掌握从创建 Worktree、在隔离环境中运行

要点 思维范式转变：从“让 AI 修复 Bug”到“让 AI 编写测试来定位并修复 Bug”，我们将实践真正的 测试驱动调试 (Test-Driven Debugging)。 高级指令工程：学习如何通过 think a lot 和 plan mode 等指令，引导 AI 进行更深层次的、结构化的思考与规划。 并行智能体：见证 Claude Code 最强大的功能之一——通过一条指令 派生出两个并

要点 计划先行，谋定后动：在着手新功能或复杂重构时，优先使用 “计划模式 (Plan Mode)”，让 AI 先思考、再执行，能显著提升代码质量与方向准确性。 精准上下文是效率的关键：无论是通过 @ 符号精确引用文件，还是利用截图进行多模态交流，为 AI 提供充足且准确的上下文，是获得高质量输出的根本。 “思考预算” 的妙用：通过 think, think harder 等指令，我们可以主动提升

一、与代码库的初次对话 面临的项目是一个能与 DeepLearning.AI 课程资料对话的 RAG 聊天机器人。在不了解任何代码细节的情况下，我们的首要任务是快速建立对项目整体的认知。 我们无需逐个文件阅读，而是直接向 Claude Code 提出一个高层次的问题，例如： 12"Give me an overview of the codebase."(给我一份代码库的概述。) Claude C

一、简介 Claude Code 是一款智能编码工具，它驻留在您的终端中，能够理解您的代码库，并通过执行常规任务、解释复杂代码和处理 Git 工作流来帮助您更快地编写代码——所有操作均可通过自然语言命令完成。您可以在终端、IDE 中使用它，也可以在 GitHub 通过 @claude来调用。 Claude Code不依赖于将代码库进行复杂的语义嵌入或构建可搜索的索引。相反，它通过一小组核心工具（如

一、简介 英伟达发布了一个全新的混合架构语言模型系列，Jet-Nemotron。Jet-Nemotron系列有Jet-Nemotron-2B和Jet-Nemotron-4B大小。英伟达表示Jet-Nemotron系列「小模型」性能超越了Qwen3、Qwen2.5、Gemma3和 Llama3.2等当前最先进的开源全注意力语言模型。 同时实现了显著的效率提升，在H100 GPU上生成吞吐量最高可提

一、简介 AlphaEvolve，它是一种进化编码 Agent ，可大幅提升最先进的 LLM 在高难度任务（如解决开放科学问题或优化计算基础设施的关键部分）上的能力。AlphaEvolve 负责协调 LLM 的自主流水线，其任务是通过直接修改代码来改进算法。AlphaEvolve 采用进化方法，不断接收来自一个或多个评估者的反馈，迭代改进算法，从而可能带来新的科学和实践发现。我们将这种方法应用于一

一、简介 世界模型（World Model）是AI领域的一个宏大目标，旨在创建能够模拟人们世界运行规律的计算模型。近年来，基于扩散模型的视频生成技术展示了其作为世界模型的巨大潜力，它们能够捕捉复杂的物理动态和交互行为。 最近DeepMind 发布的 Genie 3，Dynamics也推出了Mirage 2世界模型: Genie 3 Genie 3 是由 Google DeepMind 开发的先进

一、背景 Transformer 架构的问题： 对所有token进行统一计算(Uniform compute for all tokens)：每个token，无论多么简单或复杂，都要经过整个堆栈层 - 导致简单token的计算浪费，而较难token的利用率不足。 参数数量过多(Excessive parameter count)：Transformer 为每一层分配单独的权重，导致模型规模过大

一、背景 扩散模型现状： 主流架构从CNN-注意力混合（如U-Net）转向纯Transformer（如DiT、U-ViT），生成质量优异但推理速度慢（自注意力计算开销大）。 加速尝试（如高效注意力、SSM架构）效果有限，难以满足实时需求。 卷积的潜力： Conv3x3是硬件友好的极速操作（支持Winograd加速），但传统设计在扩散模型中性能不足（感受野有限，扩展性差）。 构建 3x3

一、简介 Meta开源发布V-JEPA 2世界模型：一个能像人类一样理解物理世界的AI模型。世界模型简单说，就是能够对真实物理世界做出反应的AI模型。它应该具备以下几种能力： 理解：世界模型应该能够理解世界的观察，包括识别视频中物体、动作和运动等事物。 预测：一个世界模型应该能够预测世界将如何演变，以及如果智能体采取行动，世界将如何变化。 规划：基于预测能力，世界模型应能用于规划实现给定目标的行

一、简介 当我们阅读文本时，大脑会毫不费力地将字母组合成单词，再将单词组合成有意义的短语。我们不会刻意去思考一个单词在哪里结束，另一个单词在哪里开始，一切自然而然地发生了。然而，事实证明，在人工智能中复制这种自然能力是自然语言处理领域最持久的挑战之一。 几十年来，AI 系统一直依赖于一种名为tokenization的预处理步骤，将文本分解成易于管理的块。目前主流的方法是Byte-Pair Enco

一、引言 在深度学习领域，优化算法对模型训练效率和性能起着关键作用。从经典的随机梯度下降 (SGD) 及其动量法，到自适应优化方法 Adam/AdamW 等，一系列优化器大大加速了神经网络的收敛。 Muon (Momentum Orthogonalized by Newton-Schulz)：一种新的神经网络优化器。Muon 因其出色的实用性能而备受关注：它曾创下 NanoGPT 的速度纪录。Mu

一、简介 《对数线性注意力》（Log-Linear Attention）尝试在传统注意力和线性注意力机制的复杂度和表达力间取得一个平衡，作者中的 Tri Dao 也是 Mamba 和 FlashAttention 的作者之一。 1.1 引言与动机 现有方法的困境： 标准Softmax注意力：虽然表达能力强，但其计算复杂度为 （T为序列长度），内存复杂度为 ，这使其在处理长序列时成本高昂，成为一

一、Boltzmann Machines发展历程 1.1 霍普菲尔德网络(Hopfield Network) 从一个简单的二进制神经元网络入手，介绍了「霍普菲尔德网络」的核心思想。每个神经元只有1或0两种状态，最重要的是，神经元之间通过对称加权连接。 整个神经网络的全局状态，被称为一个「配置」（configuration），并有一个「优度」（goodness）。其「优度」是由所有活跃神经元之间权

一、Function Calling 传统的函数调用方式，通过预定义接口传递参数并获取返回值，适用于结构化、明确的输入输出场景。例如：调用数学计算函数 sum(a, b)，返回 a + b 的结果。 应用场景 计算服务：calculate_distance(lat1, lon1, lat2, lon2)。 数据库查询：get_user_profile(user_id)。 第三方API集成：调用支

谷歌在25年4月初发布了A2A协议，作为MCP协议的补充。Agent2Agent协议致力于促进独立agent间的通信，帮助不同生态系统的agent沟通和协作。 一、核心概念 Agent Card：一个公共元数据文件（通常位于 /.well-known/agent.json），用于描述Agent的能力、技能、端点 URL 以及认证要求。客户端通过它来发现Agent。 Agent Card通常包括

2024年11月份，claude推出了模型上下文协议( MCP),作为一种潜在的解决方案，解决大模型和其他工具交互。作为大模型与其他工具交互的协议，MCP这几个月也在在开发人员和 AI 社区中获得了巨大的关注。 一、MCP 原理 提出背景：随着基座大模型变得更加智能，agent与外部工具、数据和 API 交互的能力变得越来越分散：开发人员需要为agent运行和集成的每个系统实现具有特殊业务逻辑

一、推荐系统中的多样性 如果多样性做得好，可以显著提升推荐系统的核心业务指标。 1.1 物品相似性的度量 基于物品属性标签。 类⽬、品牌、关键词…… 基于物品向量表征。 ⽤召回的双塔模型学到的物品向量（不好）。 基于内容的向量表征（好）。 基于物品属性标签 物品属性标签：类⽬、品牌、关键词…… 根据⼀级类⽬、⼆级类⽬、品牌计算相似度。 物品：美妆、彩妆、⾹奈⼉。 物品：美妆、⾹⽔、

一、Factorized Machine (FM) 1.1 线性模型 有个特征，记作 线性模型： 模型有 个参数: 和 预测是特征的加权和。（只有加，没有乘。） 1.2 二阶交叉特征 线性模型+⼆阶交叉特征： 如果很大参数量就会很大，可以用以下方式减少参数数量 Factorized Machine (FM)： FM模型有个参数。 Factorized Machi

一、用户行为序列建模 用户最近 n 次点击、点赞、收藏、转发等行为都是推荐系统中重要的特征，可以帮助召回和排序变得更精准。这节课介绍最简单的方法——对用户行为取简单的平均，作为特征输入召回、排序模型。 用户的LastN行为序列可以反映出用户对什么样的物品感兴趣，召回的双塔模型、粗排的三塔模型、还有精排模型都可以用LastN特征。LastN特征很有效，把它用到召回和排序模型中，所有指标都会大涨。 简

排序的目标是根据业务目标来不断变化的，最早期，业务目标简单，需要聚焦的时候，往往会选取⼀个指标来重点优化，当做到中期的时候，就会发现单⼀指标对整体的提升已经非常有限了，或者说会出现很多问题，这个时候，往往就会引入多目标排序来解决这些问题。 排序的依据 排序模型预估点击率、点赞率、收藏率、转发率等多种分数。 融合这些预估分数。（⽐如加权和。） 根据融合的分数做排序、截断。 一、多目标模型 1.1

DeepSeek-V3 是一款性能卓越的混合专家（MoE）语言模型，整体参数规模达到 671B，其中每个 token 激活的参数量为 37B。 基于提升性能和降低成本的双重目标，在架构设计方面，DeepSeek-V3 采用了MLA来确保推理效率，并使用 DeepSeekMoE来实现经济高效的训练。这两种架构在 DeepSeek-V2 中已经得到验证，证实了它们能够在保持模型性能的同时实现高效的训练

一、3FS & Smallpond 概述 Fire-Flyer File System（3FS） 是一个高性能分布式文件系统，旨在解决人工智能训练和推理工作负载的挑战。它利用现代固态硬盘（SSD）和远程直接内存访问（RDMA）网络，提供一个共享存储层，从而简化分布式应用程序的开发。 Smallpond 基于 3FS 和 DuckDB 构建，专注于 PB 级数据的快速处理。Smallpond