Roger-Lv's space

SQL 语句学习手册——从入门到面试通关 本文目标：从零到能在面试里手写复杂 SQL、讲清执行计划与索引优化。按"基础语法 → 多表查询 → 聚合与窗口函数 → 进阶 → 性能优化 → 面试高频题"组织，每段配可运行示例。 全文示例基于 MySQL（最常考），并在涉及 PostgreSQL/标准 SQL 差异处注明。 一、SQL 三大门类 先建立全局观，SQL 语句分三大类： 类 关键字 作用 DDL（Data Definition） CREATE / DROP / ALTER / TRUNCATE 定义结构（库、表、索引、视图） DML（Data Manipulation） INSERT / UPDATE / DELETE / SELECT 操作数据（查增改删） DCL（Data Control） GRANT / REVOKE / COMMIT / ROLLBACK 权限与事务控制 注：严格说 SELECT 属 DQL，但日常归到 DML。TRUNCATE 是 DDL 不是 DML——它是删表重建，不逐行删除，不能回滚，面...

大模型显存计算法则——训练与推理全景图 本文目标：面试官问"一个 70B 模型 fp16 训练要多少显存？为什么混合精度训练 Adam 优化器要 16 bytes/参数？ZeRO-3 之后能降到多少？推理 KV cache 占多大？"——你能张口就算、并且讲清每个数的来源。 全文以**“算清训练显存 → 算清推理显存 → 进阶优化对显存的影响 → 面试速算题”**为主线。 一、前置：精度与字节换算（所有计算的基石） 精度 1 个参数占多少字节 常见用途 FP64 / double 8 B 几乎不用 FP32 4 B 优化器状态、master weight、科学计算 TF32 4 B（存储同 fp32，计算用 19 bit 尾数） A100 训练加速，存储仍 4B BF16 / FP16 2 B 训练前向/反向权重、推理权重 FP8 (E4M3/E5M2) 1 B H100+ 训练/推理加速 INT8 1 B 推理量化、部分训练激活量化 INT4 0.5 B 推理量化（W4A16、GPTQ/AWQ） INT3 / ...

大模型投机解码与拒绝采样为何无损 一、为什么需要投机解码 大模型自回归推理（autoregressive decoding）存在一个根本性的性能瓶颈：每次只生成一个 token，且每一步都要把整个模型跑一遍。对一个几十上百层的 Transformer 而言，生成 1 个 token 和一次 forward 把 batch 里所有位置都算一遍，计算量几乎一样——因为推理时 batch size 通常很小（甚至为 1），算力（GPU 的算术运算单元）远没有被喂饱，真正的瓶颈在显存带宽：每生成一个 token，都要把权重从 HBM 读到 SRAM，而权重读取这一步占据了绝大部分时间。 换句话说，现代大模型推理在 decode 阶段是 memory-bandwidth bound（访存受限），而不是 compute bound（算力受限）。GPU 的算术运算单元（FP16/BF16 tensor core）大量空闲，每次 forward 实际上只算出了概率分布里被采样到的那一个 token，剩下成千上万维的概率信息全部被浪费了。 投机解码（Speculative Decoding）正是为...

SkillClaw 技能集体进化框架深度代码解析 摘要 SkillClaw（arXiv:2604.08377）提出了一种让 LLM Agent 的技能在多用户环境中持续进化的框架，核心洞察是：当前 Agent 系统（如 OpenClaw）的技能在部署后基本静态，不同用户重复踩同样的坑、重复发现相似工作流。SkillClaw 把跨用户、跨时间的交互轨迹作为信号，通过"自主 evolver"自动识别模式并更新共享技能库，实现"一次改进，全系统受益"的累积式能力提升。 本文不重复论文摘要，而是直接对照项目源码，回答一篇针对该论文的评审所提出的若干关键疑问：evolver 的算法到底是什么？是否引入了外部验证器作为"认识论锚点"？更新频率和粒度如何控制？技能冲突如何仲裁？错误累积与隐私隔离如何处理？技能库规模增大后检索效率如何保障？ 读完本文你会发现：代码基本印证了评审基于摘要的推测，并把其中几个"摘要未说明"的点坐实了——evolver 是 LLM 反思式自举而非 RL，默认路径无外部锚点，冲突仲裁极浅，无...

从 SkillClaw 到执行锚定自进化：让 Agent 技能在真实环境中验证、进化、部署 摘要 自进化 Agent 是当前 LLM Agent 领域最前沿的方向之一：让 Agent 从自身的执行轨迹中提炼经验、进化技能（skills），实现跨会话的累积式能力提升。然而，现有工作（SkillClaw、EvoSkill、AutoSkill、EmbodiSkill、Trace2Skill、SkillOpt、SkillLens）普遍面临三大痛点：认识论锚点缺失（LLM 判 LLM，无外部验证）、更新不稳定（ad hoc 编辑，语义漂移）、错误累积（失败模式被固化进共享技能库）。 本文在深度解析 SkillClaw 源码和系统性调研 7 篇前沿工作的基础上，提出 执行锚定技能进化（Execution-Grounded Skill Evolution, EGSE） 框架。核心洞察是：当一个 Agent 的技能本质是可执行的操作流程（如 chaos inject→validate→recover 闭环）时，"真实环境执行"本身就是最可靠的锚点——不需要 LLM 自评，不需...

正则表达式 我来给你整理一份正则表达式常用语法大全，按使用频率和功能分类，附带实战示例： 一、基础元字符（必须掌握） 元字符 含义 示例 匹配结果 . 匹配任意单个字符（除换行符） a.c abc, a1c, a@c \ 转义特殊字符 a\.c a.c 字面量 | 或（选择） a|b a 或 b () 分组捕获 (ab)+ ab, abab, ababab [] 字符类（匹配其中一个） [aeiou] a, e, i, o, u [^] 否定字符类 [^0-9] 非数字的任意字符 - 范围（在字符类中） [a-z] 任意小写字母 二、量词（重复匹配） 量词 含义 示例 匹配结果 * 0次或多次（贪婪） a* "", a, aa, aaa + 1次或多次（贪婪） a+ a, aa, aaa ? 0次或1次（贪婪） a? "", a {n} 恰好 n 次 a{3} aaa {n,} 至少 n 次 a{...