xAI 发布 Grok 4.3：常驻推理、100万上下文、超低定价，附带语音克隆套件 Custom Voices

通过一个极端案例（LLM 重写的 Rust SQLite 实现比原版慢 20,171 倍）揭示 LLM 生成代码的核心问题：优化表面正确性而非实际正确性。详细拆解了两个关键 Bug（缺失 ipk 检查导致 O(n²) vs O(log n)、每次语句都 fsync），以及五个复合性能问题。引用 METR 随机对照试验（AI 用户慢 19%）、GitClear 分析（复制粘贴首次超过重构）等研究，论证 LLM 的 sycophancy 问题。结论：代码不是你的，直到你能自己找到其中的 bug。

OpenRouter 联合 a16z 的 100 万亿 token LLM 使用分析。核心发现：开源模型采用率提升、创意角色扮演和编程是最热门任务、Agent 推理模式兴起、'Glass Slipper'留存效应。含开源 vs 闭源、地理分布、成本动态等多维度数据。

从注意力机制原理出发，详解 KV Cache 的工作原理与工程权衡。自回归生成中 Token 1-49 的 K/V 每次都重算是 O(n^2) 浪费；KV Cache 把历史 K/V 只算一次并缓存，新 Token 只追加自己的 K/V，实现约 5x 提速；代价是显存占用，context window 翻倍意味着单请求 cache 翻倍。Prefill 阶段（首个 Token）最贵，因为要一次性算完所有历史 K/V，这就是 TTFT 瓶颈的来源。GQA/MQA 通过共享 K/V head 显著降内存，是大规模服务必用方案。

Karpathy 分享他用 LLM 构建个人知识库的工作流：raw/ 目录存放原始文档，LLM 增量"编译"成 .md wiki（含摘要、反向链接、概念分类文章）；用 Obsidian 作为 IDE 前端查看原始数据、编译产物和可视化；wiki 达到约 100 篇文章/40 万字后，可以直接向 LLM agent 提问复杂问题。关键发现：不需要 fancy RAG，LLM 自己会维护索引文件和文档摘要。输出形式包括 Markdown 文件、幻灯片（Marp 格式）、matplotlib 图像。还会用 LLM 做 wiki 健康检查（不一致数据、缺失数据、新文章候选）。