Android 17 DeliQueue：二十年来最重要的消息队列架构重写

论文：MeKi: Memory-based Expert Knowledge Injection for Efficient LLM Scaling 精读日期：2026-03-09 定位：面向 Android / 端侧 AI / 性能优化 / SmartPerfetto 方向的深度解读 一、论文要解决的问题 1.1 真正的问题不是“模型不够大”，而是“手机端的资源结构不匹配” 在服务器上，做大模型最直接的办法就是： 增加参数量； 增加推理时计算； 用更大的显存和更强的 GPU 接住它。 但到了手机端，这套思路就开始失效： …

核心问题 这篇论文解决的是“端侧个性化”中最现实的拦路虎：微调内存开销。很多工作证明了“可以做微调”，但通常在树莓派或实验环境，离手机实用化很远。PocketLLM 的价值在于把问题拉回到真实手机场景。 论文贡献（按价值排序） 1) 明确瓶颈优先级：在端侧微调中，内存是可行性门槛；算力更多影响时延。 2) 方法选择正确：采用无导数优化绕开梯度/优化器状态，直接打掉最大内存项。 3) 实机验证：在 OPPO Reno 6 上给出可复现实验（RoBERTa-large 与 OPT-1.3B）。 关键数据的含义 RoBERT…

吴恩达（Andrew Ng）指出2026年的 Prompt 技巧与2022年 ChatGPT 刚发布时已截然不同。他新推出课程「AI Prompting for Everyone」，旨在帮助各种技能水平的用户成为AI power user。课程覆盖跨 ChatGPT、Gemini、Claude 等主流模型的通用 Prompt 技巧，强调如何针对不同模型特性优化 Prompt 策略。对于想系统提升 AI 使用效率的读者，这门跨模型的通用方法论比单一工具教程更有长期价值。

将 Agent 上下文管理类比 Rust Arena Allocator：预留大块连续内存→每次分配指针向前推→所有分配连续排列→整块一起释放。Agent 上下文窗口就是一块有限的、昂贵的内存空间。Prompt Engineering 的核心不是写好文字，而是内存管理。Arena 的核心特性（Append-only、空间局部性、批量释放）直接对应 Agent 上下文设计原则。Pruning 和 RAG 是技巧不是原则。