LLM Insight Tracker

关键亮点：新论文推出针对真实世界人类行为模拟的基准，评估大模型在长时序、跨场景、异构行为轨迹上的表现。

• 长视界模拟：聚焦长时间序列人类行为
• 跨场景异构：覆盖多场景、多样行为轨迹
• 推动代理AI落地：基准助力真实评估与工程实践

加入讨论，追踪大模型代理能力进展。

Hugging Face TRL 最新版支持 on-policy 蒸馏 100B+ 参数教师模型，训练速度提升 40 倍，适用于 Qwen3.5 或 Gemma4 等系列。

关键工程优化：

• 生成缓冲区 利用 vLLM 批处理生成 rollout；
• 批处理请求 发送序列至外部 vLLM 教师服务器；
• 二进制编码 logprobs 减少传输负载。

落地示例：DistillationTrainer 代码一键蒸馏 Qwen3-235B 至 4B 模型，完美解决大模型推理资源痛点。

• 核心发现：Noam Shazeer 等人的 Talking-Heads Attention 论文显示，注意力头不应完全隔离。
• 设计思考：头间通信重要，如何优化通信方式值得探讨，尤其从特定视角。
• Transformer启发：挑战传统头间独立假设，推动模型架构通信机制改进。

通过29条voice规则与外部化记忆，在Claude上构建持久AI人格，认知测试得分413/430，分享工程实践与破损经验，超越基准与主观评估。

工程优化实践

• 🔥 IHA自定义CUDA内核: @brandondamos转发内容提到为Inter-Head Attention (IHA)在Hopper GPU上构建了自定义CUDA内核，使其适用于实际训练，GitHub链接可用。
• MuonAdamW优化器验证:...

AI Index关键观察：

• 新基准被快速攻克
• 开源 vs 闭源差距收紧
• 开源权重模型追赶迅猛

大模型研究决策：开源路径性能逼近顶尖，优先评估落地价值。

一线工程亮点：@dvsaisurya团队在Hopper GPU上为**Inter-Head Attention (IHA)**构建自定义CUDA内核。

• IHA核心：注意力计算前跨注意力头混合信息。
• 效率突破：优化至实用训练速度。
• 落地资源：GitHub开源https://t.co/E6LMeNruwz，值得大模型训练直接试用。

核心创新：DMax 通过 On-Policy Uniform Training 训练模型从自身错误中恢复 token，而非仅从掩码输入预测。

• Soft Parallel Decoding：用预测与掩码嵌入的插值表示位置，支持迭代精炼，避免早期错误传播。
• 性能提升：在 GSM8K 上 TPF...

Miles Brundage指出，墨西哥政府基础设施遭AI辅助入侵，使用的是现今相对于Mythos和Spud已原始的AI系统。这凸显新一代模型下安全风险升级，决策需强化对齐与红队测试。

• 全线亏损：Google、OpenAI、Anthropic模型在英超赛季足球投注中亏钱
• 分析失效：最先进系统难以长期解析真实世界
• 基准价值：@GenReasoning KellyBench报告登FT封面，关键用于代理评估与模型迭代决策

新兴趋势：Meta提出**Neural Computers (NCs)**作为学习运行时，将模型本身变为计算机，推动代理式AI计算。

• HWM框架：在latent world...

HF autoresearch测试显示，NS正交化是强大吸引子，能吸收投掷的多数梯度修改，MuonAdamW基准难敌。 大模型训练优化决策：优先验证NS鲁棒性。

• 基础模型：Qwen 3 MoE家族（0.6B-235B，混合思考）、Gemma 4（31B/26B MoE，128K上下文单H100）、GLM-5.1（744B MoE，MIT许可超SWE-Bench），48h内获llama.cpp/vLLM量化支持
• 推理引擎：vLLM...

PRInTS生成式PRM正式获ACL2026主会录用，专注长时程信息搜索任务。

• 在GAIA/FRAMES/WebWalker基准上，代理平均准确率**+9.3%**（绝对提升）。
• 直接助力代理一线落地实践，优化长程规划能力。
  值得大模型研究者跟踪，潜在工程应用价值高。

关键创新：适配视频生成架构训练计算机世界模型，直接模拟真实界面。

• 输入用户动作（按键、鼠标）+前帧像素，生成下一视频帧。
• 仅用录制输入输出痕迹训练，即渲染可读文本、控制光标，无需传统OS。
  工程潜力：为代理提供高效真实界面模拟环境，推动一线落地与决策。

对齐技术复制与敏感性

• 🔥 UK AISI复制Anthropic steering: UK AISI Model Transparency团队复制了Anthropic的steering方法以抑制评估意识，发现控制steering向量（关于书架）效果与故意设计的一样大。
• LLM...

关键工程落地：2B 草稿模型预预测 token，31B 验证器确认，确保相同输出下更快推理。

• 早期发布：针对 Gemma 4 31B 的推测解码优化，已可用。
• vLLM 集成：主分支支持推进中（PR #39450），推理支持即将上线。
  部署效率提升潜力明显，便于大模型工程实践。

Meta Superintelligence Labs首款模型Muse Spark已上线Meta AI，基准测试声称与OpenAI、DeepMind、Anthropic并肩。

实战与竞争关键点：

• 高难度基准：HLE多学科专家测试+FrontierScience科学推理，定位当前前沿。
• 多代理架构：优化产品生态自然对话。
• 信息缺口：无具体分数、参数规模、训练细节，独立验证待跟进。
• 行业影响：重振Zuck竞赛地位，开源路径未定，需关注后续数据。

英国AISI模型透明度团队复现Anthropic抑制评估意识的转向向量方法，最惊人发现：无关的“控制”向量（如书架主题）效果竟与设计向量相当大。

关键启示：

• 验证转向向量在AI安全中的鲁棒性，易受意外干扰
• 对齐机制需加强技术验证，避免过度乐观
• 研究落地：测试控制向量以评估方法可靠性

@_akhaliq分享SkillClaw论文：

• Agentic Evolver驱动技能集体进化
• 聚焦代理技能演化新方法
• 论文链接可用，值得大模型代理研究跟踪