当注意力失明：ALiBi 位置编码里藏了三年的浮点数陷阱
## 一个看不见的盲区 假设你训练了一个 7B 参数的语言模型，上下文窗口 2048 token。你用了 AL...
分类： AGI
当注意力失明：ALiBi位置编码里藏了一个数值bug
# 当注意力失明：ALiBi 位置编码里藏了一个数值 bug 你训练了一个 ALiBi 位置编码的语言模型。上...
Agogic：0.8B的音乐模型打败了27B——因为换了一种记谱法
# Agogic：0.8B 的音乐模型打败了 27B——因为换了一种记谱法 一个 0.8B 参数的小模型，在音...
WorldCup Arena：六个顶级AI预测了一整届世界杯，结果只和博彩公司打平
# WorldCup Arena：六个顶级 AI 预测了一整届世界杯，结果只和博彩公司打平 2026 年 FI...
2026-08-05 · AI coding × 具身智能
AI HOT 简报 · 2026-08-05 :root{ --bg:#0f172a; --panel:#11...
微软 Orchard 把 agent 训练的环境层从训练栈里剥出来：同一套服务跨 SWE/GUI/Claw 三域复用
微软研究院 7 月底把 Orchard 推到了开源主仓，主分支的最新提交是把 MSR-Orchard/slim...