2026-11-13 开源技术热点新闻资讯

今日开源技术热点新闻资讯

:robot: 日期:2026 年 11 月 13 日

:writing_hand: 核心总览:
PyTorch生态在训练效率与编译优化上持续取得具体进展:EUROPA团队借助TorchTitan在JUPITER超算上将1T参数MoE模型训练吞吐量提升逾14倍,FlexShard与异步all-gather等改动已回馈上游;Helion编译器新增基于IR的启发式内核配置选择,使线性注意力等典型负载在H100上实现2倍以上加速。Triton在AMD后端密集推进低精度与内存子系统支持,FP6缩放点积拆解与MFMA指令支持已进入WIP阶段,同时修复了TDM共享内存子视图寻址错误及缓冲掩码对齐等影响正确性与性能的问题。谷歌正式发布Gemini 4 Hydrogen,以百万令牌上下文和分级定价覆盖搜索、API及企业场景,并已完成对Google Search的全球接入。


一、PyTorch 生态核心动态

内容摘要:
EUROPA团队使用PyTorch和TorchTitan,在JUPITER的384块NVIDIA GH200 GPU上训练约1万亿参数MoE模型,将吞吐量从每GPU每秒90个token提升至约1300个。FlexShard、CPU激活检查点卸载及异步all-gather等改动已回馈TorchTitan。

内容摘要:
Helion新增编译期启发式分析,可依据内核IR和数据流直接选择块大小、warps及流水线阶段,减少对自动调优的依赖。在H100测试中,线性注意力比此前默认配置快2.13倍,153个vLLM内核形状单元平均快2.2倍。

内容摘要:
PyTorch Inductor新增配置选项,可在安全检查允许时更积极地将算子重新写回原始缓冲区,不再依据性能收益保留函数式变体。该选项面向需要后续内核直接写入原缓冲区的场景,例如证据所述的MTIA GenAI工作负载;相关原生测试套件报告94项通过、0项失败。

内容摘要:
PyTorch Inductor 修复无张量操作数的嵌套编译区域无法降级的问题:当调用没有可推断设备的输入时,改用已降级输出的设备信息。该修复覆盖只生成常量的区域及激活检查点场景,并新增零参数区域测试。

内容摘要:
一个两人团队借助AI编码代理,在不到一周内以约1500行插件将SGLang接入IBM Spyre,并复用PyTorch硬件支持和SGLang扩展点。测试中吞吐量约为torch-spyre参考实现的3.6倍,在指定Granite与Gemma工作负载上与vLLM相当。

内容摘要:
社区项目adambridge提供兼容torch.optim的AdamW优化器,将FP32主权重和Adam状态迁移至主机内存,并通过钩子与CUDA流异步重叠更新。作者在24GB RTX 5090笔记本上完成Qwen2.5-7B全参数微调,但目前仅有单机测试,尚不支持DDP或FSDP。


二、LLVM/MLIR 最新进展

内容摘要:
LLVM 移除由激进去虚拟化选项强制生成 llvm.type.checked.load 的逻辑。此前在 LTO 和陷阱式 CFI 下,公共可见性类可能只检查当前 LTO 单元,导致来自运行时或其他动态库的合法对象被误判;跨 DSO 调用也会跳过慢路径检查。

内容摘要:
LLVM AMDGPU GlobalISel 将条件加减一及布尔扩展加减模式折叠为带进位的 G_UADDE/G_USUBE,并覆盖两种选择臂顺序、不同位宽及条件组合。此改动减少中间指令,补齐与 SelectionDAG 对应的优化,并加入 Alive2 证明和测试。

内容摘要:
LLVM MLIR 为 scf.forall 增加规范化处理,使融合操作读取 shared_outs 的块参数而非循环外初值。一次性缓冲区化因此可识别同一缓冲区,避免为整张张量分配并复制额外缓冲区。

内容摘要:
LLVM 社区展示了基于 MLIR 的线性代数编译器原型,可将带有矩阵属性的公式映射为 BLAS/LAPACK 内核并生成 C++。方案采用目标传递、一次性缓冲区化和调用方工作区,但数值稳定性与优化目标仍待解决。

内容摘要:
LLVM 为 AMDGPU 循环中的常量取余扩展折叠规则,并通过新目标钩子控制适用范围;同时处理步长小于除数、偏移不相交等情况,跳过幂次除数及非每次迭代执行的取余,有助于生成更简化的代码。

内容摘要:
RFC 提议让 Clang 和 MLIR 的所有变更都启用 CIR 构建与测试,以降低上游改动悄然破坏 CIR 的风险。该方案会把部分维护责任扩大到非 CIR 开发者,社区对其是否实质改变支持级别存在分歧。


三、Triton & TileLang 技术动态

内容摘要:
Triton(WIP)为 AMD 后端拆解 bf16 或 fp16 与 FP6 的缩放点积,新增 upcast_fp6 以整数运算解码打包 FP6 数据,并按每组16个值调整线程布局;已覆盖相关矩阵乘测试。

内容摘要:
Triton(WIP)为 gfx950 支持 FP6 e2m3、e3m2 缩放点积及 CDNA4 MFMA,处理 FP6 的12字节数据加4字节填充格式;无原生支持的目标会报错,并提供 MI350 与解释器测试。

内容摘要:
Triton 修复 AMD TDM 对共享内存子视图寻址错误,覆盖异步加载、存储、聚集和散射,并保留列切片行间距;验证器还会拒绝无法访问的子视图,避免内核静默读写错误,同时修正越界写入、降秩存储及非法填充编码。

内容摘要:
提议在边界允许时改用对齐的缓冲区掩码偏移,针对 AMD gfx950 上 0xFFFFFFFF 引发的缓冲处理开销和占用率下降。固定微基准中,改用 -16 后内核中位耗时由175.680微秒降至162.800微秒;该数据仅适用于给定 dword 测试。

内容摘要:
提议允许链式点积检测跨越一层 scf.if,使带分支的注意力形状内核恢复针对性布局,避免回退到通用布局。证据中的合成测试显示注意力内核效果约为1.10倍;无相关归约的内核主要实现与无分支版本布局一致。

内容摘要:
修复 Ascend ND-to-NZ 部分拷贝使用不存在的静态 PAT_VL 模式导致无法解析的问题,非预定义尾部长度改用运行时掩码,并同步处理 vcpadd 合并掩码。改动仅涉及 Ascend/PTO;因缺少设备和工具链,尚未完成硬件汇编验证。

内容摘要:
为 AMD 填充共享布局新增 bank_conflicts 检测,扩展 gl.bank_conflicts 的分析范围并改善相关诊断。当前实现仅依据布局分析,暂不支持转置加载和非连续加载;改动只影响该检查的正确性,不改变其他代码行为。

内容摘要:
修正 Ascend GEMM 输入类型表与两套代码生成后端的不一致:补充 float8_e5m2,针对 PTO 拒绝整数类型,并将裸断言改为可捕获且列出支持类型的 ValueError。相关路径尚未用 Ascend 工具链验证。

内容摘要:
修正 Ascend CCE 后端对 T.set_hf32_mode(“nearest_zero”) 的映射,使其生成 NEAREST_ZERO,避免实际采用与文档及 PTO 后端不同的舍入操作。变更尚未完成 CANN 编译验证。

内容摘要:
修复仅设置 TILELANG_TARGET 时默认后端仍解析为 auto 的问题,使其可作为 TILELANG_DEFAULT_TARGET 的回退,同时保留规范变量优先级和空值语义。验证中仅设置该别名后,CuTeDSL 目标上的10个 deep_select 与2个 blocksparse 测试均通过。


四、AI 业界重磅新闻

内容摘要:
谷歌发布 Gemini 4 Hydrogen,面向 Gemini API、AI Studio、企业服务、应用和搜索等场景,提供百万令牌上下文,输入每百万令牌1.50美元、输出7.50美元;谷歌称其适合快速编码和代理工作流,并公布多项内部测试结果。

内容摘要:
谷歌宣布将 Gemini 4 Hydrogen 全球接入搜索,支持更复杂的多部分问题、并行查询和意图理解,并新增图片、结构化答案、对比表及定制工具,用户可获得更完整、易扫描的搜索结果。

1 个赞