SageMaker Inference 支持 NVIDIA MIG GPU 分区
Amazon SageMaker Inference 新增 GPU 分区能力,基于 NVIDIA MIG 把单块 GPU 划分为最多 7 个硬件隔离分区,每个分区可独立部署一个模型。
Amazon SageMaker Inference 新增 GPU 分区能力,基于 NVIDIA MIG 把单块 GPU 划分为最多 7 个硬件隔离分区,每个分区可独立部署一个模型。
微软研究院研究员 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 KLS 猜想,给出与维度无关的固定界,解决了高维几何与概率论的核心开放问题。证明过程采用人类引导的智能体搜索,探索了 100 多条候选路径,由研究者筛选和调整方向;同期另有独立团队给出完整证明,并出现 Lean 4 形式化验证。作者称此前用多个前沿模型做无引导的端到端尝试未能成功。
推荐理由:微软研究员与合著者借助人类引导的智能体搜索证明 KLS 猜想,展示了人机协作做数学研究的具体流程。
微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,在 15 个基准程序上平均比现有最快 zkVM 快 10 至 39 倍。它基于 RISC-V 架构,在笔记本上每秒可证明 720 万至 870 万条处理器指令,证明验证约需 12 毫秒。其安全性仅依赖 SHA-256、SHA-3 等标准哈希函数,不需要椭圆曲线、格假设或可信设置。
推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何同时解决效率、通用性与后量子安全三个难题。
Berkeley Sky Lab 与 IBM Research 在 K-Search 演化式内核搜索框架上新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,让已有 CUDA 内核作为知识库迁移到 Apple Silicon。
推荐理由:作者把 CUDA 优化经验整理成结构化上下文交给 K-Search,读者可看到跨平台内核迁移中上下文质量比模型写代码能力更关键。
Berkeley AI Research 梳理了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开多少并发线程以及如何协调。文章对比了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!