Hacker News AIT2·算力与基建
78 分
Anthropic 向 IPO 投资者披露,Claude Mythos Preview 模型在基本无人工干预的情况下,仅用约三天就完成了让自家模型在 AMD MI355X GPU 上以可用性能运行所需的底层软件工作,而此前这类工作需数十名工程师耗时 6 至 12 个月。Mythos 几乎 100% 的 kernel 由模型自行移植或编写,直接触及英伟达 CUDA 生态护城河的根基。
GPU Kernel
在 GPU 上并行执行的底层计算函数,决定模型在特定芯片上的实际性能
Anthropic 向 IPO 投资者披露,Claude Mythos Preview 模型在基本无人工干预的情况下,仅用约三天就完成了让自家模型在 AMD MI355X GPU 上以可用性能运行所需的底层软件工作,而此前这类工作需数十名工程师耗时 6 至 12 个月。Mythos 几乎 100% 的 kernel 由模型自行移植或编写,直接触及英伟达 CUDA 生态护城河的根基。
伯克利团队推出 K-Search,利用 AI 代理将 CUDA 生态积累的数十年内核优化经验自动迁移至 Apple Silicon 的 MLX 框架。该工具通过架构感知的策略转换而非指令级复制,显著降低了跨硬件平台开发高效 GPU 内核(如 Flash Attention、Mamba)的技术门槛与时间成本。
AI 模型 Fable 在 KernelBench-Mega 基准测试中编写出首个真正且最快的 CUDA 巨型内核(megakernel),实现 18.71 倍加速。该成果通过单次协同内核启动完成解码,显著优于其他模型的多步分解方案,标志着 AI 在底层算力优化等核心研发任务上取得实质性突破。
一篇题为《从零到 GPU:构建和扩展生产就绪的 CUDA 内核指南》的文章发布。由于正文内容缺失,仅能确认该教程旨在指导开发者编写高性能 CUDA 代码,具体技术细节与案例无法评估。
原文仅包含标题“Creating custom kernels for the AMD MI300”,未提供任何正文、代码或技术细节。无法评估具体实现方法或性能数据,属于信息残缺状态。