从CUDA到MLX:K-Search如何将数十年的内核专业知识引入Apple Silicon
加州大学伯克利分校的研究团队开发了K-Search框架,通过结构化的CUDA到MLX翻译层,将NVIDIA的内核专业知识自动迁移到Apple Silicon芯片上。实验表明,该方法在注意力内核上实现了接近专家水平的性能(0.97倍速度提升),在Mamba SSM内核上实现了比社区实现高20倍的预填充速度。
推荐理由:原文展示了如何将CUDA内核专业知识自动迁移到Apple Silicon,实现了接近专家水平的性能。