Mistral AI推出区域推理、开放模型和欧洲AI基础设施计划
Mistral AI推出区域端点、优先层级服务，并支持第三方开放模型，同时组建联盟确保欧洲长期AI算力供应，计划到2030年建设1 GW容量。
推荐理由：原文提供了区域推理、开放模型选择和欧洲基础设施建设的具体措施，展示了AI主权化的实践路径。
技术方向
部署工程 最新动态
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
62 条精选近 30 天 57 条共收录 212 条
更新
精选归档 · 第 4 页
Mistral AI精选AI 评分7575
Berkeley AI Research精选AI 评分8181 从CUDA到MLX：K-Search如何将数十年的内核专业知识引入Apple Silicon
加州大学伯克利分校的研究团队开发了K-Search框架，通过结构化的CUDA到MLX翻译层，将NVIDIA的内核专业知识自动迁移到Apple Silicon芯片上。实验表明，该方法在注意力内核上实现了接近专家水平的性能（0.97倍速度提升），在Mamba SSM内核上实现了比社区实现高20倍的预填充速度。
推荐理由：原文展示了如何将CUDA内核专业知识自动迁移到Apple Silicon，实现了接近专家水平的性能。