Palantir旧访谈翻红：企业级AI订单，拼的不只是模型
Alexandr Wang的访谈指出，在大型组织和政府客户那里，公司形象有时比产品本身更能左右决策。Palantir通过前线部署工程师(FDE)模式赢得客户，OpenAI和Anthropic也在采用类似策略。95%的企业生成式AI试点未产生可量化收益，问题多出在部署环节。
推荐理由：原文揭示了企业级AI订单中客户认知与驻场工程的关键作用，为理解行业竞争提供了新视角。
技术方向
部署工程 最新动态
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
57 条精选近 30 天 52 条共收录 199 条
更新
精选归档 · 第 3 页
钛媒体精选AI 评分7676
NVIDIA Blog精选AI 评分6565 电信运营商为何构建基于开放模型的AI战略
NVIDIA报告显示89%的电信运营商认为开源模型对其AI战略至关重要，开放模型提供成本效益、定制能力和本地化服务优势。NVIDIA推出Nemotron系列开放模型，并与SoftBank、AT&T等合作开发电信特定AI应用，帮助运营商构建自主网络和客户服务AI系统。
推荐理由：原文分析了电信运营商采用开放模型的战略价值，包括成本控制、定制化和本地化服务。
华尔街见闻精选AI 评分7878 华尔街AI招聘从"造模型"转向"部署落地"
华尔街AI相关职位同比激增49%，达到139,819个，其中"Agent编排工程师"职位引用量暴增1,721%。银行正加速从聊天机器人阶段迈向由多个AI智能体协同处理业务的下一阶段，生成式AI经理基本薪资中位数约为19万美元。
推荐理由：原文揭示了华尔街AI人才需求从模型构建转向部署落地的趋势，以及Agent编排工程师的爆发式增长。
AWS Machine Learning Blog精选AI 评分7272 AWS 发布 SageMaker 优化推理技能，为编码智能体提供专业支持
AWS 发布 aws-ai-ml 技能，通过 Agent Toolkit for AWS 为 Kiro、Claude Code 和 Codex 等编码智能体提供 SageMaker AI 推理优化和基准测试能力。该技能可帮助用户基准测试端点、推荐部署配置、比较性能运行，并生成可执行的 SageMaker Python SDK v3 代码，无需专业知识即可完成模型到生产的优化过程。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
AWS Machine Learning Blog精选AI 评分6868 Amazon Quick推出企业级自动化跨账户资源迁移工具
AWS发布Amazon Quick Resource Migrator，这是一个基于Amazon Bedrock AgentCore的MCP服务器，可自动化、可审计地将Amazon Quick资源从开发账户迁移到生产账户。该工具支持代理、连接器、知识库、流程和空间的迁移，具有幂等性、权限完整性和可回滚特性。
推荐理由：原文给出了自动化跨账户资源迁移的解决方案，读者可以据此了解如何实现企业级Amazon Quick资源的安全迁移。
AWS Machine Learning Blog精选AI 评分6565 使用LangChain和Amazon Bedrock知识库实现智能检索
AWS官方博客介绍了如何在Amazon Bedrock Managed Knowledge Base上使用LangChain构建RAG应用，详细展示了标准检索与智能检索两种方法的实现、成本对比和适用场景。智能检索通过将复杂问题分解为子查询，提高了多跳问题的召回率，但成本更高。文章提供了完整的代码示例和架构图，帮助开发者根据查询类型选择合适的检索方法。
推荐理由：原文详细介绍了如何在Amazon Bedrock中使用LangChain实现智能检索，并对比了标准检索与智能检索的适用场景。
NVIDIA Blog精选AI 评分6565 NVIDIA博客：AI如何助力乳腺癌筛查与治疗
NVIDIA博客介绍了多家AI初创公司如何利用NVIDIA技术解决乳腺癌筛查、诊断和治疗中的关键问题。iSono Health开发了FDA批准的ATUSA平台，通过3D超声成像提高检测灵敏度；Whiterabbit.ai开发了AI辅助乳腺癌筛查工具；Ataraxis AI利用AI预测患者对治疗的反应；SimBioSys则通过3D可视化提供肿瘤见解。
推荐理由：原文介绍了多家AI初创公司如何利用NVIDIA技术解决乳腺癌筛查、诊断和治疗中的关键问题。
AWS Machine Learning Blog精选AI 评分6565 使用Amazon Quick和裁决查询模式进行大规模租赁合规检查
AWS介绍了Adjudicated Query模式，通过Amazon Quick聊天界面与确定性规则引擎结合，实现大规模租赁合规检查。该架构提供可验证的完整性收据和完整的证据链，确保合规决策的可辩护性。文章提供了完整的参考实现和部署指南，适用于租赁合规、保险理赔裁决等多种高风险合规场景。
推荐理由：原文提供了完整的合规检查架构和实现方法，读者可以直接部署使用。
NVIDIA Blog精选AI 评分7373 NVIDIA 发布 DGX Spark 64GB 版本
NVIDIA 推出 DGX Spark 64GB 配置，支持运行 1000 亿参数模型，双节点集群可扩展至 2000 亿参数并提升 1.7 性能，10 月 23 日起售价 4999 美元起。
推荐理由：原文给出了配置升级和集群能力，读者可以据此评估本地AI开发环境扩展性。
NVIDIA Blog精选AI 评分7575 NVIDIA推出高效、耐用、多功能的AI工厂以最大化投资回报
NVIDIA推出AI工厂，强调其高效性（每兆瓦最高吞吐量和最低token成本）、耐用性（硬件使用寿命长）和多功能性（支持各类AI和非AI工作负载），以最大化投资回报。NVIDIA平台通过全栈工程协同设计和持续软件优化实现这些特性，并展示了多个客户应用案例。
推荐理由：原文详细阐述了NVIDIA AI工厂如何通过高效、耐用和多功能设计最大化投资回报。
Latent Space精选AI 评分8585 OpenAI发布计算机使用功能和API更新
OpenAI在DevDay上发布了多项计算机使用功能更新，包括Dots产品、GPT-6.1模型、Agents API和Decisions API。Ari Weinstein和Nikunj Handa详细介绍了计算机使用能力的180度转变、自调试能力提升、App Shots功能增强，以及Decisions API如何快速实现Jev风格决策模型。
推荐理由：原文详细介绍了OpenAI新发布的计算机使用功能和API更新，包括Decisions API和Agents API的能力变化。
NVIDIA Blog精选AI 评分7676 NVIDIA与CoreWeave推出Vera Rubin系统，加速AI智能体从训练到生产
NVIDIA与CoreWeave合作推出Vera Rubin NVL72系统和专为AI智能体设计的NVIDIA Vera CPU，Cognition成为首个在生产环境中使用Vera Rubin的客户，实现了4.8倍的token吞吐量提升。CoreWeave还发布了CoreWeave Forge平台，整合了模型训练、评估和改进工具，并宣布了多家企业客户采用其AI基础设施。
推荐理由：原文给出了具体性能提升和客户案例，读者可据此评估新硬件对AI智能体工作流的影响。
GitHub Blog · AI & ML精选AI 评分6565 GitHub Copilot：当聊天界面不再是最佳选择
GitHub Copilot引入canvas功能，提供可定制的用户界面，允许用户与AI进行更高效的交互，超越传统聊天界面的限制。canvas是一个全栈应用，可在GitHub Copilot应用内运行，支持双向通信和本地代码执行，帮助用户构建工具而非单纯消耗token。
推荐理由：文章提供了超越传统聊天界面的AI交互新思路，展示了GitHub Copilot的canvas功能如何解决实际开发问题。
Microsoft Research精选AI 评分7575 Microsoft Research发布物理AI机器人推理卸载功能
Microsoft Research推出物理AI工具链中的推理卸载功能，通过将AI推理任务从机器人本地GPU转移到边缘或云端，显著提升了机器人的任务成功率、响应能力和电池寿命。该功能支持使用Kubernetes工具进行分布式推理，已在实际场景中测试验证。
推荐理由：原文展示了将AI推理任务从机器人本地转移到边缘或云端的实际效果，读者可据此优化机器人系统的性能和电池寿命。
Mistral AI精选AI 评分7575 Mistral AI 使用智能体迁移复杂遗留代码
Mistral AI 帮助欧洲能源运营商将40,000行Fortran 77代码迁移到C++，通过构建等价测试框架、文档化和结构化智能体工作流程，实现了遗留代码的现代化改造。
推荐理由：原文详细介绍了AI辅助遗留代码迁移的方法和经验，读者可借鉴其工作流程和验证策略。
Mistral AI精选AI 评分7575 Mistral AI推出区域推理、开放模型和欧洲AI基础设施计划
Mistral AI推出区域端点、优先层级服务，并支持第三方开放模型，同时组建联盟确保欧洲长期AI算力供应，计划到2030年建设1 GW容量。
推荐理由：原文提供了区域推理、开放模型选择和欧洲基础设施建设的具体措施，展示了AI主权化的实践路径。
Berkeley AI Research精选AI 评分8181 从CUDA到MLX：K-Search如何将数十年的内核专业知识引入Apple Silicon
加州大学伯克利分校的研究团队开发了K-Search框架，通过结构化的CUDA到MLX翻译层，将NVIDIA的内核专业知识自动迁移到Apple Silicon芯片上。实验表明，该方法在注意力内核上实现了接近专家水平的性能（0.97倍速度提升），在Mamba SSM内核上实现了比社区实现高20倍的预填充速度。
推荐理由：原文展示了如何将CUDA内核专业知识自动迁移到Apple Silicon，实现了接近专家水平的性能。