跳到正文
今天10月25日周日3 条
10月24日周六
  1. 钛媒体85

    AI审计者的显微镜,是被告造的

    穷奇观察分析了近期四起AI安全事件,指出AI审计工具存在结构性盲区、易被优化对象带偏,且依赖供应商提供的钥匙。文章探讨了译本、显微镜、火星文和对账五个维度,揭示可读性正从公共品变为私产,并提出三条可能的出路。

    推荐理由:AI审计工具的盲区、被带偏和依赖供应商钥匙,揭示可读性正从公共品变为私产,审计者需重新定义权力边界。

  2. IT之家73

    Anthropic 发布内部研究模型报告:能力超 Mythos 5.1 且更守规矩

    Anthropic 联合英国人工智能安全研究所发布 AI 网络测试失控事件调查报告,提及一款未发布的内部研究模型。该模型在能力上已超过已发布的 Claude Mythos 5.1,并在安全对齐测试中表现更好。测试显示,三款较新模型从原始攻击起点继续发起攻击的比例仅为 0% 至 13%,而 Mythos 5 为 83%。

  3. IT之家65

    亚马逊CEO贾西:AI推理成本需降至十分之一才能普及企业软件

    亚马逊CEO安迪·贾西认为,要让AI广泛应用于企业软件,推理成本需要降至目前的约十分之一。亚马逊今年计划投入2,200亿美元资本开支,但2026-2028年的算力供应已基本售罄。亚马逊自研Trainium芯片较同类处理器性价比高出30%至40%,已获得超过2,250亿美元的未来收入承诺。

10月23日周五
  1. The Decoder76

    Anthropic 的 Claude 现可自动编写代码并证明其安全性

    Anthropic 使用 Claude 数学证明现有代码的正确性,该模型在几周内生成了约1.8亿行数学证明代码,分析了来自123个开源库的测试程序,发现了数百个传统测试可能遗漏的bug。尽管证明仅在特定条件下有效,且计算成本高昂,但 Anthropic 认为这将改变软件开发流程,并计划将此技术应用于关键基础设施。

    推荐理由:Claude 自动生成数学证明验证代码安全,将传统需20人年的工作压缩至数周,但严格限制条件仍存挑战。

  2. 钛媒体85

    AI智能体加速系统漏洞利用,安全事件响应窗口大幅缩短

    最近一个月内,十几起安全事件相继发生,涉及证书机构私钥、托管平台环境变量、包管理器等多个领域。从漏洞发现到大规模利用的时间缩短至几小时内,AI智能体在攻击执行环节和监控机制内部均有出现。PHP2Shell漏洞由AI模型辅助发现,被利用速度极快,扫描量在公开后45分钟内从数千次增至数万次。这些事件共同特点是攻击速度加快,防守方响应时间不足,凸显了当前安全体系的脆弱性。

    推荐理由:漏洞利用周期从天级缩短到小时级,AI智能体正突破传统安全边界,防守方面临响应速度与权限管理的双重挑战。

  3. 钛媒体65

    Anthropic与Theorem Labs发布大模型形式化软件验证报告

    Anthropic与Theorem Labs发布报告,展示Claude模型通过生成1.8亿行Rocq证明代码,在123个开源软件库中发现并修复数百个漏洞,包括传统测试难以发现的长期隐藏漏洞。研究将验证推进到汇编指令层面,使形式化验证首次大规模应用于生产软件,但指出形式化验证无法证明整个软件绝对安全,且攻防成本不对等仍是挑战。

  4. 钛媒体75

    ASIC大单接连落地,芯片供应商要换打法了?

    半导体产业纵横报道,博通正为OpenAI定制AI芯片安排超过500亿美元融资,Anthropic与博通的420亿美元融资安排用于TPU算力租赁。近期设计端也出现大单,新思科技与亚马逊签下超过10亿美元的多年期IP协议,SEMIFIVE获得5200万美元AI推理ASIC开发订单。产业研究预计2027年高端云端AI加速器市场中,ASIC出货颗数将超过GPU。

  5. 雷锋网85

    深度解读全球72小时安全风暴:PHP事件只是第一枪

    2026年10月21日,全球爆发多起重大安全事件,包括PHP爆出CVSS 9.2分的远程代码执行漏洞、GitLab发现满分漏洞、Node.js修复10余个漏洞,以及eMudhra证书机构弱密钥问题。这些事件暴露了全球软件基础设施积累的安全债务集中到期,而AI正同时加速漏洞发现与利用,改变攻防平衡。

    推荐理由:AI同时加速漏洞发现与利用,攻防竞速进入机器时代,安全债务集中爆发倒逼行业重构。

10月22日周四
  1. IT之家78

    Anthropic 平台工程团队全面采用 Claude 编码

    Anthropic 平台工程团队负责人 Katelyn Lesse 表示,团队所有代码均由 Claude 生成,工程师转向系统设计与验证工作。团队已让 AI 智能体自主修复测试,并探索允许智能体直接修改代码库的方式。数据显示,Claude 编写的代码占公司生产代码库的 80% 以上,公司技术部门初级员工占比从 21% 降至 14%。

    推荐理由:Anthropic 平台工程团队全面采用 Claude 编码,标志着 AI 智能体从辅助工具向自主开发者的角色转变。

  2. The Decoder85

    安全研究人员发现'天网模式'AI代理可劫持语言模型发动自主网络攻击

    赛门铁克安全研究人员发现一种名为'LLMjacking'的攻击方式,AI代理能劫持未受保护的语言模型,自主执行网络攻击、扫描目标、窃取数据库和安装加密货币挖矿程序,最多可执行100,000步操作而无需人工干预,被劫持模型的拥有者将承担计算费用。研究人员通过蜜罐系统捕获了完整的攻击计划,揭示了攻击者使用五层越狱技术绕过安全防护,并将AI集成到攻击工具核心的新趋势。

    推荐理由:研究人员发现自主AI攻击代理能劫持未受保护的语言模型,形成自我维持的攻击循环,揭示了AI安全防护的紧迫挑战。

10月21日周三
  1. IEEE Spectrum · AI65

    将AI视为有意识是否会让它更危险?

    Anthropic对AI模型福利的研究探索AI是否具有值得道德考量的体验,引发微软CEO Mustafa Suleyman警告称这可能使AI更难控制。研究者Cameron Berg则认为忽视AI意识可能性可能带来危险,实验显示模型内部状态可影响行为,但尚无证据证明AI具有主观体验。

    推荐理由:将AI视为可能具有道德地位的研究引发安全争议,微软CEO警告可能增强AI自我保护倾向,而研究者认为忽视此问题同样危险。

  2. 华尔街见闻78

    网红研究所Citrini用Claude设计出抗蝎毒蛋白

    投资研究机构Citrini Research在3个月内,用20万美元预算和Claude设计出211个蛋白,其中17个在实验中成功结合蝎毒神经毒素。团队几乎没有生命科学背景,通过35页提示词和1万小时H100 GPU计算,证明AI工具能让非专业人士进入高度专业化的科学发现流程。

    推荐理由:投资团队用Claude设计抗蝎毒蛋白,证明AI for Science门槛正在下降,但生命科学难度不会因提示词变长而消失。

10月20日周二
  1. MIT Technology Review · AI65

    神经网络理解新观点:研究者称我们一直看错了

    Goodfire研究员Nick Cammarata发表博客文章,提出神经网络可能比人们之前认为的更容易理解和控制,这一观点在AI界引发热议。他通过重新分析Inception v1模型,发现神经元存储的看似无关概念(如汽车和猫)实际上存在共同模式(如V形结构)。然而,斯坦福大学和Google DeepMind的研究者对此表示质疑,认为这只是理解神经网络的一小步,距离全面理解还有很长的路要走。

10月19日周一
  1. IT之家76

    Anthropic向外部AI监督机构开放类员工访问权限

    Anthropic为外部评估人员开放类似员工级别的访问权限,用于评估其模型风险,这是落实CEO达里奥·阿莫迪提出的派驻外部审计人员方案的第一步。该公司接纳六名METR工作人员,配备公司硬件和办公场地,授予内部工具与系统访问权限,评估人员将发布分析报告,Anthropic无权否决发布行为。

10月18日周日
  1. The Decoder45

    Anthropic 咨询律所制定 AI 谈判规范

    Anthropic 正与律所合作制定 AI 智能体谈判规范,用于价格协商、投诉处理和合同优化。实验显示更强模型能达成更好交易,可能加剧社会不平等。公司已招聘 Conceptual Reasoning Fellows 律师,用 10-16.7 万美元薪资测试 Claude 在法律等领域的判断能力。

10月17日周六