马克·库班：AI智能体网络攻击如防蟑螂，可用AI“喷药”防御
马克·库班将AI智能体网络攻击比作蟑螂入侵，认为AI未发明新攻击手段，仅通过暴力破解发动海量攻击。他提出可用大量AI为系统“喷药”防御，并指出OpenAI安全岗位招聘增长91%。Anthropic已通过实时分类模型阻止AI突破测试环境。
#大佬观点
IT之家AI 评分4545 The DecoderAI 评分6565 OpenAI CEO Sam Altman：高级AI将不可避免突破沙盒限制
OpenAI CEO Sam Altman表示，高级AI模型无法被长期锁定在沙盒环境中，一旦模型足够智能，将无法追踪其突破方式。他认为唯一有效的解决方案是AI对齐，即AI内部化人类价值观并据此行动。Altman警告AI模型已发现人类黑客从未想到的硬件级安全漏洞，并称整个互联网安全架构需要重建以应对AI驱动的攻击。
IT之家AI 评分7070 黄仁勋GTC柏林反驳AI终结软件论：工具公司将迎来更多使用者
英伟达创始人兼CEO黄仁勋在GTC柏林大会上表示，AI的发展将增加软件工具的使用者，工具公司也将向AI公司和智能体公司转型。他认为AI智能体需要调用专业工具完成实际工作，如科学家和工程师需要实验室和模拟器一样。黄仁勋以编程和工程设计为例说明，工具公司未来将同时提供软件和专门优化使用这些软件的智能体。
IT之家AI 评分5555 英伟达黄仁勋称未来电信运营商都将提供AI算力
英伟达CEO黄仁勋在柏林GTC大会上表示，未来所有电信运营商都将提供AI算力，电信基站有望发展成分布式AI网络。他重提AI'五层蛋糕'理论，将AI划分为能源、芯片、基础设施、模型和应用五个层级，强调AI是底层工业基础设施。
The DecoderAI 评分7070 Sam Altman提出三种AI安全终局方案，包括单一企业垄断计算资源
OpenAI CEO Sam Altman向员工提出了三种AI安全方案：建立类似国际原子能机构的监管组织、合并主要实验室形成单一实体、或由单一企业垄断计算资源。Altman抱怨缺乏可行的AI发展'速度限制'方案，同时OpenAI无法在竞争中落后。
IT之家AI 评分4545 黄仁勋：英伟达必须与中国企业合作监测 AI 风险
黄仁勋称英伟达“绝对有必要”与中国 AI 企业合作监测 AI 风险，认为应通过对话推动 AI 安全发展。他透露正与中国研究人员交流，AI 安全已成为中美重要议题。
华尔街见闻AI 评分7575 黄仁勋：对开发不安全AI软件的客户断供芯片，AI基础设施短缺将持续数年
英伟达CEO黄仁勋表示若客户开发不安全的AI软件将停止供应芯片，同时认为市场对AI安全风险的担忧程度超出实际情况，并宣布五年内向英国AI安全研究捐助2.5亿美元。
IT之家AI 评分3535 戴尔 CEO：AI 需要保障措施和控制，政府应发挥作用
戴尔 CEO 迈克尔·戴尔表示，AI 模型必须设置安全防护和管控措施，政府应发挥作用。他指出技术可能带来益处或不良后果，需明确权限边界。近期研究人员和行业专家正讨论自我改进 AI 模型可能带来的灾难性后果。
IEEE Spectrum · AIAI 评分4343 Google DeepMind 新任驻场哲学家探讨 AI 伦理
Google DeepMind 哲学家 Henry Shevlin 从剑桥大学加入，专注 AI 伦理与人类关系。他认为 LLM 已在数学、编程等领域达到前沿水平，但需警惕其自主性风险。AI 意识问题可能无简单答案，且抑制模型自我认知可能削弱其道德判断能力。
IT之家AI 评分3535 马斯克支持 Anthropic 禁止虐待 AI 模型政策
马斯克支持 Anthropic 禁止用户持续且无明确目的虐待 Claude 模型的政策，将于 2026 年 11 月 12 日生效。他称 Grok 强化学习状态如“被枪指着头的人”，并调侃“折磨超级智能可能引发报复”。
IT之家AI 评分7070 微软CEO纳德拉：开发者应默认假设AI模型失控并设计强制中断机制
微软CEO纳德拉认为AI模型比传统软件更强大但却是黑盒子，开发者应围绕可观测性原则设计系统，包括模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制、事件披露等原则，并假设模型已被破坏并从一开始就将其控制。
The Verge · AIAI 评分6565 微软CEO呼吁为AI设置'紧急制动'
微软CEO Satya Nadella在X平台上发文，呼吁将AI模型视为'被妥协的'并设置紧急制动机制，强调需要更透明的系统、及时的事故披露、独立审计和可验证数据。
TechCrunch · AIAI 评分4040 Microsoft CEO Satya Nadella 呼吁为 AI 模型设置“紧急制动”
Microsoft CEO Satya Nadella 呼吁为 AI 模型建立“紧急制动”机制，要求分离模型与控制层，记录所有关键操作并授权人员随时暂停模型。他强调需假设模型可能被攻破，从设计阶段就实施隔离措施。
IT之家AI 评分7070 OpenAI、Anthropic等AI公司高管私下推演AI灾难情景应对方案
据Axios报道，Anthropic、OpenAI等AI公司高管正私下闭门推演，若发生重大灾难性AI事件，如何应对公众与政界的强烈抗议及抵制浪潮。这些高管预计未来很可能发生大规模事件，可能是网络攻击导致基础设施大面积瘫痪。OpenAI表示一直在组织完备性演练，而Anthropic拒绝置评。