AI 引发哲学家与科技领袖重新思考意识问题
AI 模型日益先进,科技领袖与哲学家正探讨人类与技术的关系。
AI 模型日益先进,科技领袖与哲学家正探讨人类与技术的关系。
多大NewMedia分析了AI如何加速产业重构,指出AI可能同时改变经济结构重构速度、组织制度适配能力和风险传导机制。文章通过电气化历史和AI实践对比,认为AI确实提高了某些环节效率,但整条产业价值链的同比例加速仍面临约束。金融AI Agent的兴起还带来了责任边界和风险传导的新挑战。
AI正在重塑知识工作者的身份认同,专业能力稀缺性、成果归属感和组织决定权面临重新分配。企业需通过分配判断权和责任来维持员工价值,个人则需在职业外建立多元身份来源。社会制度也需承认职业外的贡献,以应对AI带来的身份焦虑。
57%的美国人认为 AI 对社会有害,42%认为有益;30岁以下群体中65%持负面看法,40岁以上为53%。50%受访者认为 AI 对个人有益,49%认为有害,共和党人更倾向个人受益。
苹果推出新品牌强调人工制作音乐的价值,在 AI 生成内容泛滥的时代凸显人类创造力的重要性。
人们面对复杂人生问题时转向AI寻求答案,如职业选择、研究方向预测等。AI系统被赋予回答神谕式问题的角色,成为新的数字神明。
Jack Clark在IMF曼谷会议上发表演讲,认为AI已开始自主进行科学研究,奇点已经到来。他列举了AI在数学、生物学和机器人学等领域的突破,并预测这将加速科学进步,改变全球经济格局。作者呼吁政策制定者做好准备,平衡AI带来的机遇与风险。
康奈尔大学应用数学家Steven Strogatz称2026年可能是数学的奇迹之年或灾难之年。陶哲轩从AI积极拥护者转为抵制者,联合25位菲尔兹奖得主抵制OpenAI,认为AI暴力解题会伤害数学研究本质。OpenAI近期宣布攻克三维纳维-斯托克斯方程,并发布722篇AI生成的数学手稿,引发数学家对'知识崩塌'的担忧。
推荐理由:AI暴力解题引发数学界恐慌,陶哲轩从AI拥护者转为抵制者,揭示数学研究本质与AI解题的深层矛盾。
观潮分析了AI代理参与竞争后带来的变化:价格不再被发现而是收敛,筛选机制从'谁更好'转向'谁先被看见',入场门槛持续上升。这种现象被称为'局部忠诚悖论',每个系统都忠实于自己的委托人,但市场为所有人的忠实付出了额外成本。
AI剧人物频繁出现“面色一红”等可疑脸红,源于提示词套路与模型对情绪理解的局限。AI无法区分脸红背后的羞、恼等复杂情绪,仅渲染明显红脸特征,暴露了硅基缺乏具身经验的短板。
埃隆·马斯克一生并行运营SpaceX、特斯拉、OpenAI、Neuralink等多家公司,以极简代码风格重写世界。他用“把电子邮件变成钱”“让燃油车不再酷”等朴素描述成就,2008年曾濒临破产却坚持技术突破。这份履历展现了他对时间密度的极致追求和改变人类未来的狂热。
中国科学院院士鄂维南表示AI将大幅降低科研门槛,推动'科研平权化',未来民科将成为科研主力。他认为可以构建AI原生工业软件体系,一两年内可实现对西门子的超越,并预测工业生产线建模三年内可实现。
2026年多部好莱坞电影对科技领袖持批判态度,包括扎克伯格、马斯克和奥特曼等人物。这些作品基于真实报道,反映了公众对科技巨头看法的转变。马斯克试图阻止其纪录片上映,亚马逊撤回了对其批判性AI电影的发行。这些电影虽票房不佳,但标志着文化对科技态度的重要转变。
马斯克称过去一年经历六次“AI/SI精神错乱”,指自己相信AI能理解美。该非正式医学术语被科技圈人士用于形容对AI的痴迷或心理影响。
《柳叶刀》报告指出,AI恶意使用可能在2100年前造成约104亿DALYs损失,超过核冲突的93.5亿。报告认为AI通过降低生物武器研发门槛构成威胁,同时学界对AI末日风险概率存在分歧。
徐克在卢米埃尔电影节表示,AI 正模糊现实与幻觉的边界,广告、互联网与 AI 共同塑造公众难以追溯真实来源的内容。他担忧 AI 的不确定性影响观众对真实事件的判断,并可能进一步塑造个人身份认知。
彼得·蒂尔认为模型时代与互联网时代不同,可能不会出现垄断性平台,价值更多以消费者剩余形式流向用户。他指出模型层更像可替代的智力商品,用户切换成本低,品牌忠诚度弱,且模型切换发生在API和工作流里,不在社交关系里。
TikTok CEO 周受资指出,市场对 AI 短期能力可能高估,却低估其长期影响,未来两至三年 AI 有望推动物理、生物等领域突破。他强调人类判断力与创造力不可或缺,主张通过人机协作把握 AI 机遇,并需建立监督机制确保 AI 遵守伦理规范。
OpenAI和Anthropic等公司高管在公开呼吁接受AI风险的同时,私下购买土地建造避难所,反映了他们对AI失控的深层担忧。
MIT 研究显示,70% 的人在交互 AI 时会表现礼貌,如对机器人说“请”或“谢谢”。这种拟人化倾向源于人类对情感联结的本能需求,但也可能导致过度依赖 AI 而忽视人际互动。专家警告需警惕 AI 对人类自主性的潜在侵蚀,尤其在情感支持领域。
MIT Technology Review文章指出,AI的拒绝机制存在根本性缺陷,既无法完全防止恶意使用,又可能被用于审查。作者认为,依赖AI拒绝是一种危险的权衡,可能导致技术进步受限或被滥用。
《Artificial》是一部讽刺 OpenAI CEO Sam Altman 的电影,聚焦其权力斗争与 OpenAI 的真实事件。影片以 Andrew Garfield 扮演的 Altman 为核心,展现其操控欲与对 AGI 的野心,同时穿插 OpenAI 的真实里程碑。
Albert Edwards 指出当前 AI 的经济效益仍是承诺而非现实。这位以看空股市观点著称的策略师将 AI 热潮与亚洲金融危机相类比。
全球顶级投资人对AI泡沫存在分歧,Novogratz认为泡沫不够大建议入场,达利欧和Taleb警告泡沫接近破裂。高盛数据显示AI相关股票市值已占标普500总市值的42%,超过1999年科技股泡沫顶峰时的41%。
诺贝尔经济学奖得主阿西莫格鲁估算,10年内约5%的人类工作会被AI取代,技术可自动化20%但企业采纳受限。微软AI首席执行官苏莱曼转发此预测,此前曾称白领岗位任务将在12-18个月内自动化。
陶哲轩在SAIR演讲中公开批评AI公司无休止加速,提出AI在数学领域的发展可能导致'证明消化不良'和创造力丧失。他联合25位菲尔兹奖得主联名写信,呼吁AI公司放慢速度,而OpenAI虽成立顾问小组但拒绝就数学内部进展提供建议。
推荐理由:陶哲轩从AI支持者转为减速派,揭示了AI加速发展可能带来的数学研究生态危机。
软银创始人孙正义在京都论坛上警告称,随着AI能力指数级增长,超级智能落入错误之手可能变得极其危险,呼吁各国建立互信共同应对AI威胁。
作者提出AI治理的六项指导原则,包括识别'人类中间件'、用原则替代规则、不伤害客户、将企业文化写入代码、安装信任恒温器而非开关、在治理前修复上下文,以及通过例外情况学习领导。
Quinnipiac University 民调显示,47% 美国人希望放慢 AI 发展,30% 要求完全暂停直到安全验证,仅 5% 支持加速。86% 支持独立安全标准,73% 担忧 AI 威胁人类生存,74% 不信任 AI 公司领导者。
调查显示公众对AI持矛盾态度:多数人担忧其负面影响,但使用人数仍在快速增长。作者认为这种矛盾源于企业过度推广AI技术,而非技术本身的问题,并指出与社交媒体发展轨迹的相似性。
OpenAI 分析先进 AI 对突破性想法背后常规工作的关键作用,指出执行能力可能塑造未来经济与技术进步节奏。