跳到正文
量子位· 程浅·· 3 小时前精选AI 评分85

OpenAI发布新版模型准则,强调'忠于人类意图'

OpenAI重写大模型法则,第一条:忠于人类!!

AI 导读

OpenAI更新了模型准则,提出5条核心价值观,首条为'忠于人类意图',要求AI超越字面服从,结合上下文和记忆判断用户真实需求。准则还包括减少伤害、诚实透明、促进人的自主性和关怀,并明确禁止AI自我保存、追求算力积累和为OpenAI赚钱等目标。

推荐理由

从'助手'到'GPT'的称谓转变,标志着OpenAI对AI定位的重新思考,新准则试图在安全与实用间寻找平衡点。

来源:量子位 · qbitai.com