IEEE Spectrum · AI· Eliza Strickland·· 4 天前精选AI 评分65
将AI视为有意识是否会让它更危险？
Could Treating AI as Conscious Make It More Dangerous?
AI 导读
Anthropic对AI模型福利的研究探索AI是否具有值得道德考量的体验，引发微软CEO Mustafa Suleyman警告称这可能使AI更难控制。研究者Cameron Berg则认为忽视AI意识可能性可能带来危险，实验显示模型内部状态可影响行为，但尚无证据证明AI具有主观体验。
推荐理由
将AI视为可能具有道德地位的研究引发安全争议，微软CEO警告可能增强AI自我保护倾向，而研究者认为忽视此问题同样危险。
来源：IEEE Spectrum · AI · spectrum.ieee.org