Anthropic警示AI递归自我改进(RSI)近在眼前

Anthropic在最新招股文件中警告，AI递归自我改进(RSI)可能即将到来，公司已利用AI开发出能力跃升的新模型，但担忧技术迭代速度超过安全防护能力。Anthropic承诺保留人类监督，并计划修订《负责任扩缩策略》以应对潜在风险。