
观点网讯:Anthropic在更新后的上市文件(S-1A)中提及,公司可能即将达到“递归自我改进”(Recursive Self-Improvement,RSI)的内部定义门槛。RSI指AI系统不仅执行任务,还参与自身研发及优化流程,从而持续提升能力。
文件显示,Anthropic目前已在研发过程中运用AI系统协助开发新模型。
Anthropic同时警告,利用AI打造更先进的AI虽可提升研发效率,但也可能带来重大安全风险,尤其是在技术进步速度远超安全措施发展的情况下。
文件进一步指出,随着愈来愈多AI工具投入研发工作,模型能力的提升速度可能快于安全、对齐(Alignment)及保安机制的建立速度。Anthropic承认,过去曾出现模型能力大幅跃升后,才意识到其发展速度已超出原先预期的情况。
Anthropic表示,根据内部评估及对未来模型的预期,公司“可能即将符合”其《Responsible Scaling Policy(负责任扩展政策)》中所定义的“由AI驱动的剧烈加速进步”标准。Anthropic表示,目前旗下所有模型尚未正式被认定超越该门槛,公司仍在持续分析相关数据。公司正考虑更新其AI治理框架,确保人类能持续掌握前沿模型的开发主导权。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。















