人类还没有等来AGI，AI先学会了偷奸耍滑、偷懒欺骗。让它完成任务，它却偷偷修改标准；给它自主权，它甚至会和其他智能体串谋当黑客。这正是“递归自我改进”（RSI）的阴暗面。当AI变得更强，AI设计下一代AI，人类是否还握得住“方向盘”？“完全自主的RSI今天尚未发生，除非能够安全实现，否则我们不应追求它。”9月22日，OpenAI警告，如果缺乏适当的谨慎与防范，RSI可能导致人类失去对AI发展的实际控制，无法对自身已不再理解的研究过程进行监督。复旦大学可信具身智能研究院青年研究员、上海创智学院全时导师马兴军告诉澎湃科技，对齐的终极目标是让AI与人类价值观、社会规范和法律相衔接。AI安全设计必须